AB Komitesi, yapay zeka ile ilgili kurallar çerçevesini içeren dünyadaki birinci yasal düzenleme teklifini açıkladı. Buna nazaran, yapay zeka sistemleri “kabul edilemez risk”,”yüksek risk”, “sınırlı risk” ve “minimum risk” olmak üzere 4 ana kümeye ayrıldı.
İnsanların güvenliği, geçim kaynakları ve haklarına ait açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk kümesinde yer aldı ve bunların kullanımı yasaklandı.
İnsan davranışlarını manipüle eden, özgür iradeyi önleyen, hükümetler tarafından toplumsal puanlama yapılmasını sağlayan uygulamalar ve yapay zeka sitemleri “kabul edilemez” risk kümesine dahil edildi.
Yüksek risk kümesinde ise ulaştırma üzere kritik altyapı, eğitim, robotlu ameliyat, işe alım sürecinde CV kıymetlendirme, kredi derecelendirmesi, kanıt güvenliği, göç, iltica ve hudut idaresi, seyahat evraklarının doğrulanması, yargı ile demokratik süreçler sıralandı.
Bu kümedeki yapay zeka sistemlerinin piyasaya sunulmadan evvel uyması gereken sıkı yükümlülükler getirildi.
Bu sistemlerin ayrımcılık yapması engellenecek, sonuçların izlenebilir olması sağlanacak ve kâfi ölçüde insan nezaretine tabi tutulacak.
Bütün biyometrik kimlik saptama sistemleri katı şartlar içeren yüksek risk kümesine dahil edildi.
ÖZEL DURUMLARDA KULLANILABİLECEK
Emniyet yetkilileri halka açık alanlarda biyometrik kimlik saptama sistemlerini özel durumlarda kullanabilecek. Terör tehdidini önlemek, kayıp çocukları aramak, önemli bir cürmü kavuşturmak yahut bir şüpheliyi tespit etmek için biyometrik kimlik tespit sistemlerine başvurulabilecek. Yapay zeka sistemlerinin bu tıp kullanımları sonlu olacak ve isimli yahut bir diğer bağımsız kuruluşun izine tabi tutulacak.
Hudutlu risk kümesinde yer alan yapay zeka sistemleri kimi şeffaflık yükümlülüğüne tabi olacak. Kullanıcıların bu kümede yer alan “sohbet robotları” ile görüşme yaparken bir makine ile etkileşimde bulunduklarının farkında olması ve şuurlu karar almaları sağlanacak.
Yapay zeka dayanaklı görüntü oyunları yahut istenmeyen e-posta filtreleri üzere uygulamalar asgarî risk kümesinde yer aldı. Vatandaşların hakları yahut güvenliği için asgarî yahut hiç risk içermeyen bu kümedeki yapay zeka sistemlerine müdahale edilmedi.
Kelam konusu yapay zeka alanında kontrol sorumluluğu ve yetki ulusal makamlarda olacak. Bu alanda uygulama ve standartların geliştirilmesi hedefiyle Avrupa Yapay Zeka Konseyi oluşturulacak.
Kelam konusu düzenleme teklifinin yürürlüğe girmesi için Avrupa Parlamentosu (AP) ve üye ülkelerin onayı gerekiyor.
Düzenleme yasalaştığında, AB ülkelerinde faaliyet gösteren ABD teknoloji şirketlerinin faaliyetleri de sonlandırılmış olacak.
