Avrupa Birliği, yapay zeka uygulamalarının yasaklanan kullanımları hakkında AB Yapay Zeka Yasası içinde sağlam hukuki netlik sunmak amacıyla Kılavuzlar yayınladı. Bu adımın temel amacı, etkili, tutarlı ve birleşik bir uygulama sağlamak ve Avrupalı vatandaşların haklarını ve güvenliğini korumaktır.
AB Yapay Zeka Yasası, Avrupa Birliği’nde yapay zekanın geliştirilmesi, pazar yerleştirmesi, uygulanması ve kullanımı için düzenlemeleri belirler ve 2024 Ağustos’unda yürürlüğe girdi.
Kılavuzlar, dört risk kategorisini içeren bir risk tabanlı yaklaşımı benimser: 1) Kabul edilemez riskler, temel haklar ve insan değerlerine ilişkin riskleri içerir. 2) Yüksek riskler, sağlık, güvenlik ve temel haklara yönelik riskleri içerir. 3) Şeffaflık riskleri: Yapay zeka içinde sınırlı şeffaflık. 4) Minimal veya hiç risk.
Komisyon, AB Yapay Zeka Yasası’nın 5. maddesini açıklığa kavuşturmayı hedefler; “AB pazarına belirli yapay zeka sistemlerinin yerleştirilmesi, hizmete sunulması veya kullanılması, temel hakları ve Birlik değerlerini doğası gereği ihlal eden manipülatif, sömürücü, sosyal kontrol veya gözetleme uygulamaları için yasaklar,” kılavuzda belirtiliyor.
Kılavuzlar, işyerlerinde ve eğitim kurumlarında genel olarak yasak olan duyguları çıkarma yapay zeka sistemlerini vurgular, ancak bunlar tıbbi veya güvenlik nedenleriyle kullanıldığında istisna durumları kapsar ve bu sistemler AB Yapay Zeka Yasası altındaki istisnalar için CE işareti almak zorundadır.
Sağlık alanında depresyon tespiti, intihar önleme ve otizm tanısında yardımcı olma gibi duygu tanıma yapay zekanın rolünü kabul eder.
İşyeri refahı için duygu tanıma yapay zeka ile stres seviyelerini izleme gibi uygulamalar yasaklanmıştır ve tıbbi kullanım olarak kabul edilmez.
“Başka bir örnek, kişileri değerlendiren ve sağlık hizmetleri ve sosyal güvenlik gibi temel kamu yardım ve hizmetlerini alıp alamayacağını belirleyen yapay zeka sistemleridir, bu tür uygulamalar yüksek risk olarak sınıflandırılmıştır,” Kılavuzlar belirtiyor. Bu tür bir yapay zeka kullanımı yasaktır.
Özürlü, yaşlı veya düşük sosyo-ekonomik statüdeki hassas hastaları manipüle eden veya aldatan yapay zeka yasaktır. Benzer şekilde, sadece profil oluşturarak tıbbi durumları tahmin eden yapay zeka, nesnel tıbbi veriler olmadan yasaktır.
Kılavuzlar, gerçek zamanlı biyometrik tanımlama yapan yapay zeka sistemlerinin (örneğin, halka açık alanlarda canlı yüz tanıma) yasaklandığını vurgular, ancak kayıp kişiler gibi belirli kurbanları aramak, terörist saldırıları önlemek ve ciddi suçluları aramak gibi durumlar için istisnalar yapılabilir.
Komisyon, altliminal teknikler kullanan yapay zeka sistemlerinin her zaman zararlı olmadığını belirtir. Örneğin, sigarayı bırakmaya yönlendiren terapötik bir sohbet botu, uzun vadeli sağlık faydalarının geçici rahatsızlıklardan daha ağır bastığı sürece izinlidir.
