Herşey nasıl başladı?
Eylül 2021'de yeni bir BM raporu yayınlandı. Uzmanlar ülkelerin ve şirketlerin nasıl çalıştığını inceledi
Dün BM İnsan Hakları Başkanı MichelBachelet, insan haklarına ciddi tehdit oluşturan yapay zeka teknolojilerinin kullanımına ilişkin bir moratoryum çağrısında bulundu. Halka açık yerlerde insanları izleyen kişileri taramak için sistemler dahil. Ülkelerin uluslararası insan hakları hukukuna uymayan AI uygulamalarını derhal yasaklaması gerektiğini kaydetti.
AI kullanımı nerede kabul edilemez?
Yasaklanacak uygulamalarBunlar, insanları davranışlarına göre değerlendiren hükümet “sosyal derecelendirme” sistemlerini ve insanları etnik köken veya cinsiyet gibi gruplara ayıran belirli AI tabanlı araçları içerir.
Yapay temelli teknolojilerBachelet yaptığı açıklamada, istihbaratın "iyilik için bir güç olabileceğini" ve aynı zamanda insan haklarını nasıl etkilediği dikkate alınmadan kullanıldığında "olumsuz, hatta yıkıcı sonuçlara" yol açabileceğini söyledi.
“Bu yapay zekanın eksikliğiyle ilgili değilBM İnsan Hakları Merkezi tematik etkileşim direktörü Peggy Hicks gazetecilere açıkladı. Raporu Cenevre'de sunarken medyaya seslendi. “Mesele şu ki, insan haklarıyla ilgili bu çok önemli işlevsel alanlarda yapay zeka kullanılacaksa bunun doğru yapılması gerekiyor. Ve bunu sağlayacak yapıyı da henüz oluşturmadık."
Bachelet tam bir yasak çağrısında bulunmadıyüz tanıma teknolojisi, ancak hükümetlerin insanların davranışlarını gerçek zamanlı olarak taramayı bırakması gerektiğini kaydetti. Örneğin, personelin performansını değerlendirmek için. Teknolojinin doğru olduğundan, yapay zekanın tarafsız olduğundan ve gizlilik ve veri koruma standartlarını karşıladığından emin olmanız gerekir.
Rapor aynı zamanda endişeleri de beraberinde getiriyor.insanların yüz ifadelerini veya vücut hareketlerini analiz ederek duygusal ve zihinsel durumunu belirlemeye çalışan araçlar. Uzmanlar, bu tür teknolojilerin önyargıya, yanlış yorumlamaya ve bilimsel bir temelden yoksun olduğuna vurgu yapıyor.
"Devlet yetkilileri tarafından sistemlerin kullanılmasıDuyguları tanımak, örneğin polis tarafından gözaltına alınmak veya tutuklanmak üzere kişileri vurgulamak veya sorgulamalar sırasında ifadelerin doğruluğunu değerlendirmek, mahremiyet, özgürlük ve yargının adaleti gibi insan haklarını baltalama riskleri ”dedi.
AI kullanma sorunu özellikle akut nerede?
Her ne kadar raporda belirli ülkelerin isimleribahsedilmiyor, Çin'den bahsetmeye değer. Mayıs ayında yetkililerin Sincan'ın batı bölgesindeki Uygurlar üzerinde duygu tanıma kameralarını test etmek için bir program başlattığını hatırlayalım. Ve Uygurların tanınması. İnsan Hakları İzleme Örgütü'nün 2018 yılında Çin'in Sincan bölgesindeki Müslüman nüfusa yönelik zulme ilişkin bir rapor yayınladığını hatırlayalım. Örgüte göre, son yıllarda Uygurlar toplu halde ve çoğu zaman sebepsiz yere gözaltına alınıyor, hapishanelere ve eğitim kamplarına yerleştiriliyor; Milyonlarca insan sürekli kamera gözetimi altındadır ve onların sosyal statüleri ve kaderleri “sosyal kredi” sisteminde biriken puanlara bağlıdır.
Ancak raporun kilit yazarları, belirli ülkelerin isimlerini vermenin kendi yetkileri dahilinde olmadığını ve hatta ters etki yaratabileceğini söyledi.
“Çin bağlamında nasılve diğer bağlamlarda şeffaflık ve belirli toplulukları hedef alan ayrımcı uygulamalardan endişe duyuyoruz” diye açıklıyor BM sözcüsü Peggy Hicks.
Yapay zekanın kötüye kullanıldığı ABD ve Avustralya'daki birkaç davaya atıfta bulundu.
Amerika Birleşik Devletleri'ndeki en gürültülü emsallerden biri -Amazon ile durum. Bu şirket, yapay zeka alanındaki gelişme merkezlerinden biridir. 2017 yılında şirket, yaklaşık üç yıldır yürütmekte olduğu yapay zeka tabanlı bir işe alım projesini sonlandırdı. Kilit sorunlardan biri adayların cinsiyet ayrımcılığıydı - algoritma kadın adayların değerlendirmelerini hafife aldı.
Bu arada, Avustralya'da mahkeme bir çığır açtıemsal. Yapay zeka sistemleri artık patent başvurularında yasal olarak mucit olarak kabul edilebilir. Ancak, herkes bu karara katılmadı.
Sonuç nedir?
Raporun tavsiyeleri birçok kişinin görüşlerini yansıtıyor.Batı demokrasilerinde siyasi liderler. Yalnızca yapay zekanın ekonomik ve sosyal potansiyelinden yararlanmak değil, aynı zamanda insanları izleyen ve profillerini oluşturan araçların güvenilirliğine ilişkin artan endişeleri de ele almak önemlidir.
ABD Ticaret Bakanı Gina Raimondo,Haziran ayında düzenlenen sanal bir konferans, BM yetkililerinin endişelerini destekledi. "Ayrımcı eğilimleri daha da güçlendirmek için nasıl kullanılabileceğini düşünmek korkutucu" dedi ve "Buna izin vermediğimizden emin olmalıyız."
Bu nedenle, Avrupa düzenleyicileri zatenen riskli AI uygulamalarını engellemek için adımlar attı. Avrupa Birliği yetkilileri tarafından bu yıl ortaya konan önerilen kurallar, gerçek zamanlı yüz tarama gibi belirli AI kullanımlarını yasaklayacak ve insan güvenliğini veya insan haklarını tehdit edebilecek diğer kullanımları sıkı bir şekilde kontrol edecek.
Okumak Daha öte
Eşsiz bir tekne iki dakika içinde denizaltıya dönüşür ve düşman tarafından görünmez
Fizikçiler atomları dünyanın en düşük sıcaklığına soğuttu
Evrenin en detaylı modeli internette yayınlandı. Herkes okuyabilir