Herşey nasıl başladı?
Avrupa Birliği yapay malzemelerin kullanımının yasaklanması olasılığını tartışıyor
Taslak kararın bir parçası olarakAB yöneticisi, "Yapay Zekaya Avrupa Yaklaşımı Üzerine", "hiçbir ayrım yapılmaksızın tüm bireylere genelleştirilmiş bir şekilde uygulanan kitlesel gözetleme" için kullanılan yapay zeka teknolojilerinin yasaklanmasını öneriyor. REGNUM haber ajansının bildirdiğine göre tasarı metninde "kişilerin dijital veya fiziksel ortamda izlenmesi ve takip edilmesinin yanı sıra çeşitli kaynaklardan gelen kişisel verilerin otomatik olarak toplanması ve analizi" gibi gözetim yöntemleri ayrıntılı olarak açıklanıyor.
Avrupa Komisyonu şunu beyan etmeye çalışıyor:önümüzdeki hafta getirilecek yeni yasaklar kapsamında "insanların toplu gözetimi" için kullanılan yapay zeka (AI) sistemleri yasasının bir kısmı.
Ek olarak, Avrupa Komisyonu yasaklar öngörüyorAB değerlerini veya insan haklarını ihlal eden AI uygulamalarını kullanmak. Bunlar, insan davranışını manipüle eden ve savunmasız nüfusu hedefleyen sistemleri içerir.
Taslağa göre, örneğin AB üyeleri,yüksek riskli AI sistemlerini test etmek ve doğrulamak için değerlendirme komiteleri oluşturun. Ve dünyanın diğer ülkelerinden olanlar da dahil olmak üzere kısıtlamalara tabi olan AI geliştiren veya satan şirketler, küresel gelirlerinin% 4'üne kadar para cezasına çarptırılabilir.
“Yüksek riskli” yapay zeka nedir?
Planlanan kurallara göre,yapay zeka uygulama niyetindeyse, belirli bir kullanım durumunun "yüksek riskli" olup olmadığını ve dolayısıyla zorunlu bir uyum öncesi değerlendirme yapıp yapmadıklarını belirlemek zorunda kalacaklar.
Yüksek riskli AI örnekleri:
- acil servislerin gönderilmesine öncelik veren sistemler,
- insanların eğitim kurumlarına erişimini veya atanmasını belirleyen sistemler,
- işe alım algoritmaları,
- kredi itibarını değerlendirenler,
- bireysel risk değerlendirmeleri yapmak,
- suçları tahmin etmek için algoritmalar.
Yapay zeka kontrol faturasının özü nedir?
Yeni faturanın ne sağladığını açıklıyoruz.
Sistemleri kullanan vatandaşlara ilişkin verilerin toplanmasıgözetim, sosyal ağların, banka bilgilerinin ve diğer kaynakların izlenmesi - "bireylerin gelişigüzel gözetlenmesi, ayrım yapılmaksızın tüm bireylere genelleştirilmiş bir şekilde uygulandığı takdirde yasaklanmalıdır." Başka bir deyişle, eğer bir bireyin yetkili makamların ilgisini çeken bir şeyi varsa "seçici" gözetime pekala izin verilebilir, ancak "her ihtimale karşı" tam gözetim Avrupa'da muhtemelen yasaklanacaktır.
Tasarıda ayrıca yasaklama da öngörülüyor.Bağlantılar, davranışlar, satın almalar ve diğer bilgilere ilişkin bir dizi büyük verinin vatandaşlar üzerinde toplandığı ve bu verilerin bütünlüğüne dayalı olarak vatandaşın sosyal bir portresinin oluşturulduğu bir sosyal derecelendirme veya sosyal kredi sisteminin uygulamaya konması. Yapay zeka veya sinir ağları da bunu çözmeye yardımcı olabilir. Bankacılık sektöründe bunu seviyorlar ve Avrupa da bu konuda bir istisna değil. Ancak Çin, düşük puanlı kişilerin şehirlerarası ulaşım, belirli bölgelerde ikamet etme biletlerinin reddedildiği ve bir dizi başka kısıtlamanın getirildiği bir sosyal kredi sistemi oluşturma konusunda en ileri gitti. Makalede, bu tür yapay zeka sistemlerinin "birinin geçimini etkileme şansının yüksek" olduğu belirtiliyor.
Faturadaki sosyal derecelendirme ile ilgili olarak"Genel amaçlı sosyal göstergeleri değerlendirmek için kullanılan yapay zeka sistemleri yasaklanmalı" dedi. Bu tasarının 21 Nisan'da oylanması bekleniyor. Bu noktaya kadar, Avrupa Komisyonu temsilcileri onaylanmamış belge hakkında yorum yapmayı reddediyor.
Proje ayrıca şunları sağlar:
- "Kullanım koşullarından ve bağlamından açıkça anlaşılamadığı" sürece, yapay zeka ile insan etkileşimi hakkındaki bildirimler,
- Yüksek riskli sistemlerin değerlendirilmeden önce değerlendirilmesiBu sistemlerin insan denetçiler için anlaşılır olmasını ve önyargı açısından test edilmiş "yüksek kaliteli" veri setleri konusunda eğitilmelerini sağlamak da dahil olmak üzere devreye alma,
- Tüm AB ülkelerinin temsilcilerinden oluşan bir “Avrupa Yapay Zeka Konseyi”nin oluşturulması.
Uzmanlar, AI kontrolü hakkında ne düşünüyor?
Belgenin belki de en önemli bölümütoplu gözetim ve sosyal kredi derecelendirmeleri dahil olmak üzere belirli AI kullanımlarını yasaklayan bir makaledir. Ancak, dijital haklar grupları ve politika uzmanlarından projeye tepkiler bu bölümün iyileştirilmesi gerektiğini söylüyor.
“Yasaklı yapay sistemlerin açıklamalarıAccess Now'un Avrupa politika analisti Daniel Leufer, The Verge ile yaptığı röportajda "istihbarat belirsizdir ve ciddi boşluklar yaratabilecek belirsiz bir dil içerir" diye açıklıyor. Bu bölüm kendi deyimiyle "ideal olmaktan uzak".
Ulusal mevzuat tam olarak nasıl karar veriyor?AI kararı kimseye zarar verdi mi, vermedi mi? Öte yandan yapay zekanın kitlesel gözetleme amacıyla kullanılmasına ilişkin yasak "çok hafif". "Güvenilirlik" esasına dayalı sosyal kredi sistemleri yasağının da çok dar tanımlandığını ekliyor. Sosyal kredi sistemlerinin, yardımlardan yararlanmaya uygunluğu gibi konularda karar vermek için birinin güvenilir olup olmadığını değerlendirmesine gerek yoktur.
Twitter'da Ömer Tene, Başkan YardımcısıKâr amacı gütmeyen kuruluş IAPP (Uluslararası Gizlilik Profesyonelleri Birliği), kararın “yeni teknolojiler ve inovasyona yönelik tipik bir Brüksel yaklaşımını temsil ettiği” yorumunu yaptı. Şüpheye düştüğünüzde ayarlayın." Tene'ye göre teklifler kabul edilirse, yalnızca yapay zeka sistemlerinin yaratıcılarını değil aynı zamanda ithalatçıları, distribütörleri ve kullanıcıları da çekecek "geniş bir düzenleyici ekosistem" yaratılacak ve hem ulusal hem de çeşitli düzenleyici kurullar oluşturulacak; AB çapında.
Ancak bu ekosistem ilk olmayacakUniversity College London'da dijital haklar ve düzenlemeler alanında öğretim görevlisi olan Michael Veale, "Büyük Teknolojiyi sınırlama sırasının geldiğini" söylüyor. "Odak noktası öncelikle çalışmaları genellikle düzenleyicilerin veya kendi müşterilerinin incelemesinden kaçan, daha az bilinen iş ve karar verme araçları sağlayıcılarıdır."
Ne gibi değişiklikler yapıldığı bilinmiyorAB politika yapıcıları 21 Nisan'da resmi bir duyuruya hazırlanırken bu taslak teklifte. Ancak bir düzenleme önerildiğinde, Avrupa Parlamentosu Üyelerinden gelecek geri bildirimler doğrultusunda değişikliklere tabi olacak ve her ulus devlette ayrı ayrı uygulanması gerekecek.
Neden yeni bir yasaya ihtiyaç var?
Yapay zekayı düzenlemeye yönelik bir plan bir süredir tartışılıyor.zaman. Şubat 2020'de Avrupa Komisyonu, "yüksek riskli" yapay zeka uygulamalarını düzenlemeye yönelik planların ana hatlarını çizen bir beyaz kitap yayınladı. Her ne kadar yeni taslakta “yüksek riskin” tam olarak nasıl belirleneceği tam olarak belli olmasa da.
Taslak taslağa göre asıl amaçKomisyonun buradaki hedefi, AB değerlerine dayalı kontrol ve denge yoluyla halkın yapay zekaya olan güvenini artırmaktır. Amaç, sözde "güvenilir" ve "insan merkezli" yapay zekanın benimsenmesini teşvik etmektir. Bu sadece "yüksek riskli" uygulamalar için değil, bir kişiyle etkileşime giren herkes için geçerlidir.
Kanun çıkarılırsa ne olacak?
Taslak teklifin kabul edilmesi halindeAB'nin belirli yapay zeka uygulamaları konusunda güçlü bir pozisyon almasıyla sonuçlanacak. Bazı kullanımlar, GDPR mevzuatı kapsamında AB dijital gizlilik düzenlemesine benzer kontrollere tabi olacaktır.
AB gereklilikleri şunları içerir:güvenlik ve yapay zekanın tutarlı doğruluğunun sağlanması -"her türlü ciddi olayın veya"yapay zeka sisteminin işleyişindeki yükümlülüklerin ihlali anlamına gelen herhangi bir arızanın"en geç 15 de denetim makamına rapor edilmesi şartıyla günler sonra bunun farkına vardım.
Komisyonun önlenmesi dikkat çekicidirhalka açık yerlerde yüz tanıma kullanımını yasaklayan öneriler. Geçen yılın başlarında sızdırılan bir taslağa göre, bu fikri düşünüyordu.
Üzerinde hangi değişikliklerin yapılmış olabileceği bilinmemektedir.bu, AB'li siyasetçilerin 21 Nisan'da resmi bir duyuruya hazırlanırken bir taslak öneri. Bununla birlikte, düzenleme önerildiğinde, Avrupa Parlamentosu üyelerinden geribildirim alındıktan sonra değişikliğe tabi olacaktır ve her ulus devlette ayrı ayrı uygulanmalıdır.
Bu, Avrupa'nın düzenlemeden bahsettiği ilk şey değilteknoloji endüstrisi. Bu nedenle, AB yetkilileri Google ve Facebook'u haberler için yayıncılara ödeme yapmaya zorlamak istiyor ve yılın başında Avrupalı politikacılar teknoloji devlerinin liderlerini tekellerini sınırlayan yasaları tartışmaya çağırdı. Tüm hesaplara göre, hazırlanan yasalar teknoloji devlerine tekellerini sınırlamaları için% 10 gelir cezası sağlayacak.
Daha fazla oku
Dünyanın ilk doğru haritası oluşturuldu. Herkesin nesi var?
NASA, Mars'ın örneklerini Dünya'ya nasıl teslim edeceklerini anlattı
Rusya'da yörüngesel bir uçak için bir motor test edildi
Genel Veri Koruma Yönetmeliği, GenelGenel Veri Koruma Yönetmeliği (GDPR), Avrupa Parlamentosu, Avrupa Birliği Konseyi ve Avrupa Komisyonu'nun Avrupa Birliği'ndeki (AB) tüm bireylerin kişisel verilerinin korunmasını güçlendirdiği ve birleştirdiği bir Avrupa Birliği düzenlemesidir. Yönetmelik aynı zamanda AB'den veri ihraç etmeyi de amaçlıyor.
GDPR öncelikle şunları sağlamayı amaçlamaktadır:vatandaşlara kendi kişisel verileri üzerinde kontrol hakkı vermek ve düzenlemeleri AB içinde birleştirerek uluslararası ekonomik ilişkilere ilişkin düzenleyici çerçeveyi basitleştirmek.
Sosyal kredi sistemi ("sosyalderecelendirme ”,“ sosyal güven sistemi ”) - değerleri kitle gözlem araçları ve büyük veri analizi teknolojisi kullanılarak elde edilen çeşitli parametrelerle bireysel vatandaşları veya kuruluşları değerlendirmek için bir sistem. İlk olarak 2010'larda Çin hükümeti tarafından uygulandı.