Yapay zekanın yaygınlaşması, insanların farkında bile olmadığı bir dizi gizlilik endişesini gündeme getiriyor. Diğeriyle birlikte
Yapay zekadan gizlilik riskleri,kişisel verilerin büyük bir şekilde toplanması nedeniyle, aynı zamanda günümüzün yapay zekasının çoğunu güçlendiren derin sinir ağı modellerinin kendilerinden de. Veriler sadece veritabanı saldırılarına değil, aynı zamanda eğitildikleri modellerde "sızıntılara" karşı da hassastır.
Derin sinir ağları,verilerdeki kalıpları tanımlamak için algoritma kümesi birçok katmandan oluşur. Bu katmanlar nöron adı verilen çok sayıda düğüm içerir ve komşu katmanlardan gelen nöronlar bunlarla birbirine bağlanır. Her düğüm ve bunların arasındaki bağlantılar belirli bilgi parçalarını kodlar. Bu bilgi bitleri, özel bir işlem modeli eğitmek için büyük miktarda veri taradığında oluşturulur.
Örneğin, bir yüz tanıma algoritmasıbir kişinin cinsiyetini daha doğru bir şekilde tahmin edebilmesi için bir dizi özçekim üzerine eğitim aldı. Bu modeller çok doğrudur, ancak çok fazla bilgi de saklayabilirler - aslında, öğrenme sürecinde belirli bireyleri hatırlamak. Saldırganlar, tasvir edilen bir yüzdeki cinsiyeti sınıflandıran derin sinir ağlarını inceleyerek insanları eğitim verilerinden tanıyabilirler.
Gelen koruma yöntemlerinden biriyapay zeka modeline belirsizlik katıyordu. Bu, saldırganların modelin tam olarak ne yapacağını tahmin etmesini önlemek için yapıldı. Belirli bir veri sırasını tarayacak mı? Yoksa bir sanal alan başlatacak mı? İdeal olarak, kötü amaçlı yazılım nedenlerini bilmeyecek ve farkında olmadan ortaya çıkaracaktır.
Yapay zeka gizliliğini geliştirmenin başka bir yolu daDerin sinir ağlarının güvenlik açıklarını keşfedin. Hiçbir algoritma mükemmel değildir ve bu modeller savunmasızdır. Bunun nedeni ise okudukları verilerdeki küçük değişikliklere karşı çok duyarlı olmalarıdır.
Bu güvenlik açıkları şu amaçlarla kullanılabilir:kişisel verilere “gürültü” ekleyerek gizliliğin iyileştirilmesi. Örneğin Almanya'daki Planck Bilişim Enstitüsü'ndeki araştırmacılar, Flickr görüntülerini yüz tanıma yazılımına dönüştürmenin yollarını geliştirdiler. Değişiklikler inanılmaz derecede incelikli, o kadar ki insan gözüyle tespit edilemiyor.
AI'nın azaltmaya yardımcı olabileceği başka bir yolbilgi güvenliği ile ilgili sorunlar - modeller oluştururken verilerin gizliliğini korumak için. Gelecek vaat eden gelişmelere federe öğrenme denir. Google, Gboard akıllı klavyesinde hangi kelimeyi yazacağını tahmin etmek için kullanır. Birleşik öğrenme, tek bir merkezi veri deposu yerine birçok farklı cihazda depolanan verilerden nihai derin sinir ağını oluşturur. Ana avantajı, kaynak verilerin asla yerel aygıtlardan ayrılmamasıdır. Böylece, gizlilik hala bir ölçüde korunmaktadır. Evet, bu mükemmel bir çözüm değil. Yerel cihazlar bazı hesaplamalar yapsa da, bunları tamamlamazlar. Ara sonuçlar, cihaz ve kullanıcısı hakkında bazı bilgileri ortaya çıkarabilir.
Birleşik öğrenme şu konularda fikir sağlar:Yapay zekanın gizliliğe daha saygılı olduğu bir gelecek. Devam eden araştırmalar, yapay zekanın gizlilik endişelerinin kaynağı olmaktan ziyade çözümün parçası haline gelmesinin daha fazla yolunu bulabilir.
Ayrıca okuyun
Koronavirüsün ilk önce hangi organlara saldırdığını ve nasıl olduğunu görün
Dünyadaki ilk organizma kimdi? Yaşamın kökeni hakkında bildiğiniz her şeyi unutun
Dünya çapında çekilen tutulma fotoğraflarına bakın