Yapay zeka sistemleri, özellikle de diğer makineleri kontrol edebilen sistemler halihazırda endişeye neden oluyor. Birçok
Birinin programlamaya ihtiyacı olduğunu varsayınBir insandan bağımsız olarak öğrenebilmesi için üstün insan zekasına sahip bir yapay zeka sistemi. Daha sonra internete bağlı AI, insanlığın tüm verilerine erişebilecek. Ayrıca mevcut tüm programları değiştirebilecek ve dünyadaki tüm makinelerin kontrolünü ele geçirebilecek. Bu ütopya veya distopya olacak mı? Yapay Zeka Kanseri Tedavi Edebilir, Dünya Barışı Sağlayabilir ve İklim Felaketini Önleyebilir mi? Yoksa insanlığı yok edecek ve Dünyayı ele geçirecek mi?
Bilgisayar bilimcileri ve filozoflar, süper zeki yapay zekayı, insanlık için bir tehdit oluşturmadığından emin olmak için kontrol edip edemeyeceğimizi merak ediyorlar.
"Dünyayı yöneten süper zeki makine,bilim kurgu gibi geliyor. Ancak bazı önemli görevleri tamamen bağımsız olarak yerine getiren makineler zaten var ve programcılar bunu nasıl öğrendiklerini tam olarak anlamıyorlar. Bu nedenle, Max Planck İnsani Gelişme Enstitüsü'ndeki İnsan ve Makineler Merkezi'ndeki dijital mobilizasyon grubunun başkanı çalışmanın ortak yazarı Manuel Sebrian, bu nedenle, bunun bir noktada kontrol edilemez ve insanlık için tehlikeli olup olamayacağı sorusu ortaya çıkıyor ”diyor.
Bilim adamları, nasıl yapılacağına dair iki farklı fikir keşfettilersüper zeki AI kontrol edilebilir. Bir yandan süper zeki yapay zekanın yetenekleri, örneğin onu internetten ve diğer tüm teknik cihazlardan izole ederek dış dünyayla iletişim kuramayacak şekilde özellikle sınırlandırılabilir, ancak bu, süper zeki YZ'yi çok daha az güçlü ve insani görevlere daha az yanıt verebilecek hale getirir. ... Böyle bir fırsat olmadan, AI en başından itibaren, örneğin etik ilkeleri programlayarak, yalnızca insanlığın çıkarlarını karşılayan hedefleri takip etmeye motive edilebilir. Bununla birlikte, araştırmacılar ayrıca süper zeki yapay zekayı kontrol etmeye yönelik bu ve diğer modern ve tarihsel fikirlerin kendi sınırları olduğunu da gösteriyor.
Araştırmalarında ekip geliştirdiİlk önce yapay zekanın davranışını simüle ederek ve zararlı kabul edilirse durdurarak süper zeki yapay zekanın hiçbir koşulda insanlara zarar verememesini sağlayan teorik bir çevreleme algoritması. Ancak dikkatli analiz, mevcut bilgi işlem paradigmamızda böyle bir algoritmanın inşa edilemeyeceğini gösteriyor.
"Sorunu temel kurallara ayırırsakteorik bilgisayar bilimi, yapay zekaya dünyayı yok etmemesini söyleyen bir algoritmanın istemeden kendi operasyonlarını durdurabileceği ortaya çıktı. Bu olursa, sınırlama algoritmasının tehdidi hala analiz edip edemeyeceğini ve kötü niyetli AI içermesini durdurup durdurmayacağını bilemezsiniz. İnsan ve Makineler Merkezi direktörü Iyad Rahwan, aslında bu, çevreleme algoritmasını kullanılamaz hale getiriyor ”diyor.
Bu hesaplamalara dayanarak, kontrol altına alma problemi uygulanabilir değildir, yani hiçbir algoritma yapay zekanın dünyaya zarar verip vermeyeceğini belirlemek için bir çözüm bulamaz.
Ayrıca bakınız:
Arjantin Sağlık Bakanlığı, "Sputnik V" alanların yan etkilerine ilişkin verileri açıkladı
Platypus, memelilerin, kuşların ve sürüngenlerin genetik bir karışımı olduğu ortaya çıktı
Kürtaj ve bilim: doğum yapacak çocuklara ne olacak