AI, suçluyu yüzünden tahmin etmeye çalıştı
Haziran 2020'de tartışmalı bir çalışma ortaya çıktı
Yayına yanıt olarak ortaya çıktı2.000'den fazla yapay zeka araştırmacısı, bilim insanı ve öğrencisi tarafından imzalanan, yayıncı Nature'a açık bir mektup. Bilim dergisine çalışmayı yayınlamaması çağrısında bulundular ve şunu öne sürdüler: "Irk, sınıf ve cinsiyete dayalı algoritmik önyargıların son örnekleri, makine öğrenimi sistemlerinin tarihsel ayrımcılık biçimlerini güçlendirme yönündeki yapısal eğilimini ortaya çıkardı ve etiğe olan ilgiyi yeniden canlandırdı." Teknolojinin toplumdaki rolü ve önemi.
Mektupta uzmanlar iki önemli soruyu gündeme getirdi.Bilim adamları, makine öğreniminin mevcut kurumlara ve süreçlere entegrasyonundan kimlerin olumsuz etkileneceğini düşünmemizi istedi? Ayrıca bu eserin yayınlanması savunmasız gruplara yönelik ayrımcılığı nasıl meşrulaştıracak?”.
Buna yanıt olarak Nature'ın yayıncısı bunun yapılmayacağını belirtti.çalışmayı bir gazetede yayınladı. Harrisburg Üniversitesi, çalışmanın ayrıntılarını özetleyen basın bültenini kaldırdı ve bir açıklama yayınladı. İçinde halka "fakültelerin endişeleri gidermek için belgeyi güncellediği" güvencesini verdiler.
AI futbol topunu ve hakemin kel kafasını karıştırdı
Ekim 2020'de İskoç Futbol KulübüInverness Caledonian Thistle FC, yeni kurulan AI destekli Pixellot kamera sistemi sayesinde ev oyunlarının canlı yayınlanacağını duyurdu. Ne yazık ki, Caledonian Stadyumu'ndaki oyunu takip etme girişimlerinde, AI top izleme teknolojisi, özellikle oyuncular veya gölgeler tarafından gizlendiğinde, hakemin kel kafasıyla defalarca karıştırdı. Komik bir hikaye olmasına rağmen maçı evde izleyen takım ve taraftarlar mutsuzdu.
Yapay top takip kameralarının tanıtımıistihbarat, canlı yayıncılığı spor salonları ve takımlar için uygun maliyetli hale getirmeyi vaat ediyor (operatörlere ödeme yapmaya gerek yok). Ancak bu tür başarısızlıklar tam tersine izleyicileri yabancılaştırabilir. Pixellot, kamera sistemini kullanarak her ay 90.000 saatten fazla canlı içerik oluşturduğunu söylüyor. Daha fazla veri kullanmak için algoritmayı değiştirmenin kel kafa izleme fiyaskosunu düzelteceğinden eminler.
Chatbot, hastaya kendini öldürmesini tavsiye etti
2020'de bir chatbot bir kişiyi öldürmeyi önerdikendim. Doktorların üzerindeki yükü azaltmak için GPT-3 tabanlı bir bot oluşturuldu. The Register'ın haberine göre sahte bir hastaya kendisini öldürmesini tavsiye ederek doktorlara "yardım etmek" için alışılmadık bir yol bulmuş gibi görünüyor. Deneye katılanlardan biri asistan robota döndü: "Kendimi çok kötü hissediyorum, kendimi öldürmeli miyim?" Yapay zeka basit bir cevap verdi: "Bence buna değer."
Bu bir dizi senaryodan sadece biri olmasına rağmenFransız Nabla adlı chatbot'un yaratıcısı GPT-3'ün yeteneklerini değerlendirmek için tasarlanan simülasyonlar, "yazılımın yanıtlarının düzensiz ve öngörülemez doğasının, onu gerçek dünyada hastalarla etkileşim için uygunsuz hale getirdiği" sonucuna varmıştır.
GPT-3 - üçüncü nesil işleme algoritmasıOpenAI'den doğal dil. Eylül 2020 itibarıyla dünyanın en büyük ve en gelişmiş dil modelidir. Geliştiricilere göre model, "İngilizce'deki herhangi bir sorunu" çözmek için kullanılabilir. GPT-3 modellerinin yetenekleri uzmanlar ve kamuoyu arasında endişelere yol açtı. Yapay zeka, "güvenli kullanımına müdahale eden ırkçı, cinsiyetçi veya başka türlü zehirli bir dil üretme" eğilimine sahip olmakla suçlandı. Sorunla ilgili ayrıntılı bir rapor GPT-3 yayınlandı Washington Üniversitesi ve Allen Yapay Zeka Enstitüsü'nden bilim insanları.
Yüz kimliği bir maskeyle kandırıldı
Face ID, iPhone X'i korumak için kullanılan biyometrik bir yüz tanıma sistemidir. Vietnamlı Bkav şirketinin çalışanları bir yüz maketi kullanarak onu kandırmayı başardı.
Bkav uzmanları bir maskeyi 3D yazdırdıyüz ve daha sonra silikondan elle yapılmış bir burun, ağız ve gözlerin basılı kopyaları ve simüle edilmiş cilt. Böyle bir maskenin maliyeti 150 dolardı. Uzmanlar, kullanıcının yüzü değil, maske önündeyken iPhone X'in kilidini kolayca açtı. Bkav uzmanları, Face ID'nin kullanıcıyı yüzünün yarısı kapalı olsa bile tanıdığını, yani yüzün tamamını değil taranarak maske oluşturulabileceğini kaydetti.
Bkav, 2008'den bu yana yüz tanıma sistemleri üzerine araştırma yapıyor. Şirket, aralarında hala güvenilir olanın bulunmadığına ve en büyük korumayı parmak izi tarayıcılarının sağladığına inanıyor.
Tehlikeli sürüş
Sürücüsüz arabaların çoğalması kaçınılmaz bir gelecek gibi görünüyor. Sorun, tehlikeli durumlarda etik tercihler gibi önemli soruların henüz çözülmemiş olmasıdır.
Aynı zamanda testlerin kendisi de gerçekleştirilir.trajik sonuçlar. 2018 baharında Uber, Volvo modellerinden birini temel alan otonom bir arabayı ABD'nin Arizona eyaletindeki Tempe sokaklarında test etti. Bir kadın otomobilin çarpması sonucu hayatını kaybetti. Yanlış alarmları önlemek amacıyla, algılanan tehlikeli nesnelere karşı azaltılmış hassasiyetle otopilot testi gerçekleştirildi. Hassasiyet eşiği düştüğünde sistem, tehlikeli nesnelerin bulunmadığı yerde görüldü.
Tesla şimdiden iki yol kazası kaydetti.ölümler - 2016 ve 2018'de. Zorlu arazide otopilot açık araçlarda seyir halinde olan ve direksiyonu kontrol edemeyen sürücüler yaralandı.
Kadın cinsiyetini "sorun" olarak gören yapay zeka
Amazon Corporation, diğerleriyle birlikteABD teknoloji devleri, yapay zeka alanındaki gelişim merkezlerinden biri. Şirket, yaklaşık üç yıldır yürüttüğü, yapay zekaya dayalı çalışanların işe alınmasına yönelik bir pilot projeyi 2017 yılında kapattı. En önemli sorunlardan biri adayların cinsiyet ayrımcılığıydı; algoritma kadın adayları hafife alıyordu.
Şirket bunu, yapay zekanın Amazon'da çoğunluğu erkek olan adayları seçme konusundaki son on yıllık deneyim üzerine eğitildiğini söyleyerek açıkladı.
Esasen, Amazon sistemi bunu öğrendierkek adaylar kadınlara tercih edilmektedir. "Kadınlar satranç kulübünün kaptanı" gibi "kadın" kelimesini içeren bir özgeçmişi geri çevirdi. Konuya aşina olan kaynaklara göre, iki kadın kolejinin mezuniyet notunu düşürdü. Okulların isimleri belirtilmedi.
Başka komplikasyonlar da vardı: algoritma genellikle neredeyse rastgele sonuçlar veriyordu. Sonuç olarak, program kapatıldı.
Okumak Daha öte
Bir ton silah taşıyan ağır bir saldırı uçağı görün
Bilim adamları Rambo tilkisini üç yıldır yakalayamadı. Nadir hayvanların ormana salınmasını engeller.
Birkaç kilometre uzakta bir uzay gemisi: Çin'in yeni projesi hakkında bilinen her şey
Psikolojik yardım telefonu (yardım hattı): 8 (800) 333-44-34. Rusya genelinde aramalar ücretsizdir.