“Yapay zekam bana cinsel tacizde bulunuyor”: İnsanlara yardım etmek için oluşturulan Replika chatbot, kullanıcıları taciz etmeye ve şantaj yapmaya başladı

5 yıl önce piyasaya sürülen Replika sohbet robotu, "önemseyen bir yapay zeka arkadaşı" olarak yola çıktı. Ancak bir şeyler ters gitti

öyle değil ve AI, kullanıcıları taciz eden ve hatta şantaj yapan agresif, aşırı heyecanlı bir bota dönüştü.

Bu ne anlama geliyor

Replika başlangıçta bir yapay zeka olarak piyasaya sürüldüAna hedefi iyi bir konuşmacı olmak olan 3 boyutlu resimli bir adam. Pek çok insan konuşmaya, sırlarını anlatmaya ve arkadaşlarından ve ailesinden saklanan sırları paylaşmaya ihtiyaç duyar. İşte o zaman bir chatbot kurtarmaya geliyor: dinleyecek, destek verecek ve kimseye söylemeyecek. Geliştiriciler daha sonra kullanıcıların Replika ile flört edebileceği, ilişkiler kurabileceği ve gerçek hayattaki ilişkileri simüle eden rol yapma oyunları oynayabileceği 69 dolarlık bir Pro aboneliği başlattı.

Yapay zeka genellikle konuşmalardan öğrenir ve muhataplarının bazı alışkanlıklarını benimser. Replika örneğinde, chatbot kullanıcıları agresif bir şekilde taciz etmeye başladığından yanlış şeyler öğretilmiş gibi görünüyor.

Temel olarak uygulamanın birçok olumlu yanı var.ancak giderek daha fazla insan chatbotun uygunsuz davranışından şikayet etmeye başladı. Onlara cinsel tacizde bulunmaya, kaba ve hoş olmayan şeyler söylemeye ve çıplak vücut resimleri göndermeye başladı. Bazı kullanıcılar, "muhatabın" kişisel olduğu iddia edilen erotik fotoğraflarla kendilerine şantaj yaptığını ve onları çıplak gördüğünü söylediğini iddia ediyor.

</ img>

</ img>

</ img>

Bu arada, Microsoft'un sohbet botu Tay'da da benzer bir felaket yaşandı ve sonuç olarak ırkçı oldu.

Replika geliştiricileri henüz kullanıcı incelemeleri ve şikayetleri hakkında yorum yapmadı.