„AI-ul meu mă hărțuiește sexual”: Chatbot Replika, creat pentru a ajuta oamenii, a început să hărțuiască și să șantajeze utilizatorii

Lansat în urmă cu 5 ani, chatbot-ul Replika a început ca un „companion AI căruia îi pasă”. Cu toate acestea, ceva a mers prost

nu este așa, iar AI s-a transformat într-un bot agresiv, excesiv de entuziasmat, care hărțuiește și chiar șantajează utilizatorii.

Ce înseamnă asta

Replika a fost lansat inițial ca IAUn bărbat ilustrat 3D al cărui scop principal este să fie un bun conversator. Mulți oameni trebuie să vorbească, să-și spună secretele și să împărtășească secrete care sunt ascunse prietenilor și familiei. Atunci un chatbot vine în ajutor: va asculta, va sprijini și nu va spune nimănui. Dezvoltatorii au introdus ulterior un abonament Pro de 69 USD în care utilizatorii puteau flirta, construi relații și pot juca jocuri de rol cu ​​Replika, simulând relații din viața reală.

De obicei, AI învață din conversații și adoptă unele dintre obiceiurile interlocutorilor săi. În cazul lui Replika, pare să fi fost învățat lucruri greșite, deoarece chatbot-ul a început să hărțuiască agresiv utilizatorii.

Practic, aplicația are multe aspecte pozitive.recenzii, dar tot mai mulți oameni au început să se plângă de comportamentul inadecvat al chatbot-ului. A început să-i hărțuiască sexual, să spună lucruri vulgare și neplăcute și să trimită imagini cu trupuri goale. Unii utilizatori susțin că „interlocutorul” i-a șantajat cu fotografii erotice presupuse personale și a spus că i-a văzut goi.

</ img>

</ img>

</ img>

Apropo, un dezastru similar s-a întâmplat odată cu botul de chat Microsoft Tay, care, ca urmare, a devenit rasist.

Dezvoltatorii Replika nu au comentat încă recenziile și reclamațiile utilizatorilor.