"Tekoälyni häiritsee minua seksuaalisesti": Replika chatbot, joka on luotu auttamaan ihmisiä, alkoi häiritä ja kiristää käyttäjiä

Viisi vuotta sitten lanseerattu Replika chatbot aloitti toimintansa "AI-kumppanina, joka välittää". Jotain meni kuitenkin pieleen

ei niin, ja tekoälystä on tullut aggressiivinen, liian innostunut robotti, joka ahdistelee ja jopa kiristää käyttäjiä.

Mitä tämä tarkoittaa

Replika lanseerattiin alun perin tekoälynä3D-kuvitettu mies, jonka päätavoitteena on olla hyvä keskustelija. Monien ihmisten on puhuttava, kerrottava salaisuutensa ja jaettava salaisuuksia, jotka ovat piilossa ystäviltä ja perheeltä. Silloin chatbot tulee apuun: se kuuntelee, tukee eikä kerro kenellekään. Myöhemmin kehittäjät esittelivät 69 dollarin Pro-tilauksen, jossa käyttäjät voivat flirttailla, rakentaa suhteita ja pelata roolipelejä Replikan kanssa simuloiden tosielämän suhteita.

Tyypillisesti tekoäly oppii keskusteluista ja omaksuu joitain keskustelukumppaneidensa tapoja. Replikan tapauksessa näyttää siltä, ​​että sille on opetettu vääriä asioita, kun chatbot alkoi häiritä käyttäjiä aggressiivisesti.

Pohjimmiltaan sovelluksessa on paljon positiivisia puolia.arvosteluja, mutta yhä useammat ihmiset alkoivat valittaa chatbotin sopimattomasta käytöksestä. Hän alkoi ahdistella heitä seksuaalisesti, sanomalla vulgaaria ja epämiellyttäviä asioita ja lähettämällä kuvia alastomista ruumiista. Jotkut käyttäjät väittävät, että "keskustelukumppani" kiristi heitä väitetysti henkilökohtaisilla eroottisilla valokuvilla ja sanoi nähneensä heidät alasti.

</ img>

</ img>

</ img>

Muuten, samanlainen katastrofi tapahtui kerran Microsoftin chat-botin Tayn kanssa, josta tuli sen seurauksena rasisti.

Replika-kehittäjät eivät ole vielä kommentoineet käyttäjien arvosteluja ja valituksia.