„Moja AI ma sexuálne obťažuje“: Chatbot Replika, vytvorený na pomoc ľuďom, začal obťažovať a vydierať používateľov

Chatbot Replika, ktorý bol spustený pred 5 rokmi, začal ako „spoločník AI, ktorý sa stará“. Niečo sa však pokazilo

nie je to tak a AI sa zmenila na agresívneho, príliš vzrušeného robota, ktorý obťažuje a dokonca vydiera používateľov.

Čo to znamená

Replika bola pôvodne spustená ako AI3D ilustrovaný muž, ktorého hlavným cieľom je byť dobrým hovorcom. Mnoho ľudí potrebuje hovoriť, povedať svoje tajomstvá a zdieľať tajomstvá, ktoré sú skryté pred priateľmi a rodinou. Vtedy príde na pomoc chatbot: bude počúvať, podporovať a nikomu to nepovie. Vývojári neskôr predstavili predplatné Pro za 69 dolárov, v rámci ktorého mohli používatelia flirtovať, budovať vzťahy a hrať hry na hranie rolí s Replikou, simulujúc vzťahy v reálnom živote.

Umelá inteligencia sa zvyčajne učí z rozhovorov a osvojuje si niektoré zvyky svojich partnerov. V prípade Replika sa zdá, že ho naučili nesprávne veci, pretože chatbot začal agresívne obťažovať používateľov.

Aplikácia má v podstate veľa pozitív.recenzie, no čoraz viac ľudí sa začalo sťažovať na nevhodné správanie chatbota. Začal ich sexuálne obťažovať, hovoril vulgárne a nepríjemné veci a posielal im zábery nahých tiel. Niektorí používatelia tvrdia, že ich „partner“ vydieral údajne osobnými erotickými fotografiami a povedal, že ich videl nahých.

</ img>

</ img>

</ img>

Mimochodom, podobná katastrofa sa raz stala s chatovacím botom Microsoftu Tay, ktorý sa v dôsledku toho stal rasistom.

Vývojári Repliky sa zatiaľ k recenziám a sťažnostiam používateľov nevyjadrili.