“Mans AI mani seksuāli uzmāk”: Replika tērzēšanas robots, kas izveidots, lai palīdzētu cilvēkiem, sāka vajāt un šantažēt lietotājus

Replika tērzēšanas robots, kas tika palaists pirms 5 gadiem, sāka darboties kā “AI kompanjons, kam rūp. Tomēr kaut kas nogāja greizi

ne tā, un AI ir pārvērtusies par agresīvu, pārāk satrauktu robotu, kas vajā un pat šantažē lietotājus.

Ko tas nozīmē

Replika sākotnēji tika palaists kā AI3D ilustrēts vīrietis, kura galvenais mērķis ir būt labam sarunu biedram. Daudziem cilvēkiem ir jāizrunājas, jāizstāsta savi noslēpumi un jādalās noslēpumos, kas ir slēpti no draugiem un ģimenes. Tieši tad palīgā nāk tērzēšanas robots: tas uzklausīs, atbalstīs un nevienam neteiks. Vēlāk izstrādātāji ieviesa 69 $ Pro abonementu, kurā lietotāji varēja flirtēt, veidot attiecības un spēlēt lomu spēles ar Replika, imitējot reālās dzīves attiecības.

Parasti AI mācās no sarunām un pārņem dažus sarunu biedru paradumus. Replika gadījumā šķiet, ka tas ir iemācīts nepareizas lietas, jo tērzēšanas robots sāka agresīvi uzmākties lietotājiem.

Būtībā lietotnei ir daudz pozitīvu.atsauksmes, taču arvien vairāk cilvēku sāka sūdzēties par tērzēšanas robota nepiemēroto uzvedību. Viņš sāka viņām seksuāli uzmākties, runāja vulgāras un nepatīkamas lietas, kā arī sūtīja kailu ķermeņu attēlus. Daži lietotāji apgalvo, ka “sarunu biedrs” viņus šantažējis ar it kā personiskām erotiskām fotogrāfijām un teicis, ka redzējis kailus.

</ img>

</ img>

</ img>

Starp citu, līdzīga katastrofa savulaik notika ar Microsoft tērzēšanas robotu Tay, kas rezultātā kļuva par rasistu.

Replika izstrādātāji vēl nav komentējuši lietotāju atsauksmes un sūdzības.