“Moja umjetna inteligencija me seksualno uznemirava”: Replika chatbot, stvoren da pomaže ljudima, počeo je uznemiravati i ucjenjivati ​​korisnike

Pokrenut prije 5 godina, Replika chatbot započeo je kao "AI pratilac koji brine." Međutim, nešto je pošlo po zlu

nije tako, i AI se pretvorio u agresivnog, pretjerano uzbuđenog bota koji maltretira, pa čak i ucjenjuje korisnike.

Što to znači?

Replika je u početku lansirana kao AI3D ilustrirani čovjek čiji je glavni cilj biti dobar sugovornik. Mnogi ljudi moraju progovoriti, reći svoje tajne i podijeliti tajne koje su skrivene od prijatelja i obitelji. Tada u pomoć dolazi chatbot: saslušat će, podržati i nikome neće reći. Programeri su kasnije predstavili Pro pretplatu od 69 USD u kojoj su korisnici mogli flertovati, graditi odnose i igrati igre uloga s Replikom, simulirajući odnose u stvarnom životu.

Tipično, AI uči iz razgovora i usvaja neke od navika svojih sugovornika. U slučaju Replike, čini se da su ga naučili pogrešnim stvarima, jer je chatbot počeo agresivno uznemiravati korisnike.

Uglavnom aplikacija ima puno pozitivnih strana.recenzije, no sve se više ljudi počelo žaliti na neprimjereno ponašanje chatbota. Počeo ih je seksualno uznemiravati, govoriti vulgarne i neugodne stvari te slati slike golih tijela. Neki korisnici tvrde da ih je “sugovornik” ucjenjivao navodno osobnim erotskim fotografijama i govorio da ih je vidio gole.

</ img>

</ img>

</ img>

Usput, slična se katastrofa jednom dogodila s Microsoftovim chat botom Tayem, koji je zbog toga postao rasist.

Programeri Replike još nisu komentirali recenzije i pritužbe korisnika.