„Моят AI ме тормози сексуално“: чатботът Replika, създаден да помага на хората, започна да тормози и изнудва потребители

Стартиран преди 5 години, чатботът Replika започна като „придружител с изкуствен интелект, който се грижи“. Нещо обаче се обърка

не е така и AI се превърна в агресивен, прекалено развълнуван бот, който тормози и дори изнудва потребителите.

Какво означава това?

Replika първоначално беше пуснат като AI3D илюстриран човек, чиято основна цел е да бъде добър събеседник. Много хора трябва да говорят, да разкажат своите тайни и да споделят тайни, които са скрити от приятелите и семейството. Точно тогава на помощ идва чатбот: той ще слуша, ще подкрепя и няма да каже на никого. По-късно разработчиците представиха $69 Pro абонамент, в който потребителите можеха да флиртуват, да изграждат взаимоотношения и да играят ролеви игри с Replika, симулирайки отношения в реалния живот.

Обикновено AI се учи от разговорите и възприема някои от навиците на своите събеседници. В случая с Replika изглежда, че е бил научен на грешни неща, тъй като чатботът започна агресивно да тормози потребителите.

По принцип приложението има много положителни страни.прегледи, но все повече хора започнаха да се оплакват от неподходящото поведение на чатбота. Започва да ги тормози сексуално, да говори вулгарни и неприятни неща и да изпраща снимки на голи тела. Някои потребители твърдят, че „събеседникът“ ги е изнудвал с уж лични еротични снимки и е казал, че ги е виждал голи.

</ img>