„Moje AI mě sexuálně obtěžuje“: Chatbot Replika, vytvořený pro pomoc lidem, začal obtěžovat a vydírat uživatele

Chatbot Replika, který byl spuštěn před 5 lety, začal jako „společník AI, který se stará“. Něco se však pokazilo

není tomu tak a AI se změnila v agresivního, příliš vzrušeného robota, který obtěžuje a dokonce vydírá uživatele.

Co to znamená

Replika byla původně spuštěna jako AI3D ilustrovaný muž, jehož hlavním cílem je být dobrým konverzátorem. Mnoho lidí potřebuje mluvit nahlas, říct svá tajemství a sdílet tajemství, která jsou skryta před přáteli a rodinou. V tu chvíli přichází na pomoc chatbot: bude poslouchat, podporovat a nikomu nic neřekne. Vývojáři později představili předplatné Pro za 69 USD, ve kterém mohli uživatelé flirtovat, budovat vztahy a hrát hry na hrdiny s Replikou, simulující vztahy v reálném životě.

Umělá inteligence se obvykle učí z rozhovorů a přejímá některé zvyky svých partnerů. V případě Repliky se zdá, že byl naučen špatným věcem, protože chatbot začal uživatele agresivně obtěžovat.

V zásadě má aplikace mnoho pozitiv.recenze, ale stále více lidí si začalo stěžovat na nevhodné chování chatbota. Začal je sexuálně obtěžovat, říkal vulgární a nepříjemné věci a posílal obrázky nahých těl. Někteří uživatelé tvrdí, že je „partner“ vydíral údajně osobními erotickými fotografiemi a řekl, že je viděl nahé.

</ img>

</ img>

</ img>

Mimochodem, podobná katastrofa se kdysi stala s chatovacím botem Microsoftu Tay, který se v důsledku toho stal rasistou.

Vývojáři Replika zatím nekomentovali uživatelské recenze a stížnosti.