Zamestnanci spoločnosti Google požiadali o manuálne prepísanie „zlých odpovedí“ AI Barda

Prabhakar Raghavan, viceprezident Google pre vyhľadávanie, poslal e-mail zamestnancom Google:

požiada vás, aby ste skontrolovali uvedené odpovedeumelá inteligencia Bard. List obsahuje pokyny a odporúčania, ktoré vám povedia, ako skontrolovať a opraviť odpovede nového chatbota. O obsahu internej pošty a požiadavkách informuje CNBC.

V liste Raghavan poznamenáva, že s pomocouBard interné testovanie, zamestnanci pomôžu urýchliť tréning modelu a otestujú jeho odolnosť voči zaťaženiu. Zamestnancom spoločnosti Google odporúčame, aby kládli otázky týkajúce sa AI na témy, o ktorých majú znalosti. 

Odporúčania pripojené k listupovedať, čo môžete a čo nemôžete robiť pri výcviku chatbota. Napríklad odpovede by mali byť zdvorilé, neformálne a prístupné. Zároveň by mali byť napísané v prvej osobe a mali by sa používať nestranne a neutrálne. Okrem toho sa musíte vyhnúť „animácii“ AI a náznakom, že má „zážitok podobný človeku“.

Toto objasnenie pravdepodobne súvisí s predchádzajúcimškandál, keď jeden zo zamestnancov Google povedal, že jazykový model LaMDA má vlastné vedomie a myseľ. Toto tvrdenie predstavitelia spoločnosti popreli. 

Bard – vývoj Google, verejnýktorého testovanie bolo oznámené minulý týždeň. Podľa samotného Googlu je v Bardovej tvorbe použitý model LaMDA. Podľa vývojárov by táto AI mala konkurovať ChatGPT, ktorý už dávnejšie spustil Microsoft a ktorý vzbudil v spoločnosti veľký záujem. 

Bardova prvá verejná prezentácia nedopadla dobreúspešne. Spoločnosť spustila na Twitteri reklamu zobrazujúcu chatbota, ktorý odpovedá na otázky. Používatelia si všimli, že odpovede obsahujú faktické chyby. V dôsledku toho akcie spoločnosti na burze klesli takmer o 10 %.

Reklama Bard AI s chybnou odpoveďou: neurónová sieť chybne pripisuje teleskopu Jamesa Webba prvý obrázok exoplanéty umiestnenej mimo slnečnej sústavy. Video: Google

Hi-Tech predtým hovoril o „pretekoch v zbrojení“, ktoré sa začali medzi spoločnosťami Google a Microsoft.

Čítaj viac:

Nejde o Zem: vedci vysvetlili, prečo je slnečná sústava najvzácnejšia

Dinosaury v bambusových korzetoch boli nájdené medzi artefaktmi expedície zo začiatku dvadsiateho storočia

Látka z "dedovej brady" zlepšuje pamäť a rast neurónov