OpenAI sa naučilo hrať Minecraft sledovaním 70 000 hodín videí na YouTube

Vývojári uvádzajú, že AI sa naučila základné zručnosti, ako je rúbanie stromov, výroba dosiek a

výroba stolov na remeselné spracovanie.Pozorovali ho aj pri plávaní, love, varení a „skákaní po stĺpoch“. Navyše, po zvládnutí základných zručností sa systém naučil, ako vytvoriť diamantový krompáč. Na precvičenie tejto zručnosti v hre potrebujú ľudskí hráči asi 20 minút. a 24 tisíc akcií.

Na školenie AI použil tím OpenAIotvorené videá: asi 70 000 hodín záznamov prechodu hry. Na zvládnutie tohto objemu spoločnosť vyvinula novú stratégiu: prípravné školenie s „polovičným učiteľom“.

Schéma učenia.Prvou fázou je vyhľadávanie videa na tréning, druhou fázou je trénovanie IDM neurónovej siete na základe videa obsahujúceho informácie o pohyboch myši a stlačení kláves, treťou fázou je značenie videa pomocou IDM a trénovanie hernej neurónovej siete. Zdroj: OpenAI

V prvom kroku výskumníci zozbierali údaje zdobrovoľníci: nahrávali videohry, ako aj stlačenia klávesov a pohyby myšou. Na základe týchto údajov vývojári trénovali inverzný dynamický model (IDM), aby určili, aké akcie prehrávač vykonáva len na základe údajov o videu. Potom si IDM nezávisle „prezrelo“ a označilo záznamy z hry zverejnené na YouTube. Tréning AI v hre sa vykonáva pomocou už označených údajov IDM.

Vývojári poznamenávajú, že model správaniaKlonér („hráč“) vyškolený na online videu označenom IDM vykonáva v Minecrafte úlohy, ktoré je takmer nemožné dokončiť tradičným posilňovaním od začiatku. Učí sa rúbať stromy, aby zbieral polená, premenil ich na dosky a potom z dosiek vytvoril remeselnícky stôl. Táto sekvencia trvá asi 50 sekúnd alebo tisíc po sebe idúcich herných akcií pre osobu, ktorá vlastní Minecraft.

Vývojári tiež ukázali, že dodatočné doladenie prostredníctvom pozorovania AI skutočného herného procesu pomáha rýchlo trénovať model v zložitejších zručnostiach.

Výskumníci poznamenávajú, že Minecraft jelen jeden príklad možných aplikácií novej technológie. Vo všeobecnosti predtréning umožňuje AI využívať minimálne zdroje na získanie rôznych zručností na základe veľkého množstva video údajov.

Čítaj viac:

Vesmírna sonda preletela 200 km od Merkúru. Pozrite sa, čo videl

Čínska prilba na čítanie myšlienok spustí alarm, keď niekto uvidí porno obsah

Na satelit Jupitera sa pozreli v novom svetle: to, čo tam vedci videli