OpenAI ha imparato a giocare a Minecraft guardando 70.000 ore di video su YouTube

Gli sviluppatori riferiscono che l'IA ha appreso abilità di base come abbattere alberi, realizzare assi e

realizzare tavoli per il fai da te.Lo hanno anche osservato nuotare, cacciare, cucinare e "saltare dai pilastri". Inoltre, dopo aver acquisito le competenze di base, il sistema ha imparato a creare un piccone di diamante. Per praticare questa abilità nel gioco, i giocatori umani necessitano di circa 20 minuti. e 24mila azioni.

Per l'allenamento AI, il team OpenAI ha utilizzatovideo aperti: circa 70mila ore di registrazioni del passaggio del gioco. Per far fronte a questo volume, l'azienda ha sviluppato una nuova strategia: pre-formazione con un "semi-insegnante".

Schema di apprendimento.La prima fase è la ricerca di video per l'addestramento, la seconda fase è l'addestramento della rete neurale IDM in base al video contenente informazioni sui movimenti del mouse e le sequenze di tasti, la terza fase è il markup video utilizzando IDM e l'addestramento della rete neurale del gioco. Fonte: OpenAI

Nella prima fase, i ricercatori hanno raccolto dati davolontari: hanno registrato videogiochi, oltre a sequenze di tasti e movimenti del mouse. Sulla base di questi dati, gli sviluppatori hanno addestrato il modello a dinamica inversa (IDM) per determinare quali azioni il giocatore esegue in base solo ai dati video. Successivamente, IDM ha "visualizzato" e contrassegnato in modo indipendente le registrazioni del gioco pubblicate su YouTube. L'allenamento di gioco AI viene eseguito utilizzando dati IDM già contrassegnati.

Gli sviluppatori notano che il modello comportamentaleUn cloner ("giocatore") addestrato su un video online con tag IDM esegue attività in Minecraft che sono quasi impossibili da completare con l'apprendimento per rinforzo tradizionale da zero. Impara a tagliare gli alberi per raccogliere tronchi, a trasformare quei tronchi in assi e poi a creare un tavolo da lavoro con le assi. Questa sequenza richiede circa 50 secondi o mille azioni di gioco consecutive per una persona che possiede Minecraft.

Gli sviluppatori hanno anche dimostrato che un'ulteriore messa a punto attraverso l'osservazione dell'intelligenza artificiale del processo di gioco effettivo aiuta a insegnare rapidamente al modello abilità più complesse.

I ricercatori notano che Minecraft lo èsolo un esempio delle possibili applicazioni della nuova tecnologia. In generale, il pre-training consente all'IA di utilizzare risorse minime per acquisire varie abilità sulla base di una grande quantità di dati video.

Leggi di più:

La sonda spaziale ha volato a 200 km da Mercurio. Guarda cosa ha visto

Il casco cinese per la lettura della mente suona l'allarme quando una persona vede contenuti porno

Il satellite di Giove è stato guardato sotto una nuova luce: ciò che gli scienziati hanno visto lì