OpenAI leerde Minecraft spelen door 70.000 uur aan YouTube-video's te bekijken

De ontwikkelaars melden dat de AI basisvaardigheden heeft geleerd zoals het kappen van bomen, het maken van planken en

tafels maken om te knutselen.Ze zagen hem ook zwemmen, jagen, koken en ‘pilaarspringen’. Bovendien leerde het systeem, nadat het de basisvaardigheden onder de knie had, hoe het een diamanten houweel moest maken. Om deze vaardigheid in het spel te oefenen, hebben menselijke spelers ongeveer 20 minuten nodig. en 24 duizend acties.

Voor AI-training gebruikte het OpenAI-teamopen video's: ongeveer 70.000 uur aan gameplay-opnames. Om dit volume aan te kunnen, heeft het bedrijf een nieuwe strategie ontwikkeld: pre-training met een 'semi-leraar'.

Schema van leren.De eerste fase is het zoeken naar video voor training, de tweede fase is het trainen van het neurale netwerk van IDM op basis van de video met informatie over muisbewegingen en toetsaanslagen, de derde fase is video-opmaak met IDM en het trainen van het neurale netwerk van het spel. Bron: OpenAI

In de eerste stap verzamelden de onderzoekers gegevens vanvrijwilligers: ze namen videogames op, maar ook toetsaanslagen en muisbewegingen. Op basis van deze gegevens hebben de ontwikkelaars het inverse dynamics-model (IDM) getraind om te bepalen welke acties de speler uitvoert op basis van alleen videogegevens. Daarna heeft IDM de opnames van de game die op YouTube is gepubliceerd, onafhankelijk "bekeken" en gemarkeerd. AI-training in het spel wordt uitgevoerd met behulp van reeds gemarkeerde IDM-gegevens.

De ontwikkelaars merken op dat het gedragsmodelEen kloner ("speler") die is getraind op een IDM-gelabelde online video, voert taken in Minecraft uit die bijna onmogelijk te voltooien zijn met traditioneel versterkend leren vanaf het begin. Hij leert bomen omhakken om boomstammen te verzamelen, die boomstammen in planken te veranderen en vervolgens een werktafel van de planken te maken. Deze reeks duurt ongeveer 50 seconden of duizend opeenvolgende spelacties voor een persoon die Minecraft bezit.

De ontwikkelaars toonden ook aan dat extra afstemming door AI-observatie van het daadwerkelijke spelproces helpt om het model snel te trainen in complexere vaardigheden.

Onderzoekers merken op dat Minecraft isslechts één voorbeeld van de mogelijke toepassingen van de nieuwe technologie. Over het algemeen stelt pre-training de AI in staat om minimale middelen te gebruiken om verschillende vaardigheden te verwerven op basis van een grote hoeveelheid videogegevens.

Lees verder:

De ruimtesonde vloog 200 km van Mercurius. Kijk wat hij zag

Chinese gedachtenlezende helm luidt alarm wanneer iemand porno-inhoud ziet

De satelliet van Jupiter werd in een nieuw licht bekeken: wat wetenschappers daar zagen