OpenAI aprendió a jugar Minecraft viendo 70.000 horas de videos de YouTube

Los desarrolladores informan que la IA ha aprendido habilidades básicas como talar árboles, hacer tablas y

hacer mesas para manualidades.También lo observaron nadando, cazando, cocinando y "saltando pilares". Además, una vez dominadas las habilidades básicas, el sistema aprendió a crear un pico de diamante. Para practicar esta habilidad en el juego, los jugadores humanos necesitan unos 20 minutos. y 24 mil acciones.

Para el entrenamiento de IA, el equipo de OpenAI usóvideos abiertos: alrededor de 70 mil horas de grabaciones del paso del juego. Para hacer frente a este volumen, la empresa desarrolló una nueva estrategia: la formación previa con un “semiprofesor”.

Esquema de aprendizaje.La primera etapa es la búsqueda de video para el entrenamiento, la segunda etapa es el entrenamiento de la red neuronal IDM basada en el video que contiene información sobre los movimientos del mouse y las pulsaciones de teclas, la tercera etapa es el marcado de video usando IDM y el entrenamiento de la red neuronal del juego. Fuente: OpenAI

En el primer paso, los investigadores recopilaron datos devoluntarios: grabaron videojuegos, así como pulsaciones de teclas y movimientos de ratón. Con base en estos datos, los desarrolladores entrenaron el modelo de dinámica inversa (IDM) para determinar qué acciones realiza el jugador basándose únicamente en datos de video. Después de eso, IDM "vio" y marcó de forma independiente las grabaciones del juego publicadas en YouTube. El entrenamiento del juego AI se lleva a cabo utilizando datos IDM ya marcados.

Los desarrolladores notan que el modelo de comportamientoUn clonador ("jugador") entrenado en un video en línea etiquetado con IDM realiza tareas en Minecraft que son casi imposibles de completar con el aprendizaje de refuerzo tradicional desde cero. Aprende a cortar árboles para recolectar troncos, convertir esos troncos en tablones y luego hacer una mesa de trabajo con los tablones. Esta secuencia toma alrededor de 50 segundos o mil acciones de juego consecutivas para una persona que posee Minecraft.

Los desarrolladores también demostraron que el ajuste fino adicional a través de la observación de la IA del proceso real del juego ayuda a enseñar rápidamente al modelo habilidades más complejas.

Los investigadores señalan que Minecraft essólo un ejemplo de las posibles aplicaciones de la nueva tecnología. En general, el entrenamiento previo permite que la IA use recursos mínimos para adquirir varias habilidades basadas en una gran cantidad de datos de video.

Lee mas:

La sonda espacial voló a 200 km de Mercurio. Mira lo que vio

El casco chino que lee la mente hace sonar la alarma cuando una persona ve contenido pornográfico

El satélite de Júpiter fue visto bajo una nueva luz: lo que los científicos vieron allí