En OpenAI-rapport fra 2018 fant at datakraften for å trene de største AI-modellene vokser
Nytt spesialutstyr, CerebrasSystemets Wafer Scale Engine lar deg erstatte mange kraftige datamaskiner og bruke en liten brikke som er egnet for AI-trening. Imidlertid kan den ennå ikke masseproduseres, og forskerne bemerker at den vil koste flere millioner dollar.
"Dette er en fantastisk prestasjonvil gjøre det mulig for tusenvis av uavhengige forskere å oppnå de samme kraftige resultatene som team av store selskaper. I tillegg resulterer dataressursene som vanligvis kreves for å utføre denne typen forskning i et stort karbonavtrykk. Nå har vi klart å bli kvitt ham.»
University of Southern California forskere
I denne metoden plasseres AI-agenten i en simuleringet miljø som gir belønning for å oppnå bestemte mål. Modellen deres brukes som tilbakemelding for videre læring. Den inkluderer tre hovedberegningsoppgaver: modellering av miljøet og agenten; bestemme hva de skal gjøre videre basert på lærte regler og bruke resultatene av disse handlingene for å oppdatere oppførselen.
Dette førte til en betydelig akselerasjon i læringensammenlignet med andre tilnærminger. Ved hjelp av en enkelt datamaskin utstyrt med en 36-kjerneprosessor, var forskerne i stand til å behandle omtrent 140 000 bilder per sekund under deres Atari og Doom videospillopplæring. I 3D-treningsmiljøet til DeepMind Lab ga de en klokkefrekvens på 40 tusen bilder per sekund, noe som er 15% bedre enn vanlig.
Se også:
- Se på den enorme "muren" til hundretusener av galakser bak Melkeveien
- Comet NEOWISE er synlig i Russland. Hvor du kan se det, hvor du skal se og hvordan du tar et bilde
- NASA og ESA publiserer det mest detaljerte bildet av Solen