AI-briller lærte å "lese lepper" uten å bruke kamera

Forskere ved Cornell University har utviklet et EchoSpeech-grensesnitt for å gjenkjenne stille tale.

som bruker akustisk persepsjon ogkunstig intelligens for kontinuerlig gjenkjenning av opptil 31 ustemte kommandoer basert på leppe- og munnbevegelser. Informasjonsbehandlingen utføres lokalt på smarttelefonen, noe som sikrer datakonfidensialitet.

EchoSpeech-briller er utstyrt med et par mikrofoner oghøyttalere som er mindre enn viskelæret på enden av en blyant og som ikke bruker kamera. Enheten sender og fanger opp akustiske bølger som indikerer endringer i dynamikken i ansiktsmusklene og munnen. En dyplæringsalgoritme analyserer disse ekkoprofilene i sanntid med en nøyaktighet på omtrent 95 %.

Hvordan EchoSpeech fungerer. Bilde: Ruidong Zhang et al.

De mottatte dataene overføres via Bluetooth tili sanntid på smarttelefonen, behandles og lagres lokalt på enheten. Utviklerne rapporterer at EchoSpeech tar noen minutter å trene for en bestemt bruker.

For folk som ikke kan snakke, kan denne lydløse taleteknologien være en flott stemmesynthesizer. Hun kan gi pasientene stemmen tilbake.

Ruidong Zhang, medforfatter av utviklingen

De fleste lydløse talegjenkjenningsteknologierer begrenset til et utvalgt sett med forhåndsdefinerte kommandoer og krever at brukeren og personen de snakker med ser inn i eller bærer kameraet. Dette kompliserer muligheten for å bruke slike enheter betydelig. I tillegg krever en stor datastrøm behandling i skyen, noe som krenker brukernes personvern.

I sin nåværende form kan EchoSpeechbruke til å kommunisere med andre via smarttelefonen på steder der det er upraktisk eller upassende å snakke, for eksempel i en bråkete restaurant eller et stille bibliotek. Det stille talegrensesnittet kan også pares med en pekepenn og designprogramvare som CAD, noe som praktisk talt eliminerer behovet for tastatur og mus, legger utviklerne til.

Les mer:

Forskere har funnet ut arten til rare radiosignaler fra en planet som ligner på jorden

En rød glorie blusset opp over Italia. Nå har dens natur blitt forklart

Webb har funnet det eldste sorte hullet i universet