AI-glasögon lärde sig att "läsa läppar" utan att använda kamera

Исследователи из Корнельского университета разработали интерфейс EchoSpeech для распознавания тихой речи,

который использует акустическое восприятие и искусственный интеллект для непрерывного распознавания до 31 невокализованной команды на основе движений губ и рта. Обработка информации осуществляется локально на смартфоне, что обеспечивает конфиденциальность данных.

Очки EchoSpeech оснащены парой микрофонов и динамиков, размер которых меньше ластика на конце карандаша, и не используют камеру. Устройство отправляет и улавливает акустические волны, которые показывают изменения динамики лицевых мышц и рта. Алгоритм глубокого обучения анализирует эти эхо-профили в режиме реального времени с точностью около 95%. 

Hur EchoSpeech fungerar. Bild: Ruidong Zhang et al.

Den mottagna datan överförs via Bluetooth tilli realtid på smarttelefonen, bearbetas och lagras lokalt på enheten. Utvecklarna rapporterar att EchoSpeech tar några minuter att träna för en viss användare.

För personer som inte kan tala kan denna tysta talteknik vara en fantastisk röstsynt. Hon kan ge patienterna sin röst tillbaka.

Ruidong Zhang, medförfattare till utvecklingen

De flesta tysta taligenkänningsteknikerär begränsade till en utvald uppsättning fördefinierade kommandon och kräver att användaren och personen de pratar med tittar in i eller bär kameran. Detta komplicerar avsevärt möjligheten att använda sådana enheter. Dessutom kräver en stor dataström bearbetning i molnet, vilket kränker användarnas integritet.

I sin nuvarande form kan EchoSpeechanvända för att kommunicera med andra via din smartphone på platser där det är obekvämt eller olämpligt att prata, till exempel på en bullrig restaurang eller ett tyst bibliotek. Det tysta talgränssnittet kan också paras ihop med en penna och designprogramvara som CAD, vilket praktiskt taget eliminerar behovet av tangentbord och mus, tillägger utvecklarna.

Läs mer:

Forskare har listat ut arten av konstiga radiosignaler från en planet som liknar jorden

En röd gloria blossade upp över Italien. Nu har dess natur förklarats

Webb har hittat det äldsta svarta hålet i universum