Facebook bekreftet overfor Bloomberg at entreprenører transkriberte Messenger-talechatter for å fastslå
Hvorfor stoppet de opp
Selskapet rapporterer at alle datavar anonyme og innhentet utelukkende fra personer som meldte seg frivillig til å bli transkribert. Men til tross for dette måtte denne praksisen suspenderes for mer enn en uke siden.
Problemet er mangelen på åpenhet.TaskUs-kontraktører ble ikke fortalt hvor lyden kom fra eller hvorfor de transkriberte den. Som et resultat trodde noen arbeidere at arbeidet deres var «uetisk», spesielt når noen samtaler inneholdt personlig informasjon.
Som med stemmeassistenter,det er en bekymring for at ansatte kan avlytte konfidensiell informasjon og potensielt misbruke den til sine egne formål. Selskapet har lenge møtt anklager om å avlytte telefoner for reklameformål. Og etter å ha blitt bøtelagt 5 milliarder dollar for brudd på personvernet, ønsket Facebook sannsynligvis ikke å risikere ytterligere myndighetskontroll.
Hvorfor var det nødvendig
Utfordringen er å balanserepersonvern med tekniske behov. Det er fortsatt mye rom for forbedring i AI-dekoding og det er vanskelig å forbedre nøyaktigheten uten gode eksempler. Hvis Facebook skulle avslutte programmet permanent, ville selskapet måtte finne en annen måte å forbedre AI på. Ellers vil det holde seg på samme nivå som nå.