Moderne KI für die Bilderkennung lässt sich leicht durch Signaturen täuschen

OpenAI-Forscher haben herausgefunden, dass ihr hochmodernes Computer-Vision-System leicht getäuscht werden kann

einfache Signaturen. Wenn Sie ein beliebiges Objekt darüber beschriften, wird es vom Modell der künstlichen Intelligenz (KI) falsch erkannt.

Forscher bei OpenAI nennen dies typografische Angriffe. Sie nutzen die Fähigkeit des Modells, Text zuverlässig zu erkennen. Es stellt sich heraus, dass selbst ein Foto mit handgeschriebenem Text die KI täuschen kann.