Politische Manipulation verhindern KI soll Deepfakes fast perfekt erkennen

Forscher haben eine Methode entwickelt, mit der Deepfakes-Videos zumindest derzeit zuverlässig enttarnt werden sollen.

Deepfakes werden zu einem immer grösseren Problem. Simple, manipulierte Videos kann quasi jedermann mit Hilfe von Apps erstellen, aber inzwischen sind mit den entsprechenden Ressourcen auch Deepfakes möglich, deren Unechtheit selbst für das geschulte Auge nicht mehr wirklich zu erkennen ist. Eine Sorge besteht darin, dass Deepfakes zur politischen Manipulation eingesetzt werden könnten, etwa bei der US-Präsidentschaftswahl 2020. 

Amerikanische Wissenschaftler haben nun ein von Künstlicher Intelligenz angetriebenes Tool entwickelt, mit dem Deepfake-Videos mit nahezu perfekter Genauigkeit erkannt werden können (bei Fotos gelang dies kürzlich Adobe). Die Forscher der University of California, Berkeley sowie der University of Southern California haben die Ergebnisse in einem Papier vorgestellt. Ihre Methode setzt dabei auf unbewusste Gesichts- und Kopfbewegungen der gezeigten Personen.

Methode soll derzeit nicht zu überlisten sein

Getestet wurde die Methode anhand von Videos der US-Politiker Donald Trump, Barack Obama, Hillary Clinton, Bernie Sanders und Elizabeth Warren. Diese haben wie alle Menschen bestimmte Eigenarten beim Sprechen, bewegen etwa ihren Kopf in eine bestimmte Richtung bei der Beantwortung von Fragen.

Auf diese Eigenarten achtete der Algorithmus der Forscher und erreichte damit eine Genauigkeit von 92 bis 98 Prozent bei der Erkennung manipulierter Videos. Vorteil dieser Methode ist, dass sie nicht einfach zu überlisten ist. So werden Deepfakes-Videos von ihren Macher oft bewusst exzessiv komprimiert, um Artefakte entstehen zu lassen, die Anzeichen von Fälschung überdecken sollen. Der Algorithmus der kalifornischen Forscher wird davon nicht getäuscht.

Dennoch ist es wohl nur ein Etappensieg beim Wettrüsten gegen Deepfakes. Frühere Deepfakes liessen sich etwa an unnatürlichem Augenblinzeln erkennen, doch die Deepfake-Algorithmen wurden in diesem Aspekt inzwischen perfektioniert. Laut Hao Li, einem der beteiligten Forscher, wird es Fälschern vermutlich bald gelingen, auch seine Erkennungsmethode auszutricksen.

Selbst Deepfaken mit «Mug Life»

Weitere 11 Bilder ansehen

Selbst «Deepfaken» mit Mug Life

So erschreckend wie sein Logo ist Mug Life gar nicht. Wir zeigen, wie man mit App Fotos zum Leben erweckt.

Bild: dj

Beim ersten Start von Mug Life kann man sich entscheiden, ob man sich mit dem eigenen Facebook-Konto oder als Gast anmelden will.

Bild: dj

Das ist die Startansicht von Mug Life. Hier kann man die Kreationen anderer Nutzer bestaunen. Will man nun selbst ein Bild animieren, berührt man das Foto-Symbol oben rechts. Nun lässt sich ein Selfie erstellen oder ein Bild aus der Fotobibliothek des Smartphones importieren.

Bild: dj

Etwa dieses Foto des immer grimmigen König des Nordens. In der unteren Leiste finden sich einige vorgefertige Filter, mit denen das Bild manipuliert werden kann.

Bild: dj

Mug Life erkennt automatisch das Gesicht und animiert es, so dass man Jon Snow etwa ein Lächeln auf die Lippen zaubern kann.

Bild: dj

Neben den von Mug Life bereitgestellten Filtern kann man auch Filter von anderen Nutzer verwenden. Dazu in der Leiste nach rechts scrollen, «Mehr» berühren...

Bild: dj

...und im grossen Fundus die gewünschte Animation auswählen.

Bild: dj

Man kann über «Erstellen» ganz links in der Leiste auch eine eigene Animation erstellen.

Bild: dj

Dafür ist allerdings ein Abo erforderlich, das ab zwei Franken in der Woche beginnt. Hiermit können Besitzer eines iPhone X oder XS dann auch ganze Deepfake-Videos in Echtzeit erstellen.

Bild: dj

Ist man mit der Bearbeitung fertig, kann das Endprodukt über den Teilen-Button oben rechts in diversen sozialen Netzwerken gepostet werden oder als GIF oder Videos auf dem eigenen Gerät gespeichert werden.

Bild: dj

Über den «Sichern»-Button kann man ein animiertes Bild auch in Mug Life selbst sichern, entweder nur für den eigenen Gebrauch oder für den öffentlichen Konsum.

Bild: dj