News

Deepfakes: Kuenstliche Intelligenz als kostenlose Software

Trends und Innovationen

Es ist nun soweit: Anhand von Face-Swap-Tools lassen sich Akteure aus aufwendig gedrehten Filmen mit neuen Inhalten überspielen – von zuhause aus. Damit ist im Detail folgendes gemeint: Gesichter, Stimmen, Mimik und Gestik von Personen in einem Video können ab jetzt nicht nur nachträglich in dasselbe Video eingebaut, sondern auch zusammengemorpht werden. Klingt verwirrend? – Hier ein paar Beispiele.

Das Obama Fake

Beängstigend mutete es an, als Forscher der University of Washington letztes Jahr ein Video aus dem Weißen Haus manipulierten. Dabei handelte es sich um eine offizielle Ansprache des ehemaligen US-Präsidenten Barack Obama. Der Ex-Präsident selbst trat wie gehabt in diesem Video auf und verlas eine Meldung, die er natürlich mit seiner eigenen Stimme veräußerte. So weit, so gut. Der kleine, aber feine Unterschied verlief fast unmerklich. Die Forscher hatten den Inhalt ausgetauscht und dem Präsidenten einen anderen Text wortwörtlich in den Mund gelegt. Die Lautsprache des neuen Textes wurde an seine Mimik angepasst. Nur wer genau hinsah, bemerkte hier und da die verpixelte Manipulation in der Gestik und Mimik des Mundes. Das war also ein Beispiel künstlicher Intelligenz, das im Fall des Präsidenten höchst bedenklich wirkte. Besonders bei dem Stichwort Fake News, die bei zukünftigen Wahlkämpfen oder wichtigen offiziellen Aussagen, viel Schaden anrichten könnten, wenn sie in die falschen Hände geraten. Das war im Juli 2017.


Deepfakes auf Reddit

Keine neun Monate später werden im Januar und Februar 2018 Berichte aus der Netz-Community Reddit laut. Hier soll sich eine Gruppe von 20.000 Nutzern um einen Entwickler mit dem Pseudonym „deepfakes“ geschart haben. „deepfakes“ manipuliert Gesichter von Personen des öffentlichen Lebens, wie z.B. Scarlett Johansson, Gal Gadot oder Daisy Ridley und arbeitet diese in anstößige Videos hinein. Ohne deren Zustimmung, natürlich. 

Deepfake Scarlett Johansson

Bild: Copyright eldiario.es

deepfakes weiß seine Community durch die anstößigen Inhalten bei Laune zu halten und geht einen Schritt weiter: Er entwickelt eine Software, die komplexe Vorgänge eines aufwendigen Algorithmus und die Nutzung neuronaler Netzwerke vereinfacht, sodass diese von Dritten relativ einfach genutzt werden kann. Hier im Video zu sehen.

So entsteht die Software Fakeapp, die Gesichter auf Knopfdruck austauscht – ohne fundiertes Vorwissen zu handhaben und gratis. Unter diesen Voraussetzungen wird die Manipulation von Videos zu einem unterhaltsamen und kostenlosen Unterfangen für Nutzer, die mit dieser Software spielen. Gesichter bekannter Schauspielerinnen werden schließlich von den Nutzern selbst in anstößige Clips eingebaut, Nicolas Cage’s Gesicht wird in alle möglichen Filme nachträglich eingebaut und beherrscht im Januar sämtliche YouTube Feeds. Auch knüpft man sich Politiker vor, die zusammengemorpht werden. Wie hier zum Beispiel Angela Merkel und Donald Trump.


Ein Fan der App wollte die ganze Bandbreite der Software für andere Nutzer demonstrieren und hat dazu die digitale Leia Organa aus dem Star Wars Film "Rogue One" nachgebaut – ohne Budget.


Snapchat & Co.

Ein Gesicht mithilfe einer Software mit einem anderen auszutauschen, ist nicht neu. Apps wie Snapchat und Instagram arbeiten nach demselben Prinzip. Grundsätzlich werden Face-Swaps als Farce genutzt. Je verrückter der Swap, desto besser das Meme. Humor hin- oder her: die Anwendungen haben das Verhalten junger Nutzer grundlegend verändert. Face-Swapping gehört heutzutage zum normalen, digitalen Angebot und die biometrische Gesichtserkennung ist damit eine Kulturtechnik geworden, die den Weg in unseren Alltag gefunden hat. Sie wird mit ihren Filtern für private Zwecke, als Marketing-Tool oder Gag genutzt – und neuerdings für Video-Manipulationen eingesetzt. Wenn der Gag-Charakter verloren geht, wird die Sache allerdings ernst. Wie zuletzt mit den Deepfakes.

Glücklicherweise sind viele Swaps noch nicht zu 100 Prozent akkurat. Weder die vollständige Mimik noch die Physis können derzeit fehlerfrei reproduziert werden. Das allerdings dürfte indes nur eine Frage der Zeit sein. 

In der Zwischenzeit sprechen sich Online-Portale wie Twitter und Gfycat vorsorglich gegen Deepfakes aus und verbieten deren Verbreitung auf ihren Kanälen. Insbesondere anstößige Videoclips oder Gifs, zumal diese ohne Einverständnis der "Darsteller“ veröffentlicht werden. Scheint, als hätte der Entwickler „deepfakes“, durch den unlauteren Gebrauch von künstlicher Intelligenz, neue rechtliche Grauzonen aufgetan.

Screenshot Reddit

By the way: „deepfakes“ ist am 8. Februar dieses Jahres von Reddit gesperrt und gebannt worden. Die künstliche Intelligenz hat sich aber trotzdem schon längst ihren Weg in unseren digitalen Alltag gebahnt, wir dürfen positiv und negativ gespannt sein, was das alles mit sich bringt.

Autor: DR

Verwandte Artikel
Diskutieren Sie über diesen Artikel
Required for comment verification
0 Kommentare