let's make IT happen

Deepfakes

 

Mit der rasanten Entwicklung von Machine Learning Technologien ist ein Phänomen entstanden, das unter dem Namen Deepfake bekannt ist.
Unter Deepfake versteht man Medieninhalte (Fotos, Videos, Audioaufnahmen) irgendwelcher Art, die durch Anwendung von Machine Learning Methoden sehr realistisch verfälscht worden sind.

Zum Beispiel ist es heute kein grösseres Problem mehr, in der Aufnahme der Rede eines Politikers das Gesicht durch Ihres zu ersetzen. Der Originaltext kann dabei durch beliebigen Inhalt ersetzt werden. Alles sieht perfekt aus, bis zur kleinsten Hand- und Mundbewegung. Auch die Stimme ist Ihre - falls der Produzent des Deepfakes ein paar wenige Wortfetzen von Ihnen zur Verfügung hatte.

Spezialisierte künstliche Neuronale Netzwerke sind heute in der Lage, mit sehr wenig Trainingsmaterial so perfekte Deepfakes zu erstellen, dass sie sogar für Experten nicht mehr zweifelsfrei erkennbar sind. Hat man so ein trainiertes neuronales Netz zur Verfügung, ist die Produktion von Deepfakes leicht und von jedem mit entsprechenden Interessen machbar. Oft sind trainierte Netze im Internet frei verfügbar.

Das stellt in der heutigen Social Media Welt ein nicht zu unterschätzendes Gefahrenpotential dar. Bewusst und eventuell sogar auf verschiedenen Kanälen gleichzeitig platzierte Fake-Inhalte könnten in kürzester Zeit nicht absehbare soziale, politische oder ökonomische Folgen haben.

Es liegt daher nahe, zur Erkennung von Deepfakes wiederum Machine Learning einzusetzen. Dieser Ansatz wird auch erfolgreich verfolgt. Neuronale Netze werden dabei mit Fake-Inhalten trainiert und erreichen oft Erkennungsraten von 98% und mehr.

Leider ist aber auch die Gegenseite nicht untätig. Es gibt heute Deepfake Netze, die während des Trainings die Existenz von Deepfake-Detektoren mit einbeziehen und kleine Anomalien in die Fakes einbauen, die Detektor-Netze komplett in die Irre führen. Diese Anomalien nützen Schwachstellen neuronaler Netze aus und sind so subtil, dass sie für einen Menschen nicht sichtbar sind.

Es wird uns in Zukunft also nicht erspart bleiben, bei Medieninhalten auch die Möglichkeit eines Deepfakes in Betracht zu ziehen. Die Identifikation von seriösen und vertrauenswürdigen Informationsquellen wird dabei immer wichtiger werden.

 

Quellen

https://de.wikipedia.org/wiki/Deepfake
https://arxiv.org/abs/2002.12749
https://aliaksandrsiarohin.github.io/first-order-model-website/
http://www.niessnerlab.org/projects/roessler2019faceforensicspp.html
"Everybody Can Make Deepfakes Now!":
https://www.youtube.com/watch?v=mUfJOQKdtAk
"DeepFake Detector AIs Are Good Too!":
https://www.youtube.com/watch?v=RoGHVI-w9bE
"Sure, DeepFake Detectors Exist - But Can They Be Fooled?": https://www.youtube.com/watch?v=hFZlxpJPI5w

Oliver Wespi, Senior Java Entwickler, INTEGRATE Informatik AG

INTEGRATE Informatik AG
Business Village
Platz 10
CH-6039 Root D4

+41 41 322 10 30
+41 41 322 10 35
 busidevDiese E-Mail-Adresse ist vor Spambots geschützt! Zur Anzeige muss JavaScript eingeschaltet sein!

ISO Zertifizierung
ISO Zertifizierung