Deepfakes beschreiben realistisch wirkende Medieninhalte, wie z.B. Fotos, Audios und Videos, welche durch Techniken der künstlichen Intelligenz abgeändert und verfälscht worden sind. Meist werden hierbei Gesichter der dargestellten Person durch ein fremdes Gesicht ausgetauscht. So können Personen gezielt in einen anderen Kontext gesetzt werden. Dies kann dazu führen, dass Unwahrheiten verbreitet werden, um Personen zu schädigen oder die öffentliche Meinung dieser Person in ein schlechtes Licht zu rücken.
Der Ausdruck “Deepfakes” setzt sich aus dem Begriff des “Deep Learnings”, einer speziellen Technik der künstlichen Intelligenz und dem englischen Wort “fake” (Fälschung) zusammen.
Deepfakes werden mithilfe neuronaler Netze erstellt (Wer mehr über neuronale Netze erfahren möchte, kann gerne unseren Workshop zum Thema Machine Learning besuchen). Mit hinreichend vielen Fotos einer Person kann das Netz so ermitteln, wie sich das Gesicht aus verschiedenen Perspektiven oder bei unterschiedlichen Mimiken verhält.
Um Deepfakes zu erstellen, ist heutzutage kein großer Aufwand mehr nötig. Ein handelsüblicher PC reicht aus, um mit der kostenlosen Software DeepFaceLab¹ selbst überarbeitete Deepfake-Videos zu erstellen.
Wenn bei der Erstellung von Deepfakes genügend Aufwand betrieben wurde, sind die Fälschungen oftmals mit dem bloßen Auge nur sehr schwer bis gar nicht erkennbar. Es gibt jedoch gewisse Eigenschaften, um potentielle Deepfake-Videos zu entlarven.
Oft ist die Illusion perfekt und es sind wirklich Kleinigkeiten, die ein Video als Fälschung enthüllen. Merkmale auf die bei solchen Videos besonders geachtet werden müssen, sind Kleinigkeiten, wie das Blinzeln der dargestellten Person. Wenn die dargestellte Person mehrere Minuten im Bild ist und nicht einmal blinzelt, so kann dies ein Anzeichen dafür sein, dass es sich bei dem Video um eine Fälschung handelt. Weitere Auffälligkeiten, auf die man achten sollte, sind Unschärfen im Gesicht der Person. Sollte sich die Schärfe des Gesichts vom restlichen Bildmaterial unterscheiden, so ist dies ein klares Indiz für eine Bearbeitung des Videos. Besonders Acht sollte auch auf den Übergang zwischen Kopf und Körper der dargestellten Person gegeben werden, da hier aufgrund unterschiedlicher Hauttöne bei bearbeiteten Videos eine sichtbare Kante zu sehen ist. Am besten können Deepfake-Videos jedoch entlarvt werden, wenn sich kurzzeitg ein Objekt vor dem Gesicht der Person befindet. Hier stößt aktuelle Software zum Erstellen der Deepfake-Videos noch an Grenzen und es entstehen Verzerrungen, die selbst mit bloßem Auge gut erkennbar sind.
Weißt ein Video keine der aufgeführten Auffälligkeiten auf, so bedeutet das natürlich nicht, dass das Video nicht gefälscht wurde. Um auf Nummer sicher zu gehen, ist es immer ratsam auf anderen vertrauenswürdigen Seiten nach diesem Video zu suchen. Die Redaktionen prüfen die veröffentlichten Videos natürlich auch auf Echtheit und setzen teilweise selbst Software zum Erkennen von Deepfake-Videos ein.
Große Softwarekonzerne investieren aktuell auch viel Geld für die Erstellung von Erkennungssoftware, um solche Fälschungen automatisiert erkennen zu können.
Das Verbreiten von gefälschten Medien kann große Auswirkungen haben. Zum einen können Politikern Meinungen und Worte in den Mund gelegt werden, was natürlich unmittelbare Auswirkungen auf die Wahrnehmung dieser Person hat, zum anderen beschränkt sich diese Form der Fälschungen nicht nur auf Personen des öffentlichen Lebens. Es ist auch denkbar, dass so Personen beim Begehen von Straftaten oder ähnlichem gezeigt werden. Dies kann neben den gesellschaftlichen Konsequenzen also auch rechtliche Konsequenzen mit sich ziehen.
Daher ist es umso wichtiger, dass Erkennungssoftware weiter voran getrieben wird, um solche Fälschungen aufdecken zu können.
Wir haben für euch ein kleines Mini-Spiel erstellt, bei dem ihr euch selbst testen könnt. Wir zeigen euch Bilder von realen oder computergenerierten Personen und ihr müsst erraten, ob es sich bei der gezeigten Person um eine echte oder erfundene handelt: