Der Papst in weißer Daunenjacke mutet vielleicht noch lustig an – an anderer Stelle sind manipulierte Bilder jedoch gefährlich. Das zeigt etwa das Fake-Videotelefonat mit dem Bürgermeister von Kiew, das die damalige Regierende Bürgermeisterin Berlins kurzzeitig getäuscht hat.
Bei Deepfakes handelt es sich um Video-, Bild- oder Audiodateien, die mittels künstlicher Intelligenz manipuliert wurden. Neue Methoden machen solche Fälschungen immer realistischer.
Viele Deepfakes können anhand bestimmter Kriterien jedoch entlarvt werden:
- unnatürliche Mimik oder weichgezeichnete Gesichtszüge
- ein leerer Blick oder fehlendes Blinzeln
- nicht korrekte Schattenwürfe
- Veränderungen beim Hautton
- Abweichungen zwischen Ton und Mundbewegungen
Oft sind die Nuancen nur auf einem Bildschirm mit hoher Auflösung sichtbar. Allerdings gucken die wenigsten so genau hin. Und selbst, wenn Fakes aufgedeckt werden: Der Zweifel ist gesät, die Gerüchte kursieren.
Weitere Informationen über Deepfakes
Von Bikinibild bis Hardcoreporno: Deepfakes werden fast ausschließlich zur bildbasierten sexualisierten Gewalt genutzt, also zur nicht einvernehmlichen Erstellung von Pornografie. Betroffen sind zu 90 Prozent Frauen. Bisher traf es vor allem bekannte Personen: Politiker*innen, Schauspieler*innen und Journalist*innen. Doch es wird immer einfacher, Deepfakes zu erstellen – mit den „Face Swap“-Apps auch für technische Lai*innen. Dadurch steigt die Gefahr für alle, ungewollt in einem Deepfake zu landen.
Deepfakes haben schwerwiegende Folgen für Betroffene: psychische Belastung, Traumatisierung und Ausgrenzung in der Familie oder im Job. Sind Deepfakes erst einmal verbreitet, ist es sehr schwer, sie wieder zu löschen. Teilweise sind Betroffene noch nach Jahren damit beschäftigt, Bilder aufzuspüren und deren Löschung zu beantragen.
Das Ziel solcher Deepfakes: Betroffene zu demütigen und mundtot zu machen. Das hat Folgen für die ganze Gesellschaft. Wenn beispielsweise Kandidatinnen für politische Ämter durch Porno-Manipulationen verleumdet werden, kann das Frauen davon abhalten, sich politisch zu engagieren. Sie müssen sich gründlich überlegen, ob sie sich und ihre Familie der Gefahr aussetzen wollen – und sehen im schlimmsten Fall davon ab. Dann war die Strategie derjenigen, die Deepfakes als politisches Mittel einsetzen, erfolgreich: Sie bekommen freie Bahn für Desinformation und Frauenhass. Das ist eine Bedrohung für unsere Demokratie.
Das eigene Gesicht ungewollt im Porno: Damit niemand mehr Angst davor haben braucht, muss die Bundesregierung wirksame Gesetze erlassen. Die gemeinnützige Organisation HateAid macht beim diesjährigen Human Rights Film Festival auf die Gefahren von Deepfakes aufmerksam und fordert von Politik und Onlineplattformen mehr Initiative für den Schutz von Menschenrechten im Netz ein.
HRFFB meets Bundestag: Gemeinsam mit den Expert*innen von Hate Aid laden wir zu einer politischen Filmaufführung von "My Blonde GF" ein. Mit dem Ziel, Bundestagsabgeordnete zu sensibilisieren und den Schutz vor ungewollten sexualisierten Deepfakes einzufordern.
Von Headline zu Hatespeech – Ein Workshop für Journalist*innen und Filmemacher*innen zum Umgang mit digitaler Gewalt
Wie kann ich mich vor Online-Hass schützen? Welche Hilfsangebote gibt es? Wie kann ich Fähigkeiten entwickeln, um Shitstorms zu überstehen? Diese und weitere Fragen zum Umgang mit digitaler Gewalt wollen wir in Zusammenarbeit mit den Teilnehmer*innen beantworten. Der Workshop widmet sich konkreten Strategien, wie Journalist*innen und Filmemacher*innen digitale Gewalt erkennen, vorbeugen und ihr entgegenwirken können.
