Deepfakes sind künstlich erzeugte oder manipulierte Medien, die mithilfe generativer Künstlicher Intelligenz erstellt werden. Beginn 2026 erreichte das Erstellen von sexualisierten Deepfakes, also das Erstellen von Videos oder Bildern, in denen Personen ohne ihr Einverständnis in sexualisierter Weise dargestellt werden, auf der Plattform X durch die KI Grok ein bisher ungekanntes Ausmaß. Im März 2026 werden die Vorwürfe von Collien Fernandes gegen ihren Ex-Mann Christian Ulmen, der ihr jahrelang digitale sexualisierte Gewalt durch Deepfakes zugefügt haben soll, publik.
Kurz zuvor habe ich mit Joseph Barla ein Gespräch über die Anschlussfähigkeit generativer KI-Technologien an patriarchale sowie faschistische Gesellschaftsentwürfe gesprochen. Sexualisierte Deepfakes sind digitale vergeschlechtlichte Gewalt, die der Demütigung sowie sozialen Kontrolle über den weiblich gelesenen Körper dienen. Bei der Möglichkeit zum Erstellen von sexualisierten Deepfakes mit KI, handelt es sich nicht um Fehlfunktionen einzelner Technologien, sondern um eine bewusst geschaffene Gewaltinfrastruktur, die patriarchalen sowie faschistischen Zwecken zugutekommt. Darüber und wie Tech-Eliten, die sogenannte Manosphere sowie die Neue Rechte miteinander verknüpft sind, sprechen wir in dieser Folge Talk Social Science to Me.
Verantwortlich für Produktion und Inhalt dieser Folge ist die Podcasterin.
Shownotes:
Bist du von digitaler Gewalt betroffen? Dann kannst du dich u.a. an die gemeinnützige Organisation HateAid wenden: https://hateaid.org/
Literaturverzeichnis:
AI Forensics, Hrsg. 2026. „Grok Unleashed. Grok Generating Flood of Sexualized Images of Women, Including Minors, and Extremist Propaganda“. https://aiforensics.org/uploads/GrokUnleashed.pdf [letzter Aufruf: 27.03.2026].
Amlinger, Caroline, & Nachtwey, Oliver. 2025. Zerstörungslust: Elemente des Demokratischen Faschismus (4. Aufl). Suhrkamp.
Herzog, Dagmar. 2025. Der neue faschistische Körper. Wirklichkeit Books.
Klein, Rahel. 2026. “Wenn Musks KI dich auszieht”. Deutschlandfunk Nova, Januar 09. https://www.deutschlandfunknova.de/beitrag/grok-wenn-musks-ki-dich-auszieht [letzter Aufruf: 27.03.2026].
Lewis, Becca. 2025. „‘Headed for Technofascism’: The Rightwing Roots of Silicon Valley“. The Guardian, Januar 29. https://www.theguardian.com/technology/ng-interactive/2025/jan/29/silicon-valley-rightwing-technofascism [letzter Aufruf: 27.03.2026].
McIntosh, Janet. 2025. „From Pajama Boy to Pepe the Frog: Power, Essentialism, and the Nation-State in the Manosphere“. Journal of Right-Wing Studies 2(2).
Mühlhoff, Rainer. 2025. „Künstliche Intelligenz und der neue Faschismus“. Ditzingen: Reclam Verlag.
Steyerl, Hito. 2025. Medium Hot: Images in the Age of Heat. London: Verso Books.