KI-Fälschungen revolutionieren Desinformation – wie Fake-Videos und Deepfakes Gesellschaften spalten
Emma Schmidt
KI-Fälschungen revolutionieren Desinformation – wie Fake-Videos und Deepfakes Gesellschaften spalten
KI-generierte Falschinformationen verbreiten sich in sozialen Medien mit immer raffinierteren Methoden
Von gefälschten Interviews bis hin zu Deepfake-Religionsführern – manipulierte Inhalte werden genutzt, um spaltende Narrative zu verbreiten. Experten warnen, dass diese Taktiken Emotionen, Vorurteile und sogar Popkultur ausnutzen, um Zuschauer aller Altersgruppen in die Irre zu führen.
Eine Forscherin, die diese Entwicklungen genau beobachtet, ist die Politik- und Wirtschaftswissenschaftlerin Katharina Nocun. Sie untersucht, wie Verschwörungstheorien und politische Einflussnahme im Netz entstehen. Ihre Arbeit zeigt, wie rechtsextreme Gruppen, Regierungen und finanziell motivierte Akteure KI-Tools als Waffen einsetzen, um überzeugende Fälschungen zu erstellen – oft mit alarmierenden Folgen.
In Deutschland haben rechtsextreme Netzwerke KI-generierte Videos angeblicher Bürger im Umlauf gebracht. Ein Clip zeigte eine blonde 18-Jährige, die zu Massenabschiebungen aufrief. Die Aufnahme imitierte ein "Straßeninterview", doch die Sprecherin war komplett erfunden. Ähnliche Methoden tauchten auch anderswo auf, etwa bei KI-generierten Rabbis, die antisemitische Klischees und fragwürdige Finanzangebote verbreiteten.
Die Techniken gehen über einfache Täuschung hinaus. Untersuchungen zeigen, dass manche Fake-Accounts sexualisierte Bilder und vorgetäuschte Verletzlichkeit nutzen, um Nutzer in die Falle zu locken – oft für Betrug. Ältere Männer hinterließen explizite Kommentare unter diesen KI-Personas, was beweist, dass Desinformation nicht nur jüngere Zielgruppen betrifft. Selbst Animationsstile progressiver Studios wie Studio Ghibli wurden missbraucht, um Abschiebungen in einem verharmlosenden, fast märchenhaften Licht darzustellen.
Auch Regierungen setzen auf KI-gestützte Propaganda. Seit der Eskalation der Spannungen mit dem Iran inszenierte das Weiße Haus eine digitale "Militärparade" in sozialen Medien, die junge Männer mit hypermaskulinen Bildern und stilisierter Ästhetik ansprechen sollte. Die Kampagne vermischte Kampfaufnahmen mit Comic-Elementen – ein Stil, der an rechtsextreme Memes erinnert. Diese Strategien zeigen, wie staatliche Akteure und Extremistengruppen mittlerweile aus demselben Handbuch schöpfen und Popkultur nutzen, um ihre Botschaften zu normalisieren.
Angesichts des Ausmaßes der Problematik sehen sich Regulierungsbehörden zum Handeln gezwungen. Ab August wird die EU Vorschriften durchsetzen, die KI-generierte Inhalte mit klaren Kennzeichnungen versehen müssen. Ziel ist es, Nutzern die Unterscheidung zwischen Fakt und Fiktion zu erleichtern – doch Experten warnen, dass entschlossene Akteure weiterhin Lücken in der Erkennung ausnutzen werden.
Der Aufstieg von KI-Fälschungen markiert einen Wandel in der Verbreitung von Desinformation. Statt auf Texte oder plumpe Bearbeitungen beschränkt zu sein, setzen Manipulatoren nun hyperrealistische Videos, emotionale Trigger und kulturelle Bezüge ein, um Meinungen zu beeinflussen. Mit den bevorstehenden Kennzeichnungspflichten wird das Katz-und-Maus-Spiel zwischen den Machern gefälschter Inhalte und denen, die sie entlarven wollen, noch intensiver werden.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Für Forscherinnen wie Nocun besteht die Herausforderung darin, nachzuvollziehen, wie sich diese Taktiken weiterentwickeln – und wie leicht sie Grenzen, Ideologien und Altersgruppen überschreiten. Die Mittel zur Gegenwehr existieren, doch ihr Erfolg hängt davon ab, ob Plattformen, Regierungen und Nutzer mit den Fälschungen Schritt halten können.
