KI Fakes: Ist die Wahrheit noch erkennbar?
01:27 Min.. Verfügbar bis 26.01.2026.
Desinformationskampagne: Wie Fake-Nachrichten auf X trenden
Stand: 26.01.2024, 15:13 Uhr
Experten des Auswärtigen Amts haben auf dem Kurznachrichtendienst X systematische Desinformationskampagnen russischer Herkunft ausgemacht. Das Ziel: Wahlbeeinflussung. WDR-Digitalexperte Jörg Schieb erklärt die Hintergründe.
Das deutsche Außenministerium hat Recherchen des Nachrichtenmagazins "Spiegel" zufolge eine großflächige russische Desinformationskampagne auf der Online-Plattform X aufgedeckt.
Ziel der groß angelegten Kampagne sei es offenbar, Misstrauen und Unmut gegen die deutsche Regierung zu verstärken und die Unterstützung für die Ukraine zu schwächen. Experten des Ministeriums haben Tausende Fake-Accounts aufgedeckt, die gezielt und ausschließlich Desinformation verbreitet haben.
Gefälschter Screenshot mit Desinformation
So wird beispielsweise ein echt wirkender Screenshot über die Konten verteilt: Angeblich habe das Außenministerium unter dem offiziellen X-Account @ABaerbock geschrieben, der "Krieg in der Ukraine ist in drei Monaten vorbei". Alles wirkt authentisch, das Profilfoto der Ministerin, die Zahl der Follower, ihr bekanntes Nutzerkonto. Doch es handelt sich um einen Fake.
Die Betreiber der Kampagne – es werden russische Trollfabriken dahinter vermutet – haben darüber hinaus beliebte Hashtags wie #Oktoberfest, #Dirndl oder zu Fußballthemen verwendet, um von den Algorithmen der Plattform bevorzugt zu werden – was auch funktioniert hat. Die massenhaften Desinformationen haben sich rasant verbreitet und viele Menschen erreicht.
Desinformation auf X nimmt zu
Seitdem Elon Musk die Kontrolle über den Kurznachrichten übernommen hat, nehmen Desinformationskampagnen erkennbar und messbar zu. Dafür gibt es mehrere Erklärungen: Zum einen hat Musk das Personal erheblich reduziert (mindestens 70 Prozent), zum anderen hat Musk angekündigt, auf dem von Twitter in X umgetauften Dienst "uneingeschränkte Meinungsfreiheit" einführen zu wollen – und es auch umgesetzt.
Die Folge: Fake-Accounts, die Fake-News und Desinformation verbreiten, werden weder identifiziert, noch die Verbreitung solcher Desinformation eingeschränkt oder unterbunden. So konnten mehr als 50.000 gefälschte Nutzerkonten mit mehr als einer Million Tweets Stimmung gegen die deutsche Regierung und deren Unterstützung für die Ukraine machen.
Wissenschaftliche Studie warnt vor KI-Fakes
Mit wenigen Handgriffen lässt sich mit KI ein Fake-Papst im Rapper-Dress erzeugen
Noch kommen Fake-Accounts und manipulierte Screenshots zum Einsatz. Doch in Zukunft werden für solche Kampagnen vermehrt mit KI generierte Inhalte verwendet, warnt die George Washington University. Demnach könnte KI "schon bald ein alltägliches Werkzeug zur Manipulation von Wahlen werden". Darunter die Präsidentschaftswahlen in den USA, die Europawahlen in der EU, Landtagswahlen in Deutschland, Nationalratswahlen in Österreich und Volksabstimmungen in der Schweiz.
Tatsächlich wurden schon etliche Versuche unternommen: Eine Kapitulationserklärung des ukrainischen Präsidenten oder das Fake-Video des Bundeskanzlers, der die AfD verbietet, haben das Potenzial, die Gesellschaft zu spalten und für Unruhe zu sorgen.
KI erzeugt zunehmend auch Videos
Die Qualität der mit KI erzeugten Fotos, Audio und Videos nimmt rasant zu. Gerade erst hat Google eine neue KI-Technologie namens "Lumiere" vorgestellt, die aus dem Nichts bis zu fünf Sekunden lange Videos erzeugt, die täuschend echt wirken. Schon bald werden sich beliebige Videos erzeugen lassen, so wie heute schon mit KI echt wirkende Fotos erzeugt werden.
Konsequent verbieten lassen sich solche KI-Systeme nicht, jedenfalls nicht weltweit. Dazu bräuchte es eine globale Ächtung, wie beim Einsatz chemischer oder atomarer Waffen. Die Politik berät, derzeit auch in der EU, wie sich Manipulationen mit Hilfe von durch KI erzeugten Medien vor Wahlen eindämmen oder verhindern lassen.
OpenAI, das Unternehmen hinter ChatGPT und der Bild-generierenden KI Dall-E, hat von sich aus Maßnahmen angekündigt und auch bereits eingeführt, die das Erzeugen von Texten und Bildern, die zur Wahlmanipulation verwendet werden könnten, erschweren oder verhindern sollen.
Über den Autor
WDR-Digitalexperte Jörg Schieb
Jörg Schieb, Jahrgang 1964, ist WDR-Digitalexperte und Autor von 130 Fachbüchern und Ratgebern. Er beschäftigt sich seit vielen Jahren mit der Digitalisierung und deren Auswirkungen auf unseren Alltag.
