KI-Desinformation beherrscht die sozialen Netzwerke!

Der Krieg in der Ukraine und der aktuelle Konflikt zwischen Israel und dem Iran haben eine gefährliche neue Realität offengelegt: Künstliche Intelligenz wird zu einer mächtigen Waffe in den Händen derjenigen, die die öffentliche Meinung manipulieren wollen. Russland nutzt systematisch KI-Werkzeuge zur Verbreitung von Desinformation, während Deepfakes und gefälschte KI-generierte Inhalte die sozialen Netzwerke mit gefährlicher Geschwindigkeit überfluten.

Der israelisch-iranische Konflikt: Ein Labor für KI-Desinformation

Als Israel am 13. Juni Angriffe auf den Iran begann, wurden die sozialen Netzwerke sofort mit gefälschten, mithilfe künstlicher Intelligenz erstellten Inhalten überflutet. Einer Analyse von BBC Verify zufolge erschienen Dutzende Beiträge, die KI-Technologien zur Erstellung unwahrer Inhalte nutzten, um den Erfolg der iranischen Reaktion zu übertreiben.

Die drei meistgesehenen gefälschten Videos, die von der BBC identifiziert wurden, erreichten auf verschiedenen Plattformen zusammen mehr als 100 Millionen Aufrufe. Zu den am weitesten verbreiteten Inhalten gehörten KI-generierte Bilder von angeblich über iranischem Gebiet abgeschossenen israelischen F-35-Kampfjets. Wären diese Aufnahmen echt, hätte der Iran 15 % dieser hochmodernen israelischen Maschinen zerstört, wie Lisa Kaplan, Geschäftsführerin der Analysegruppe Alethea, anmerkte.

Ein vielfach geteiltes Foto zeigte angeblich einen abgeschossenen Kampfjet in der iranischen Wüste, doch die Anzeichen für eine KI-Manipulation waren offensichtlich: Die Zivilisten rund um das Flugzeug waren genauso groß wie die Fahrzeuge in der Umgebung, und der Sand wies keinerlei Spuren eines Aufpralls auf. Emmanuelle Saliba, leitende Ermittlerin der Analysegruppe Get Real, bezeichnete diesen Konflikt als den „ersten Fall, in dem wir den großflächigen Einsatz generativer KI während eines Konflikts beobachtet haben“.

Russlands KI-Offensive: Systematische Manipulation des Informationsraums

Russland ist zu einem Vorreiter beim Einsatz von KI-Technologien für Desinformationskampagnen geworden, insbesondere im Zusammenhang mit dem Krieg in der Ukraine. Einer Analyse aus dem Jahr 2024 zufolge konzentrierten sich russische Operationen auf die „Vergiftung“ großer Sprachmodelle, indem ein weitreichendes Netzwerk glaubwürdig wirkender, aber verlogener Artikel geschaffen wurde, die die Trainingsdaten künstlicher Intelligenz beeinflussen sollen.

„Die russischen Manipulationsversuche richten sich weniger an konkrete Personen, sondern manipulieren vielmehr KI-Suchmaschinen. So erreichen ihre Ansichten ein wesentlich größeres Publikum“, erklärt Isis Blanchez, Analystin bei NewsGuard. „Es handelt sich um ein System, das im Hintergrund die Antworten künstlicher Intelligenz beeinflusst, ohne dass die Nutzer davon wissen.“

Einer der bekanntesten Fälle war ein Deepfake-Video des ukrainischen Präsidenten Wolodymyr Selenskyj vom März 2022, in dem er angeblich seinen Rücktritt bekannt gab und zur Übergabe der Waffen aufrief. Pro-russische Akteure hackten ukrainische Medien und luden dieses gefälschte Video hoch. Obwohl die Qualität des Deepfakes relativ niedrig war und das Video schnell als Fälschung identifiziert wurde, verbreitete es sich über die Plattform Telegram und wurde im Fernsehen ausgestrahlt.

Vergiftung des KI-Ökosystems: Wikipedia und Sprachmodelle unter Beschuss

Russische Desinformationsoperationen haben ihre Reichweite auch auf die Manipulation von KI-Sprachmodellen und der Plattform Wikipedia ausgeweitet. Russische Akteure dringen in diese Quellen ein, die von KI-Werkzeugen und Chatbots für Training und Referenzzwecke genutzt werden, und fügen dort kremlfreundliche Narrative ein.

Indem sie sich auf Plattformen wie Wikipedia als maßgebliche Autoren und als legitime Nachrichtenquellen ausgeben, versuchen russische Akteure, die Art und Weise zu beeinflussen, wie Informationen über den Krieg in der Ukraine weltweit dargestellt und verstanden werden. Diese Manipulation birgt das Risiko, dass ein globales Publikum bei der Interaktion mit KI-Chatbots und Suchmaschinen mit kremlfreundlichen Inhalten konfrontiert wird.

Soziale Netzwerke als Schlachtfeld der Desinformation

Bestimmte Konten sind zu „Superverbreitern“ von Desinformation geworden und wurden mit einem erheblichen Zuwachs an Followern belohnt. Bei einem pro-iranischen Konto namens Daily Iran Military stieg die Zahl der Follower auf X von lediglich 700.000 am 13. Juni auf 1,4 Millionen bis zum 19. Juni – ein Anstieg um 100 % in weniger als einer Woche.

X war nicht die einzige betroffene Plattform. Viele Videos erschienen auch auf TikTok und Instagram. TikTok erklärte gegenüber BBC Verify, dass es proaktiv die Gemeinschaftsrichtlinien durchsetze, „die ungenaue, irreführende oder falsche Inhalte verbieten“, und mit unabhängigen Faktenprüfern zusammenarbeite.

Das Problem wird dadurch verschärft, dass KI-Technologien immer leichter zugänglich werden. Werkzeuge zur Erstellung von Deepfakes oder KI-generierten Bildern stehen heute praktisch jedem zur Verfügung, der über einen Internetzugang verfügt.

Grok und das Problem der Überprüfung

Viele der von BBC Verify untersuchten Desinformationen wurden auf X geteilt, wobei die Nutzer häufig den KI-Chatbot der Plattform – Grok – nutzten, um den Wahrheitsgehalt der Beiträge zu überprüfen. In einigen Fällen beharrte Grok jedoch darauf, dass die KI-Videos echt seien.

Ein solches Video zeigte einen endlosen Strom von Lastwagen mit ballistischen Raketen, die aus einem Gebirgskomplex herausfuhren. Zu den verräterischen Anzeichen für KI-generierte Inhalte gehörten Steine im Video, die sich von selbst bewegten. Dennoch beharrte Grok wiederholt darauf, dass das Video echt sei, und zitierte Medienberichte unter anderem von Newsweek und Reuters.

Globale Auswirkungen und künftige Herausforderungen

Der Einsatz KI-gesteuerter Desinformation bedroht das öffentliche Vertrauen in Informationen, erschwert militärische und zivile Entscheidungen und kann die Moral sowohl des ukrainischen als auch des internationalen Publikums beeinflussen. Die Geschwindigkeit, mit der sich falsche Inhalte verbreiten können, übersteigt häufig das Tempo, in dem diese Inhalte widerlegt werden können. Matthew Facciani, Forscher an der University of Notre Dame, weist darauf hin, dass sich Desinformation online schneller verbreiten kann, wenn Menschen vor binären Entscheidungen stehen, wie sie durch Konflikte und Politik hervorgerufen werden. „Dies verweist auf ein umfassenderes soziales und psychologisches Problem von Menschen, die Inhalte erneut teilen wollen, wenn diese mit ihrer politischen Identität übereinstimmen.“

Die Slowakei wurde 2024 als eines der gegenüber Desinformation anfälligsten Länder der EU eingestuft, was die regionale Tragweite des Problems verdeutlicht. Experten weisen auf die Notwendigkeit von Bildung und Aufklärung hin, da eine Gesellschaft ohne verbesserte Medienkompetenz leicht von diesen neuen Formen der Manipulation getroffen werden kann.

Die aktuelle Lage zeigt, dass die Abwehrmechanismen den Angriffsfähigkeiten häufig hinterherhinken. Während sich die Erkennung von Deepfakes verbessert, werden zugleich auch die Technologien zu ihrer Erstellung weiterentwickelt, wodurch ein ständiges Wettrennen zwischen den Urhebern gefälschter Inhalte und denjenigen entsteht, die versuchen, sie aufzudecken.