Im heutigen digitalen Zeitalter wird künstliche Intelligenz (KI) zu einem Werkzeug, das nicht nur die Erstellung von Inhalten erleichtert, sondern auch zur Verbreitung von Hass beiträgt. Laut einem neuen Bericht des Center for the Study of Organized Hate (CSOH) sind KI-generierte Bilder und Videos zu einem zentralen Element einer neuen Welle antimuslimischen Hasses in den sozialen Netzwerken Indiens geworden. Dieser im Oktober 2025 veröffentlichte Bericht beschreibt detailliert, wie diese Technologien Narrative gegen Minderheiten verstärken.
Der CSOH-Bericht analysiert den Zeitraum von Mai 2023 bis Mai 2025 und identifiziert mehr als 1 326 KI-generierte Beiträge, die sich gegen Muslime richten. Diese Beiträge stammen von 297 öffentlichen Konten auf Plattformen wie X (früher Twitter), Instagram und Facebook. Insgesamt erzielten diese Inhalte mehr als 27 Millionen Interaktionen, darunter geteilte Inhalte, Likes und Aufrufe. Das bedeutet eine enorme Reichweite und Verbreitungsgeschwindigkeit, die mit herkömmlichen Methoden nicht erreicht werden.
KI erleichtert die Erstellung hasserfüllter Inhalte
Generative KI-Tools wie Midjourney, Stable Diffusion und andere ermöglichen die Erstellung realistischer Bilder und Videos, ohne dass fortgeschrittene Kenntnisse erforderlich sind. Früher musste man Programme wie Photoshop beherrschen, heute genügt eine einfache Anweisung, und der Inhalt ist innerhalb von Sekunden fertig. Der CSOH-Bericht hebt hervor, dass diese Tools die Hürden für die Ersteller hasserfüllten Materials senken und so eine schnelle Produktion und Verbreitung in großem Umfang ermöglichen.
KI ermöglicht beispielsweise anonyme und sofortige Kampagnen, bei denen Inhalte koordiniert über verschiedene Konten verbreitet werden. Forensische Analysen und das Scannen von Metadaten bestätigen, dass diese Bilder tatsächlich von KI generiert wurden. Dieser Ansatz macht Hass ansprechender und leichter teilbar, insbesondere unter jungen Nutzern, die visuelle Attraktivität schätzen.
Hauptthemen in KI-Inhalten
Der CSOH-Bericht unterteilt hasserfüllte Inhalte in vier Hauptkategorien. Die erste ist die Sexualisierung muslimischer Frauen, die Misogynie mit Islamfeindlichkeit verbindet und die meisten Interaktionen erzielt. Die zweite Kategorie umfasst ausgrenzende und entmenschlichende Rhetorik, in der Muslime als Untermenschen oder als Gefahr dargestellt werden.
Der dritte Bereich umfasst Verschwörungsnarrative wie „Love Jihad“ oder „Population Jihad“, die Muslime als Bedrohung für die Gesellschaft darstellen. Die letzte Kategorie ästhetisiert Gewalt und macht Hass dadurch visuell ansprechend oder humorvoll, was seine Reichweite erhöht. Diese Themen verwenden häufig übertriebene Merkmale und Stereotype, die die Narrative rechter Gruppen unterstützen.
Auswirkungen auf die Gesellschaft und Gegenmaßnahmen
Dieser Trend verschärft die gesellschaftlichen Spannungen in Indien, einem Land mit einer großen Online-Bevölkerung und einer komplexen politischen Lage. KI normalisiert nicht nur Vorurteile, sondern erhöht auch das Risiko von Gewalt gegen Muslime außerhalb des Internets. Der CSOH-Bericht warnt davor, dass sich die Situation ohne Gegenmaßnahmen verschlechtern wird, und fordert Systeme zur Erkennung des Missbrauchs von KI.
Experten bezeichnen die Situation in Indien aufgrund des lokalen Kontexts als besonders besorgniserregend. Ähnliche Taktiken treten auch in Europa auf, jedoch in geringerem Umfang. Das CSOH empfiehlt, dass Plattformen eine bessere Erkennung KI-generierter Inhalte einführen und die Regulierung dieser Tools verbessert wird, um ihren Missbrauch zur Verbreitung von Hass zu verhindern.
