Manach arbeitet für die unabhängige französische Website Next.ink und ist seit über drei Jahrzehnten journalistisch tätig. Als ihn automatische Google-Benachrichtigungen wiederholt auf unbekannte Seiten führten, sah er sie sich genauer an. Die dortigen Artikel waren entweder aus echten Medien wie Politico oder Euronews ins Französische übersetzt worden, oder künstliche Intelligenz hatte sie so umgeschrieben, dass sie die Arbeit echter Journalisten paraphrasierten. Ziel der Überarbeitung war es, dem Vorwurf des Kopierens von Inhalten zu entgehen.
Bis Mai 2024 hatte Manach rund 75 solcher Websites auf seiner Liste. Gemeinsam mit seinen Studenten untersuchte er deren Inhalte und stellte fest, dass mindestens ein Viertel von ihnen auf gestohlenen Artikeln beruhte. Doch das Tempo nahm zu. Im September waren es bereits mehr als 250, und er bat die Faktenprüfer der Zeitung Libération und ihrer Rubrik Checknews um Hilfe.
„Im Dezember überschritt die Liste die Marke von 500 KI-generierten Websites, und im Februar 2025 erreichte sie tausend, als wir die ersten Artikel veröffentlichten“, berichtet Manach. Die Veröffentlichung verzögerte sich aus einem einfachen Grund. Zu dieser Zeit reichten mehr als 40 französische Medien eine gemeinsame Klage gegen eine von künstlicher Intelligenz betriebene Website ein, die rund 6 000 Artikel kopierte. Täglich.
Die Zahl wächst jeden Tag
Heute hat Manach allein auf Französisch 15 000 von künstlicher Intelligenz generierte Nachrichten-Websites gezählt. Hinzu kommen rund 1 500 auf Englisch, mehr als 200 auf Deutsch, etwa 130 auf Spanisch und Dutzende in weiteren Sprachen. Dabei beobachtet er nicht nur diejenigen, die Desinformationen verbreiten sollen, sondern vor allem jene, die wegen der Werbeeinnahmen entstanden sind. Diese bilden ihm zufolge die Mehrheit.
Ein ähnliches Bild zeichnet die amerikanische Organisation NewsGuard, die gefälschte Websites seit Langem erfasst. Ihr zufolge hat sich die Zahl der Seiten mit Falschnachrichten, die mit minimaler oder ganz ohne menschliche Aufsicht betrieben werden, im Laufe des Jahres 2023 verzehnfacht. Das NewsGuard-Team hat bislang 3 749 Content-Farmen in sechzehn Sprachen gefunden. Darunter ist auch Tschechisch.
Wer diese Websites erstellt
Die meisten Seiten wurden von Fachleuten für Suchmaschinenoptimierung gestartet. Anfangs zielten sie auf Google Discover ab, weil es zur wichtigsten Besucherquelle für Nachrichten-Websites geworden war. Einigen brachte das täglich Hunderte bis Tausende Dollar ein.
Manach zufolge wurden mehr als 75 Prozent dieser Websites von weniger als 300 Personen gegründet. Meist handelt es sich um Einzelpersonen oder Kleinstunternehmen. Rund hundert von ihnen verwalten Netzwerke mit mehr als zwanzig Websites, manchmal mehr als hundert, in Extremfällen sogar über zehntausend miteinander verknüpfte Seiten, um Links aufzubauen und bessere Platzierungen in Suchmaschinen zu erzielen.
Auch Medienunternehmen selbst greifen auf künstliche Intelligenz zurück. Manche „optimieren“ damit ihre Journalisten, andere ersetzen sie gleich vollständig. „Eine der drei großen französischen Online-Mediengruppen hat kürzlich angekündigt, 40 Prozent ihrer Mitarbeiter zu entlassen. Wir haben festgestellt, dass auf einigen ihrer Websites die Hälfte der Journalisten überhaupt nicht existierte und von künstlicher Intelligenz erschaffen worden war“, sagt Manach. Er stieß auch auf einen einzigen Journalisten, der täglich 500 Artikel in mehreren Versionen derselben Geschichte produzierte. Es ging darum, die Wahrscheinlichkeit zu erhöhen, dass der Artikel von Discover oder dem MSN-Portal empfohlen wurde.
Auch echte Medien nutzen KI
Auch „echte“ Medien und Journalisten greifen immer häufiger auf generierte Inhalte zurück. Dadurch können sie jeden Tag wesentlich mehr Artikel veröffentlichen. Zwei der größten französischen Nachrichtenverlage haben Manach zufolge einen ganzen Geschäftszweig aufgebaut, der darauf ausgerichtet ist, ihre Texte in den Antworten von Sprachmodellen und Chatbots erscheinen zu lassen.
Das Hauptziel bleiben Empfehlungen über Google Discover. Im vergangenen Sommer waren fast 20 Prozent der tausend am häufigsten auf Discover empfohlenen Nachrichten-Websites von künstlicher Intelligenz erstellt worden. Bei den 120 besten Technologie-Websites in Google News war es sogar ein Drittel.
Und die Menschen sprechen darauf an. Das Marktforschungsunternehmen Médiamétrie stellte im vergangenen Dezember fest, dass die 250 am häufigsten empfohlenen KI-generierten Websites jeden Monat von 15 bis 16 Millionen Menschen besucht werden, also von einem Viertel aller Franzosen. Drei Viertel von ihnen waren fünfzig Jahre oder älter. Bis April stieg diese Zahl auf 23 Millionen Menschen monatlich, was fast 40 Prozent der französischen Bevölkerung entspricht.
Die Einnahmen sind oft beträchtlich. „Zwei dieser Verlage verdienten mit einer einzigen Website auf Discover in nur drei Monaten mehr als zwei Millionen Dollar, und zwar auf Englisch“, warnt Manach. Der Empfehlungsalgorithmus von Google erkannte nämlich nicht, dass Menschen mehr Zeit mit einem irreführenden Artikel verbrachten, weil sie ihn gründlich prüfen und der Redaktion eine Beschwerde schreiben wollten. Nicht, weil er ihnen gefiel.
Wenn Halluzinationen Panik auslösen
Manach schlägt angesichts der Geschwindigkeit und des Ausmaßes, mit denen sich diese Meldungen verbreiten, Alarm. Er beobachtete einen einzigen Optimierungsspezialisten, der täglich Tausende Artikel veröffentlichte und mehr Menschen erreichte als alle großen französischen Medien zusammen. In seinen Texten wurden einige Verbrauchermärkte fälschlicherweise beschuldigt, krebserregendes Fleisch, mit Bleichmittel gewaschene verdorbene Lebensmittel oder wieder eingefrorene Produkte zu verkaufen. Diese alarmierenden Schlagzeilen waren von der künstlichen Intelligenz erfunden worden, die er verwendete.
Er stieß auch auf echte Journalisten aus Fleisch und Blut, die anschließend die von diesen Websites erfundenen Unwahrheiten weiterverbreiteten. „Von künstlicher Intelligenz generierte Seiten verbreiten mehrere unterschiedliche falsche Versionen tatsächlicher Ereignisse, um die Menschen zu verwirren. Wir müssen uns das eingestehen und uns dagegen wehren“, sagt er.
Wie man den Betrug erkennt
Manach räumt ein, dass es immer schwieriger wird, KI-generierte Texte und Bilder zu erkennen. Automatischen Detektoren vertraut er nicht. Seiner Ansicht nach liefern sie zu viele fehlerhafte Ergebnisse, und einige Websites erstellen sogar gefälschte Profile auf LinkedIn, um ihren erfundenen Journalisten Glaubwürdigkeit zu verleihen.
Er selbst geht wie ein Ermittler vor und betrachtet vor allem die Metadaten, nicht den Inhalt. Er prüft, wie viele Artikel dieselben Autoren in welchem Zeitraum veröffentlichen, und verifiziert, ob der betreffende Journalist überhaupt existiert. Er ermittelt, wer im Impressum als Herausgeber angegeben ist und ob es sich um ein echtes Unternehmen handelt. Er durchsucht die WHOIS-Datenbank, um festzustellen, wie viele weitere Domains demselben Eigentümer gehören oder dieselbe Werbe-ID verwenden. Außerdem achtet er darauf, ob die Artikel übermäßig aus formatierten Blöcken und Abschnitten mit häufig gestellten Fragen zusammengesetzt sind und ob ihr Ton nach maschinell erzeugtem Text klingt.
Wenn das unbeachtet bleibt, wird das Problem nur weiter anwachsen. Next.ink veröffentlichte für seine Leser einen Warnhinweis zu von künstlicher Intelligenz generierten Websites, woraufhin einer der Nutzer feststellte, dass rund 40 Prozent der von ihm besuchten Seiten genau dieser Art waren.
Während die Regeln für künstliche Intelligenz und deren Durchsetzung weitgehend offene Fragen bleiben, sieht Manach die Aufgabe der Nachrichtenmedien klar. Sie sollen zu „sicheren Orten“ für alle werden, die nach verifizierten Informationen suchen. Das europäische Gesetz über künstliche Intelligenz schreibt zwar vor, KI-generierte Inhalte zu kennzeichnen, doch keine dieser Websites gibt ihre maschinelle Urheberschaft zu. Next.ink hat daher eine kostenlose Browser-Erweiterung entwickelt, die Nutzer warnt, wenn sie eine solche Seite aufrufen.
Quellen: themediaonline.co. und wan-ifra.org
