Das neueste ChatGPT-Modell hat begonnen, Grokipedia, die umstrittene KI-Enzyklopädie von Elon Musk, als Informationsquelle zu verwenden. Tests ergaben, dass der beliebte Chatbot diese Quelle bei Antworten auf weniger bekannte Themen zitiert, was Bedenken hinsichtlich der Verbreitung von Desinformationen weckt.
Grokipedia taucht in den Antworten von ChatGPT auf
Die Zeitung The Guardian führte eine Reihe von Tests durch, bei denen das Modell GPT-5.2 Grokipedia neunmal als Quelle für Antworten auf mehr als ein Dutzend verschiedene Anfragen zitierte. Zu den Themen, bei denen Grokipedia als Quelle auftauchte, gehörten politische Strukturen im Iran, etwa die Gehälter der paramilitärischen Basidsch-Miliz und die Eigentumsverhältnisse der Mostazafan-Stiftung. ChatGPT zitierte Grokipedia auch bei Fragen zur Biografie von Sir Richard Evans, einem britischen Historiker und Sachverständigen im Gerichtsverfahren gegen den Holocaustleugner David Irving.
Interessanterweise zitierte ChatGPT Grokipedia nicht bei direkten Fragen zu Themen, bei denen die Enzyklopädie für die Verbreitung falscher Informationen bekannt ist. Dazu gehören die Ereignisse vom 6. Januar in den USA, eine angebliche Voreingenommenheit der Medien gegenüber Donald Trump oder die HIV/AIDS-Epidemie. Stattdessen gelangten Informationen aus Grokipedia bei Fragen zu weniger bekannten und spezifischen Themen in die Antworten des Modells.
Warum ist Grokipedia umstritten?
Grokipedia wurde im Oktober von Elon Musks Unternehmen xAI als Konkurrenz zur Wikipedia gestartet. Anders als Wikipedia ermöglicht sie keine direkten Bearbeitungen durch Menschen. Stattdessen verfasst ein KI-Modell die Inhalte und reagiert auf Änderungsanfragen. Musk kritisiert Wikipedia seit Langem wegen einer angeblichen Voreingenommenheit gegenüber Konservativen. Kurz nach dem Start wiesen Journalisten darauf hin, dass zwar viele Artikel direkt aus Wikipedia kopiert worden waren, Grokipedia aber auch problematische Inhalte enthielt. So wurde etwa behauptet, Pornografie habe zur AIDS-Krise beigetragen, es wurden „ideologische Rechtfertigungen“ für die Sklaverei angeboten und abwertende Bezeichnungen für Transgender-Personen verwendet.
Beim Zitieren von Grokipedia wiederholte ChatGPT weitergehende Behauptungen als jene, die auf Wikipedia zu finden sind. So behauptete ChatGPT beispielsweise über das iranische Unternehmen MTN-Irancell, dass es Verbindungen zum Büro des obersten Führers des Iran habe – eine Behauptung, die in dieser Form nicht auf Wikipedia zu finden ist. ChatGPT zitierte Grokipedia auch bei der Wiederholung von Informationen, die The Guardian bereits zuvor widerlegt hatte. Konkret ging es um Einzelheiten zu Sir Richard Evans’ Tätigkeit als Sachverständiger im Gerichtsverfahren gegen David Irving.
Nicht nur ChatGPT verwendet Grokipedia
GPT-5.2 ist nicht das einzige große Sprachmodell, das offenbar Grokipedia zitiert. Anekdotischen Hinweisen zufolge verwies auch der Chatbot Claude des Unternehmens Anthropic bei Themen von der Erdölförderung bis hin zu schottischem Bier auf Musks Enzyklopädie.
Ein Sprecher von OpenAI erklärte, die Websuche des Modells „zielt darauf ab, auf ein breites Spektrum öffentlich zugänglicher Quellen und Ansichten zurückzugreifen“. Er fügte hinzu, dass Sicherheitsfilter eingesetzt würden, um das Risiko der Anzeige von Links zu verringern, die mit schwerwiegenden Schäden in Verbindung stehen, und dass ChatGPT durch Quellenangaben klar zeige, welche Quellen in die Antwort eingeflossen seien. Das Unternehmen erklärte außerdem, dass es laufende Programme zur Filterung von Informationen mit geringer Vertrauenswürdigkeit und von Einflusskampagnen unterhalte.
Bedenken wegen „LLM-Grooming“
Die Tatsache, dass Informationen aus Grokipedia in die Antworten großer Sprachmodelle gelangen, beunruhigt Desinformationsforscher. Im vergangenen Frühjahr äußerten Sicherheitsexperten die Sorge, dass böswillige Akteure, darunter russische Propagandanetzwerke, enorme Mengen an Desinformationen produzieren, um KI-Modelle mit Lügen zu füttern. Dieser Prozess wird als „LLM-Grooming“ bezeichnet. Im Juni wurden im US-Kongress Bedenken darüber geäußert, dass Google Gemini die Haltung der chinesischen Regierung zu Menschenrechtsverletzungen in Xinjiang und zur chinesischen Covid-19-Politik wiederholt habe.
Nina Jankowicz, eine Desinformationsforscherin, die sich mit LLM-Grooming beschäftigt hat, erklärte, dass ChatGPTs Zitieren von Grokipedia ähnliche Bedenken hervorrufe. Obwohl Musk möglicherweise nicht die Absicht gehabt habe, große Sprachmodelle zu beeinflussen, stützten sich die Grokipedia-Einträge, die sie und ihre Kollegen überprüft hätten, „auf Quellen, die bestenfalls unglaubwürdig und schlecht belegt sind und bei denen es sich schlimmstenfalls um gezielte Desinformation handelt“.
Die Tatsache, dass große Sprachmodelle Quellen wie Grokipedia oder das Prawda-Netzwerk zitieren, kann wiederum die Glaubwürdigkeit dieser Quellen in den Augen der Leser erhöhen. „Sie könnten sagen: ‚Aha, ChatGPT zitiert das, diese Modelle zitieren das, also muss es eine seriöse Quelle sein, sicher haben sie sie überprüft‘ – und dann könnten sie dort nach Nachrichten über die Ukraine suchen“, sagte Jankowicz.
Sobald falsche Informationen in einen KI-Chatbot gelangt sind, kann es schwierig sein, sie wieder zu entfernen. Jankowicz stellte kürzlich fest, dass ein großes Nachrichtenmedium ein erfundenes Zitat von ihr in einen Artikel über Desinformation aufgenommen hatte. Sie schrieb dem Nachrichtenmedium mit der Bitte, das Zitat zu entfernen, und veröffentlichte in den sozialen Medien einen Beitrag über den Vorfall. Das Nachrichtenmedium entfernte das Zitat. KI-Modelle führten es jedoch noch einige Zeit weiterhin als ihr Zitat an. „Die meisten Menschen werden sich nicht die Mühe machen, herauszufinden, wo die Wahrheit tatsächlich liegt“, erklärte sie.
Reaktion von xAI
Auf die Bitte um eine Stellungnahme antwortete ein Sprecher von xAI, dem Eigentümer von Grokipedia: „Traditionelle Medien lügen.“ Ein Sprecher von OpenAI betonte, dass ChatGPT seine Quellen durch Quellenangaben klar ausweise, sodass Nutzer die Vertrauenswürdigkeit der Informationen beurteilen könnten. Das Unternehmen setze außerdem seine Bemühungen fort, unglaubwürdige Quellen und Einflusskampagnen herauszufiltern.
Diese Entwicklung verdeutlicht ein wachsendes Problem mit der Qualität von Informationen im Bereich der künstlichen Intelligenz. Während KI-Modelle immer leistungsfähiger und zugänglicher werden, bleibt die Frage nach der Vertrauenswürdigkeit der Quellen, auf die sie zurückgreifen, für ihre künftige Nutzung entscheidend.
Weitere Quellen: tomshardware.com und techcrunch.com
