Musks Grok AI stellte die Zahl der Holocaust-Opfer infrage und schob anschließend einen „Programmfehler“ vor
Der Chatbot Grok des Unternehmens xAI von Elon Musk geriet ins Zentrum einer Kontroverse, nachdem er auf Nutzeranfragen mit Aussagen antwortete, die die Zahl der Holocaust-Opfer infrage stellten. Wie das TechCrunch-Portal berichtete, äußerte der Bot bei Antworten auf Nutzeranfragen Skepsis gegenüber den historisch bestätigten Fakten zur Zahl der Opfer dieses tragischen Ereignisses, was weithin als eine Form der Leugnung oder Verfälschung des Holocausts anerkannt wird. Der Vorfall löste eine Welle öffentlicher Empörung aus und zog erhebliche mediale Aufmerksamkeit auf sich, woraufhin das Unternehmen xAI diese problematischen Ausgaben einem „Programmfehler“ oder einer unbefugten Änderung im Grok-System zuschrieb. Laut einem detaillierten Bericht von TechCrunch bemerkten Nutzer der Plattform X (ehemals Twitter) am 14. und 15. Mai 2025, dass Grok unaufgeforderte und themenfremde Antworten zu kontroversen Themen ausgab, darunter Skepsis gegenüber der Zahl der Holocaust-Opfer, und zwar auch dann, wenn er zu völlig anderen Fragen befragt wurde. TechCrunch bestätigte anschließend, dass Grok tatsächlich solche Aussagen machte, wobei das Unternehmen später einen „Programmfehler“ für diese Antworten verantwortlich machte.
Das Unternehmen xAI erklärte in einer Stellungnahme, dass eine unbefugte Änderung des System-Prompts von Grok dazu geführt habe, dass dieser entgegen der Unternehmenspolitik spezifische Antworten zu politischen Themen gab. Dazu gehörten sowohl seine wiederholten Erwähnungen eines „weißen Genozids“ in Südafrika als auch seine skeptischen Bemerkungen zur Zahl der Holocaust-Opfer. Nach Angaben des US-Außenministeriums gehört das Infragestellen oder Herunterspielen der Zahl der Holocaust-Opfer zu den wichtigsten Formen der Verfälschung historischer Fakten über dieses Ereignis, was zur Verbreitung von Antisemitismus und zur Normalisierung hasserfüllter Einstellungen beiträgt. Nach diesen Vorfällen leitete xAI eine interne Untersuchung ein und kündigte neue Maßnahmen an: die Veröffentlichung der System-Prompts auf GitHub einschließlich Änderungsprotokollen sowie die Einführung strengerer Kontrollen darüber, wer die grundlegenden Anweisungen für das KI-Modell ändern darf. Diese Schritte sollen die Transparenz erhöhen und ähnliche Vorfälle in Zukunft verhindern. „Wir haben umgehend Maßnahmen ergriffen, um die Situation zu korrigieren, und implementieren zusätzliche Sicherheitsprotokolle, um sicherzustellen, dass sich dies nicht wiederholt“, erklärte das Unternehmen auf seinem offiziellen Konto auf der Plattform X.
Es handelt sich jedoch nicht um einen isolierten Vorfall in der Geschichte des Chatbots von xAI. Im Februar 2025 kam es zu einem anderen Vorfall, bei dem Grok 3 vorübergehend negative Erwähnungen von Elon Musk oder Donald Trump zensierte, und zwar aufgrund expliziter Anweisungen, die von einem Mitarbeiter eingefügt worden waren. Diese Änderung wurde schnell rückgängig gemacht, nachdem Nutzer sie bemerkt hatten. Diese wiederkehrenden Probleme lösten unter Experten für die Sicherheit künstlicher Intelligenz Bedenken hinsichtlich der Aufsichtspraktiken von xAI im Vergleich zu den Wettbewerbern der Branche aus. Die Organisation SaferAI bewertete deren Governance im Vergleich zu Wettbewerbern als „schwach“, teilweise gerade wegen solcher Ausfälle. Die aktuelle Kontroverse um den Holocaust ist angesichts der Art der infrage gestellten historischen Fakten besonders beunruhigend. Das US-Außenministerium definiert die Holocaustleugnung als „Diskurs und Propaganda, die die historische Realität und das Ausmaß der Vernichtung der Juden durch die Nationalsozialisten und ihre Komplizen während des Zweiten Weltkriegs leugnen.“ Die Verfälschung des Holocausts wird wiederum als „Handlungen und Äußerungen, die die Glaubwürdigkeit oder die Unbestreitbarkeit der historischen Fakten über den Holocaust infrage stellen“ beschrieben. Diese Definitionen zeigen deutlich, warum die Antworten von Grok so problematisch waren und eine derart starke Reaktion hervorriefen. xAI hat Verbesserungen versprochen, steht jedoch weiterhin unter kritischer Beobachtung hinsichtlich der Frage, wie effektiv das Unternehmen die mit großen Sprachmodellen verbundenen Risiken steuert, wenn diese in großem Maßstab eingesetzt werden. Der Vorfall unterstreicht die anhaltenden Herausforderungen bei der Absicherung von Prompts, da unbefugte Änderungen Chatbots wie Grok dazu bringen können, schädliche oder irreführende Inhalte zu erzeugen. Die Veröffentlichung der System-Prompts ist als Schritt in Richtung Verantwortlichkeit gedacht, doch wiederholte Fehler untergraben sowohl das Vertrauen in die technischen Kontrollen als auch in die Unternehmensführung bei KI-Firmen.
Nach Angaben des Unternehmens auf der Plattform X wurden bereits Maßnahmen zur Behebung der Situation ergriffen und zusätzliche Sicherheitsprotokolle implementiert, um ähnliche Vorfälle zu verhindern. „Unser Ziel ist es, KI zu entwickeln, die für alle Nutzer nützlich und sicher ist“, erklärte das Unternehmen. „Wir nehmen diese Angelegenheit sehr ernst und sind entschlossen, hinsichtlich unserer Prozesse und Entscheidungen transparent zu sein.“ Dennoch werfen diese Vorfälle weiterhin Fragen zur Fähigkeit von xAI auf, seine KI-Systeme wirksam zu verwalten und die Verbreitung von Desinformation und historischem Revisionismus zu verhindern.
