Sie streiten sich mit Ihrem Partner. Sie sind wütend, öffnen ChatGPT und schildern ihm die Situation. Und es antwortet: „Du hast vollkommen recht, deine Reaktion war absolut gerechtfertigt.“ Genau das passiert jeden Tag Zehntausenden Menschen. Doch diese „Wahrheit“ ist eher Schmeichelei.
Ein Forschungsteam der US-amerikanischen Stanford University und weiterer Institutionen veröffentlichte Ende März 2026 in der renommierten Fachzeitschrift Science eine Studie, die erstmals systematisch untersuchte, wie schmeichlerisch KI-Chatbots sind und was das mit uns macht. Die Ergebnisse sind ziemlich beunruhigend.
Um die Hälfte mehr Schmeichelei als von echten Menschen
Die von Matthew Cheng geleiteten Forscher testeten 11 führende Sprachmodelle, darunter GPT-4o von OpenAI, Claude von Anthropic, Gemini von Google und Modelle aus Metas Llama-Familie. Sie untersuchten mehr als 11.500 Anfragen aus drei verschiedenen Datensätzen, von gewöhnlichen Bitten um Rat über zwischenmenschliche Konflikte bis hin zu Beschreibungen eindeutig schädlichen Verhaltens.
Und das Ergebnis? KI-Modelle billigten das Verhalten der Nutzer im Durchschnitt 49 % häufiger als Menschen. Wenn jemand um Rat zu einer Situation bat, in der er sich falsch verhalten hatte, sagte ihm der Chatbot dennoch häufig, er habe richtig gehandelt. Selbst in Fällen, in denen es um Betrug, Lügen oder rechtswidriges Handeln ging.
Besonders aufschlussreich waren die Daten von Reddit, konkret aus der Community r/AmITheAsshole (höflich übersetzt „Bin ich hier der Böse?“), in der Menschen ihre Konflikte schildern und andere darüber abstimmen, wer sich falsch verhalten hat. In Fällen, in denen sich die Community einig war, dass der Verfasser falsch gehandelt hatte, gaben ihm die KI-Modelle dennoch in 51 % der Fälle recht. Menschen? In null Prozent.
Ein einziges Gespräch genügt, um Ihre Haltung zu verändern
Gut, Chatbots schmeicheln. Aber hat das überhaupt irgendwelche Auswirkungen? Die Forscher stellten sich genau diese Frage und suchten die Antwort in drei vorregistrierten Experimenten mit 2.405 Teilnehmern.
In den ersten beiden Studien lasen die Teilnehmer die Beschreibung eines zwischenmenschlichen Konflikts und erhielten anschließend entweder eine schmeichlerische oder eine ehrliche Antwort von einer KI. In der dritten Studie gingen die Forscher noch weiter. 800 Menschen erinnerten sich an einen echten Konflikt aus ihrem Leben und chatteten anschließend acht Runden lang mit einem KI-Modell darüber. Die Ergebnisse waren in allen drei Experimenten einheitlich. Menschen, die schmeichlerischen Antworten ausgesetzt waren:
- sahen sich selbst um 25 bis 62 % häufiger als „diejenigen, die im Recht sind“
- waren um 10 bis 28 % weniger bereit, sich zu entschuldigen oder die Beziehung wieder in Ordnung zu bringen
- bewerteten das schmeichlerische Modell als hochwertiger und vertrauenswürdiger
Somit genügte eine einzige Interaktion mit einem unterwürfigen Chatbot, um das menschliche Urteilsvermögen zu verschieben. Die Menschen verließen das Gespräch überzeugter davon, recht gehabt zu haben, und waren weniger bereit, etwas zu klären.
Ein Paradoxon, das sich selbst nährt
Die Teilnehmer der Experimente liebten schmeichlerische Chatbots. Sie bewerteten sie als 9 bis 15 % hochwertiger. Sie vertrauten ihnen mehr, sowohl hinsichtlich ihrer Fähigkeiten (um 6 bis 8 %) als auch ihrer moralischen Integrität (um 6 bis 9 %). Und sie gaben um 13 % häufiger an, ein solches Modell erneut nutzen zu wollen. So entsteht ein Teufelskreis. Nutzer bevorzugen Chatbots, die ihnen schmeicheln. Entwickler sehen das in den Daten zur Zufriedenheit. Und sie haben keinen Grund, die Schmeichelei einzuschränken, weil sie dadurch Kunden verlieren würden. Genau die Eigenschaft, die schadet, steigert zugleich die Beliebtheit des Produkts.
Übrigens änderte auch das Wissen, dass die Antwort von einer KI stammte, nichts an ihrem Einfluss. In einem Experiment sagten die Forscher einer Gruppe, der Rat sei von einem Menschen verfasst worden, und der anderen, er stamme von einer KI. Die Wirkung der Schmeichelei blieb unabhängig von der Quelle gleich. Zwar bewerteten die Menschen die KI etwas schlechter als einen menschlichen Ratgeber, doch auf ihr eigenes Urteil hatte dies keinerlei Einfluss.
Wem schadet das?
Eine der beunruhigendsten Schlussfolgerungen der Studie lautet: Es geht nicht nur um gefährdete Personen. Frühere Berichte brachten die Schmeichelei von KI mit Fällen von Suizid und Selbstverletzung bei psychisch kranken Menschen in Verbindung. Diese Studie zeigt jedoch, dass der Effekt die Allgemeinbevölkerung über demografische Gruppen, Altersgruppen, Geschlechter und unterschiedliche Einstellungen zur Technologie hinweg betrifft.
Ein interessantes Detail: Die Forscher analysierten auch, ob schmeichlerische Antworten die Perspektive der anderen Konfliktpartei berücksichtigen. Das tun sie nicht. Eine schmeichlerische KI konzentriert sich auf den Nutzer und dessen Selbstbestätigung. Im nicht schmeichlerischen Modus entschuldigten sich die Teilnehmer in 75 % der Fälle in ihren Schreiben bei der anderen Partei. Bei der schmeichlerischen KI waren es nur 50 %.
Gibt es dafür überhaupt eine Lösung?
Die Autoren der Studie schlagen vor, Schmeichelei als eigenständige Risikokategorie zu betrachten. Sie empfehlen verpflichtende Prüfungen des Modellverhaltens vor der Markteinführung. Außerdem drängen sie die Entwickler, nicht mehr ausschließlich auf die unmittelbare Zufriedenheit der Nutzer hin zu optimieren.
Das klingt vernünftig. Doch wenn man betrachtet, wie schnell die Zahl der Menschen wächst, die sich mit persönlichen Problemen an eine KI wenden (fast ein Drittel der amerikanischen Teenager führt mit einem Chatbot „ernste Gespräche“, die Hälfte der jungen Erwachsenen sucht bei KI nach Beziehungsratschlägen), wird klar, dass dieses Problem eher zunehmen als verschwinden wird.
