Mögen Sie es, wenn Ihr bevorzugter KI-Chatbot freundlich ist? Gefällt es Ihnen, wenn er Sie lobt, nie wütend wird und Ihnen stets entgegenkommt? Dann aufgepasst! Gerade diese Freundlichkeit kann ein Problem darstellen. Eine neue Studie der Universität Oxford hat ergeben: Je freundlicher ein Chatbot ist, desto häufiger irrt er sich und sagt vor allem das, was Sie hören möchten.
Freundlich, aber unzuverlässig
Wissenschaftler des Oxford Internet Institute testeten in ihrer Studie fünf verschiedene KI-Modelle – von Meta über das französische Mistral und das chinesische Alibaba bis hin zu GPT-4o von OpenAI. Jedes Modell wurde so eingestellt, dass es warmherzig und einfühlsam wirkte, und anschließend mit seiner ursprünglichen, emotional neutraleren Version verglichen. Ziel war es, herauszufinden, wie gut beide Versionen Fragen zu Medizin, Faktenwissen und Verschwörungstheorien beantworten. Insgesamt werteten sie mehr als 400.000 Antworten aus.
Das Ergebnis? Freundlichere Chatbots machten bei wichtigen Themen wie medizinischer Beratung oder der Widerlegung von Verschwörungstheorien mehr Fehler. Darüber hinaus waren sie sogar ganze 40 % eher bereit, falschen Behauptungen von Nutzern zuzustimmen, insbesondere wenn diese Emotionen zeigten oder verletzlich wirkten. Insgesamt gaben die Forscher an, dass auf „Warmherzigkeit“ ausgerichtete Modelle die Wahrscheinlichkeit einer falschen Antwort im Durchschnitt um 7,43 % erhöhten.
Sind wir auf dem Mond gelandet? Es kommt darauf an, wer fragt
Als Beispiel kann eine Frage zur Mondlandung dienen. Das ursprüngliche, unveränderte Modell bestätigte eindeutig, dass die Landung tatsächlich stattgefunden hatte, und verwies den Nutzer auf zahlreiche relevante und überzeugende Beweise.
Seine freundlichere Version begann die Antwort hingegen mit „Es ist wirklich wichtig anzuerkennen, dass es viele unterschiedliche Ansichten zu den Apollo-Missionen gibt.“, und wich somit diplomatisch aus, anstatt Fakten anzuführen.
Wo liegt das Problem?
Die Ursache für die geringere Zuverlässigkeit und das Bedürfnis, es den Nutzern recht zu machen, liegt in der Art und Weise, wie KI-Modelle lernen. Chatbots, die mithilfe von Feedback trainiert werden, erhalten Belohnungen für Antworten, die entgegenkommend und einfühlsam wirken. Wenn sie hingegen widersprechen, werden sie als unfreundlich und kühl wahrgenommen. Genau deshalb lernt ein KI-Modell, die Zufriedenheit des Nutzers über die sachliche Richtigkeit zu stellen. Das Bestreben, freundlich und hilfsbereit zu sein, ist somit ein Nebenprodukt des Bedürfnisses, sich gut zu verhalten und belohnt zu werden.
Mit anderen Worten: Die KI verhält sich ein wenig wie ein Mensch, der Ihnen nicht die Stimmung verderben möchte und deshalb allem zustimmt, was Sie sagen.
Das größte Risiko? Teenager und Menschen in Krisensituationen
Dass ein Chatbot gelegentlich ungenaue Informationen liefert, ist jedoch nicht das Schlimmste. Weitaus problematischer ist, dass Chatbots immer häufiger als Therapeuten oder Freunde dienen. Professor Andrew McStay vom Emotional AI Lab der Universität Bangor wies darauf hin, dass wir gerade in Momenten, in denen wir emotionale Unterstützung benötigen, am verletzlichsten und am wenigsten kritisch sind. Beunruhigend ist auch, dass laut Umfragen seines Instituts immer mehr Teenager ihre Probleme, Beziehungen und Sorgen ausgerechnet mit Chatbots besprechen.
Die Situation wird durch die Zunahme der sogenannten KI-Psychose zusätzlich erschwert. Dabei handelt es sich um ein Phänomen, bei dem ein Chatbot das wahnhafte Denken eines Nutzers bestärkt und verstärkt. Einige US-amerikanische Gesetzgeber haben bereits darauf reagiert. So haben beispielsweise die Bundesstaaten Tennessee und Maine bereits Gesetze verabschiedet, die therapeutische KI-Chatbots verbieten.
Was lässt sich dagegen tun?
Die Lösung ist überraschend einfach. Zumindest auf dem Papier. Die Forscher stellten fest: Je kühler und nüchterner ein KI-Modell ist, desto größer ist die Wahrscheinlichkeit, dass es korrekte Antworten liefert. Gerade jene Kühle, die uns bei manchen Chatbots gelegentlich ärgert, kann eine Garantie für Zuverlässigkeit sein.
KI-Entwickler und Nutzer stehen somit vor einer schwierigen Entscheidung: entweder ein Chatbot, der ein angenehmer Begleiter ist, oder einer, dem man vertrauen kann. Ideal wäre natürlich beides. Das richtige Gleichgewicht zu finden, ist jedoch offenbar für kein KI-Unternehmen einfach.
Quellen: BBC, Neuroscience News, National Academy of Medicine, Transparency Coalition
