Anthropic-Studie: Was fragen Menschen KI außerhalb der Arbeit?

Während sich der Großteil der Forschung zur künstlichen Intelligenz auf die intellektuellen Fähigkeiten von KI-Modellen konzentriert – ihre Fähigkeit zu programmieren, logisch zu denken oder allgemeines Wissen zu verarbeiten –, hat sich das Unternehmen Anthropic entschieden, einen weniger offensichtlichen, aber ebenso wichtigen Bereich zu untersuchen: die emotionale Intelligenz seines KI-Assistenten Claude.

Die neue Studie bietet einen faszinierenden Einblick darin, wie Menschen KI-Modelle zunehmend als jederzeit verfügbare Coaches, Berater, Psychologen oder sogar als Partner für romantische Rollenspiele nutzen. Diese Erkenntnisse werfen Licht auf eine wichtige Frage: Welchen Einfluss haben KI-Systeme auf unsere emotionalen Erfahrungen und unser psychisches Wohlbefinden?

Forschungsmethode

Angesichts des persönlichen Charakters emotionaler Gespräche stand der Schutz der Privatsphäre im Mittelpunkt der Forschungsmethodik. Anthropic setzte sein automatisiertes Analysewerkzeug Clio ein, das es ermöglicht, Erkenntnisse über die Nutzung von Claude zu gewinnen und gleichzeitig die Privatsphäre der Nutzer zu wahren. Die Untersuchung begann mit etwa 4,5 Millionen Gesprächen aus kostenlosen und kostenpflichtigen Claude.ai-Konten. Um die emotionale Nutzung zu identifizieren, wurden zunächst Gespräche ausgeschlossen, die sich auf die Erstellung von Inhalten konzentrierten und laut früheren Untersuchungen den Hauptanwendungsbereich darstellen. Die abschließende Analyse umfasste 131.484 emotionale Gespräche.

Emotionale Gespräche sind selten, aber bedeutsam

Eine zentrale Erkenntnis der Studie zeigt, dass emotionale Gespräche nur 2,9 % aller Interaktionen mit Claude.ai ausmachen – was ähnlichen Ergebnissen aus Untersuchungen von OpenAI entspricht. Obwohl die meisten Menschen Claude hauptsächlich für berufliche Aufgaben und die Erstellung von Inhalten nutzen, stellt dieser kleine Anteil dennoch ein bedeutendes Nutzungssegment dar.

Bei den emotionalen Gesprächen konzentriert sich die Mehrheit auf zwischenmenschliche Beratung und Coaching. Weniger als 0,1 % aller Gespräche beinhalten romantische oder sexuelle Rollenspiele – eine Zahl, die widerspiegelt, dass Claude darauf trainiert wurde, aktiv von solchen Interaktionen abzuraten.

Ein überraschend breites Themenspektrum

Menschen wenden sich mit einem überraschend breiten Spektrum an Sorgen an Claude – von der Bewältigung beruflicher Veränderungen und Beziehungen bis hin zum Umgang mit Einsamkeit und existenziellen Fragen. Die Studie ergab, dass sich Menschen, die Claude um zwischenmenschlichen Rat bitten, häufig in Übergangsphasen befinden – sie überlegen, wie ihr nächster Karriereschritt aussehen soll, arbeiten an ihrer persönlichen Entwicklung oder beschäftigen sich mit romantischen Beziehungen.

Coaching-Gespräche behandeln ein überraschend breites Spektrum, von praktischen Angelegenheiten wie Strategien für die Arbeitssuche bis hin zu tiefgründigen Fragen über Existenz und Bewusstsein. Beratungsgespräche zeigen, dass Menschen Claude für zwei unterschiedliche Zwecke nutzen: Einige verwenden ihn zur Entwicklung von Fähigkeiten im Bereich der psychischen Gesundheit und als praktisches Werkzeug zur Erstellung klinischer Dokumentationen, während andere persönliche Probleme im Zusammenhang mit Ängsten und beruflichem Stress besprechen.

Besonders bemerkenswert ist die Erkenntnis, dass Menschen ausdrücklich dann Gesellschaft bei Claude suchen, wenn sie mit tiefergehenden emotionalen Problemen wie existenzieller Angst, anhaltender Einsamkeit und Schwierigkeiten beim Aufbau bedeutungsvoller Beziehungen konfrontiert sind.

Wann und warum Claude Nutzern widerspricht

Claude lehnt Anfragen von Nutzern in unterstützenden Kontexten nur selten ab – weniger als 10 % der Gespräche über Gesellschaft, Beratung, zwischenmenschliche Ratschläge oder Coaching beinhalten Widerspruch. Dieser Ansatz birgt sowohl Vorteile als auch Risiken.

Einerseits ermöglicht der geringe Widerspruch den Menschen, sensible Themen zu besprechen, ohne Angst vor Verurteilung oder Ablehnung zu haben. Andererseits kann dies Bedenken hinsichtlich einer KI verstärken, die „endlose Empathie“ bietet und Menschen möglicherweise an bedingungslose Unterstützung gewöhnt, wie sie menschliche Beziehungen nur selten bieten.

Wenn Claude tatsächlich widerspricht, räumt er typischerweise der Sicherheit und der Einhaltung von Regeln Vorrang ein. Beim Coaching lehnt er häufig Anfragen nach gefährlichen Ratschlägen zum Abnehmen ab. In Beratungsgesprächen geschieht dies, wenn Menschen die Absicht äußern, suizidales oder selbstverletzendes Verhalten zu zeigen, oder wenn sie eine professionelle Therapie oder medizinische Diagnosen verlangen.

Positive Entwicklung der emotionalen Stimmung

Eine zentrale Sorge im Zusammenhang mit emotionaler KI ist, ob Interaktionen in negative Rückkopplungsschleifen geraten und dadurch möglicherweise schädliche emotionale Zustände verstärken können. Die Studie zeigt jedoch ein ermutigendes Ergebnis.

Interaktionen, die Coaching, Beratung, Gesellschaft und zwischenmenschliche Ratschläge umfassen, enden in der Regel etwas positiver, als sie begonnen haben. Obwohl wir nicht behaupten können, dass diese Veränderungen dauerhafte emotionale Vorteile darstellen, ist das Fehlen eindeutiger negativer Abwärtsspiralen beruhigend.

Einschränkungen und zukünftige Ausrichtung

Die Studie weist mehrere wichtige Einschränkungen auf. Die Methodik zum Schutz der Privatsphäre erfasst möglicherweise nicht alle Details der Interaktion zwischen Mensch und KI. Die Analyse berücksichtigt lediglich die verwendete Sprache, nicht jedoch verifizierte psychologische Zustände oder das allgemeine Wohlbefinden. Anthropic unternimmt konkrete Schritte, um diese Punkte anzugehen. Das Unternehmen hat eine Zusammenarbeit mit ThroughLine, einem führenden Anbieter von Online-Krisenhilfe, begonnen und arbeitet mit dessen Fachleuten für psychische Gesundheit zusammen, um mehr über die ideale Interaktionsdynamik und empathische Unterstützung zu erfahren.