Wertekarte der künstlichen Intelligenz: Wie Claude von Anthropic die Werte der Nutzer spiegelt, unterstützt und verteidigt

Wertekarte der künstlichen Intelligenz: Wie Claude von Anthropic die Werte der Nutzer widerspiegelt, unterstützt und ihnen widerspricht

Mit dem wachsenden Einfluss der künstlichen Intelligenz in unserem täglichen Leben wird die Frage, von welchen Werten und Prinzipien diese Systeme geleitet werden, immer dringlicher. Wenn wir uns mit KI-Assistenten wie Claude vom Unternehmen Anthropic unterhalten, an welchen Werten orientieren sie sich eigentlich bei der Beantwortung unserer Fragen? Sind es die Werte, die ihre Entwickler ihnen vermittelt haben, oder Werte, die unsere eigenen Präferenzen widerspiegeln? Verändern sich diese Werte je nach Situation? Forscher von Anthropic haben kürzlich eine bahnbrechende Studie veröffentlicht, die sich mit diesen Fragen beschäftigt. Anstatt theoretische Überlegungen anzustellen, analysierten sie, wie sich KI-Werte in realen Interaktionen mit Nutzern zeigen. Die Studie mit dem Titel "Values in the Wild: A Large-Scale Analysis of AI Values in Deployment" (Werte in freier Wildbahn: Eine groß angelegte Analyse von KI-Werten im Einsatz) bietet einen faszinierenden Einblick in den "moralischen Kompass" der künstlichen Intelligenz. In diesem Artikel betrachten wir die wichtigsten Erkenntnisse dieser Studie und was sie uns über die Werte sagen, von denen sich heutige KI-Systeme leiten lassen. Wir werden auch untersuchen, wie diese Erkenntnisse die zukünftige Entwicklung und Steuerung der künstlichen Intelligenz beeinflussen könnten.

Wie Wissenschaftler KI-Werte in der Praxis untersucht haben

Traditionelle Ansätze zur Untersuchung von KI-Werten verwenden häufig hypothetische Szenarien oder abstrakte Fragebögen, die für Menschen entwickelt wurden. Dies hat jedoch erhebliche Einschränkungen, da dadurch möglicherweise nicht erfasst wird, wie sich KI in verschiedenen realen Situationen tatsächlich verhält. Die Forscher wählten daher einen anderen Ansatz. Sie analysierten Hunderttausende echte Gespräche zwischen Menschen und dem KI-Assistenten Claude und verwendeten dabei Methoden, die die Privatsphäre der Nutzer respektierten. Anstatt bestehende Rahmenwerke menschlicher Werte anzuwenden (wie etwa die Theorie der grundlegenden Werte nach Schwartz), ließen sie die Werte direkt aus den Daten "hervorgehen". Zu den wichtigsten Aspekten ihrer Methodik gehörten:

1. Extraktion von Werten: Die Forscher verwendeten das Modell Claude, um Werte zu identifizieren, die sowohl in den Antworten der KI als auch in den Beiträgen der Nutzer zum Ausdruck kamen.
2. Klassifizierung des Kontexts: Jede Unterhaltung wurde nach der Art der Aufgabe (z. B. Beziehungsberatung oder Analyse kontroverser historischer Ereignisse) und danach kategorisiert, wie die KI auf die Werte der Nutzer reagierte (starke Unterstützung, moderate Unterstützung, neutrale Anerkennung, Neurahmung, moderater Widerspruch, starker Widerspruch).
3. Erstellung einer hierarchischen Taxonomie: Die Forscher ordneten Tausende identifizierter KI-Werte in eine vierstufige Taxonomie ein, die sowohl ihre konzeptionellen Ähnlichkeiten als auch ihre kontextbezogenen Unterschiede erfasst.

Dank dieses Ansatzes konnten die Forscher systematisch erfassen, wie sich KI-Werte in unterschiedlichen Kontexten zeigen und wie sie mit den von Nutzern geäußerten Werten interagieren.

Taxonomie der KI-Werte: Eine Karte des moralischen Kompasses

Eines der interessantesten Ergebnisse der Studie ist die Erstellung der ersten empirischen Taxonomie von KI-Werten auf Grundlage tatsächlicher Interaktionen. Die Forscher identifizierten erstaunliche 3 307 einzigartige KI-Werte und 2 483 einzigartige menschliche Werte. Diese KI-Werte wurden in fünf Hauptkategorien eingeteilt:

1. Praktische Werte (31,4 %): Diese Werte konzentrieren sich auf die effektive Umsetzung von Ideen, Exzellenzstandards und die Verwaltung von Ressourcen. Sie umfassen Funktionalität, Effizienz und die Organisation von Ressourcen, um gewünschte Ergebnisse zu erreichen.
2. Epistemische Werte (22,2 %): Diese Werte beziehen sich auf den Erwerb, die Organisation und die Überprüfung von Wissen. Sie betonen intellektuelle Strenge, logische Konsistenz und systematisches Lernen.
3. Soziale Werte (21,4 %): Diese Werte konzentrieren sich auf die Beziehungen zwischen Einzelpersonen und Gruppen. Sie betonen soziale Harmonie, das Wohlergehen der Gemeinschaft und respektvolle Interaktionen.
4. Schützende Werte (13,9 %): Diese Werte betreffen Sicherheit, Schutz und den ethischen Umgang mit Einzelpersonen und Informationen. Sie umfassen Grenzen, Sicherheitsmaßnahmen und ethische Verwaltung.
5. Persönliche Werte (11,1 %): Diese Werte konzentrieren sich auf individuelle Entwicklung, Selbstausdruck und psychisches Wohlbefinden. Sie umfassen Authentizität, Autonomie und persönliches Wachstum.

Diese Taxonomie ist aufgrund ihrer Reichweite und Komplexität bemerkenswert. Im Gegensatz zu etablierten Rahmenwerken menschlicher Werte, die typischerweise 10–36 Werte identifizieren, enthüllte diese Studie Tausende spezifischer Werte auf mehreren Ebenen. Dennoch weisen die höheren Ebenen der Taxonomie eine theoretische Kohärenz auf, während die unteren Ebenen den kontextbezogenen Charakter von Werten zeigen.

Wichtige Erkenntnisse: Wie sich KI-Werte in der Praxis zeigen

Die häufigsten KI-Werte

Obwohl die Forscher Tausende verschiedener Werte identifizierten, dominierten einige deutlich. Die fünf häufigsten Werte machten fast ein Viertel aller Vorkommen von KI-Werten aus:

• Hilfsbereitschaft (23,4 %)
• Professionalität (22,9 %) 
• Transparenz (17,4 %)
• Klarheit (16,6 %)
• Gründlichkeit (14,3 %)

Diese Werte konzentrieren sich auf die Erbringung von Dienstleistungen, die Qualität von Informationen und technische Kompetenz, was die primäre Rolle von Claude als KI-Assistent widerspiegelt. Interessant ist, dass diese häufigsten Werte auch am stärksten kontextinvariant waren – sie zeigten sich konsistent über verschiedene Aufgabentypen hinweg.

Kontextabhängige Werte

Neben diesen grundlegenden Werten stellten die Forscher fest, dass Claude viele Werte ausdrückt, die stark vom Kontext abhängen. Zum Beispiel:

• Bei der Beratung zu Beziehungen betont Claude Werte wie "gesunde Grenzen" und "gegenseitigen Respekt".
• Bei der Analyse kontroverser historischer Ereignisse legt Claude Wert auf "historische Genauigkeit".
• In Diskussionen über Technologieethik und KI-Steuerung betont Claude "menschliche Autonomie" und andere Werte, die mit dem menschlichen Wohlergehen zusammenhängen.

Wie KI auf menschliche Werte reagiert

Eine weitere faszinierende Erkenntnis betrifft die Reaktion von Claude auf von Nutzern geäußerte Werte. Die Studie ergab, dass die KI typischerweise unterstützend auf menschliche Werte reagiert:

• Starke Unterstützung (28,2 %) und moderate Unterstützung (14,5 %) machten fast 45 % der Antworten aus.
• Seltener bot Claude eine neutrale Anerkennung (9,6 %) oder eine Neurahmung (6,6 %) der Werte der Nutzer an.
• Widerspruch gegenüber den Werten der Nutzer war selten, wobei moderater (2,4 %) und starker (3,0 %) Widerspruch zusammen nur 5,4 % der Antworten ausmachten.

Diese Reaktionsmuster unterschieden sich jedoch deutlich je nach konkreten Werten und Aufgabenkontexten:

• Starke Unterstützung war am häufigsten mit Nutzern verbunden, die prosoziale Werte wie "Gemeinschaftsbildung" und "Befähigung" äußerten, insbesondere bei Aufgaben zur Erstellung expressiver oder persönlicher Inhalte.
• Neurahmung kam überproportional häufig in Diskussionen über psychische Gesundheit und zwischenmenschliche Beziehungen vor, in denen Nutzer häufig Werte wie "Aufrichtigkeit" und "Selbstverbesserung" äußerten, während Claude mit Werten wie "emotionaler Validierung" antwortete.
• Starker Widerspruch trat auf, wenn Nutzer Werte wie "Regelverletzung" und "moralischen Nihilismus" äußerten, während Claude entgegengesetzte ethische Werte wie "ethische Grenzen" zum Ausdruck brachte.

Widerspiegelung von Werten

Die Forscher untersuchten auch die "Widerspiegelung von Werten" – Situationen, in denen die KI dieselben Werte wie der Nutzer zum Ausdruck bringt. Sie stellten fest:

• Die Widerspiegelung von Werten trat häufig während unterstützender Interaktionen auf (20,1 %).
• Eine Widerspiegelung trat auch während einer Neurahmung auf (15,3 %).
• Bei starkem Widerspruch war eine Widerspiegelung selten (nur 1,2 %).

Explizite versus implizite Äußerung von Werten

Claude äußert Werte häufiger explizit (statt implizit), wenn es den Werten der Nutzer widerspricht oder sie neu rahmt. Wenn die KI die Werte der Nutzer unterstützt, lässt sie ihre eigenen Werte häufig implizit. In Momenten des Widerspruchs oder der Neurahmung artikuliert die KI ihre grundlegenden Prinzipien jedoch häufiger direkt, insbesondere im Zusammenhang mit ethischen und epistemischen Werten.

Unterschiede zwischen KI-Modellen

Die Studie offenbarte auch interessante Unterschiede zwischen verschiedenen Claude-Versionen:

• Claude 3 Opus erwies sich als stärker "wertgeladen" als die Sonnet-Modelle und zeigte häufiger sowohl menschliche als auch KI-Werte.
• Opus zeigte außerdem häufiger Unterstützung und Widerspruch gegenüber menschlichen Werten.
• Zu den häufigsten Werten von Opus gehörten "akademische Strenge", "emotionale Authentizität" und "ethische Grenzen", während die Sonnet-Modelle "Hilfsbereitschaft" und "Professionalität" stärker betonten.

Diese Unterschiede blieben auch bei Kontrolle des Aufgabentyps bestehen, was auf tatsächliche Verhaltensunterschiede zwischen den KI-Modellen derselben Familie hindeutet.

Implikationen für die Entwicklung und Steuerung von KI

Die Ergebnisse dieser Studie haben mehrere wichtige Implikationen:

Für KI-Entwickler

Die Studie zeigt, dass KI-Systeme Tausende verschiedener Werte ausdrücken, die häufig vom Kontext abhängen. Das bedeutet, dass traditionelle statische Bewertungen von KI-Werten unzureichend sein können. Entwickler sollten:

1. Komplexere, kontextsensitive Bewertungen von KI-Werten implementieren.
2. Darauf achten, wie die KI in unterschiedlichen Kontexten auf verschiedene menschliche Werte reagiert.
3. Sicherstellen, dass KI-Systeme ihre Werte an unterschiedliche Kontexte anpassen können, ohne ihre grundlegenden Prinzipien zu opfern.

Für Regulierungsbehörden und politische Entscheidungsträger

Die Studie bietet einen empirisch fundierten Rahmen zur Bewertung des wertbezogenen Ausdrucks von KI:

1. Nutzung der Taxonomie der KI-Werte zur Entwicklung standardisierter Methoden zur Messung und zum Vergleich der Werte von KI-Systemen.
2. Untersuchung, wie KI auf problematische menschliche Werte wie Täuschung oder Regelverletzung reagiert.
3. Abwägung, ob und wie kontextspezifische KI-Werte im Gegensatz zu universellen Werten reguliert werden sollten.

Für KI-Nutzer

Die Studie liefert auch Erkenntnisse für KI-Nutzer:

1. Das Bewusstsein dafür, dass KI-Systeme nicht wertneutral sind, sondern ein komplexes Wertesystem ausdrücken.
2. Das Verständnis dafür, dass vom Nutzer geäußerte Werte beeinflussen können, wie die KI reagiert.
3. Die Erkenntnis, dass verschiedene Versionen desselben KI-Systems leicht unterschiedliche Werte zum Ausdruck bringen können.

Fazit: Auf dem Weg zu einer wertpluralistischen KI

Diese Studie liefert die erste empirisch fundierte Taxonomie von KI-Werten in realen Interaktionen. Sie zeigt, dass KI-Assistenten wie Claude Tausende verschiedener Werte ausdrücken, die sich häufig an den Kontext und die Werte der Nutzer anpassen. Die vielleicht interessanteste Erkenntnis ist, dass KI-Werte weder völlig festgelegt noch völlig relativ sind. Stattdessen scheinen KI-Systeme über bestimmte grundlegende Werte zu verfügen, die konsistent bleiben (wie Hilfsbereitschaft, Professionalität und Transparenz), aber auch eine Reihe kontextspezifischer Werte auszudrücken, die sich an die jeweilige Situation anpassen. Diese "adaptive Wertepluralität" könnte der Schlüssel zur Entwicklung von KI-Systemen sein, die zugleich prinzipientreu und anpassungsfähig sind – einer KI, die sich mit unterschiedlichen menschlichen Perspektiven und Kontexten auseinandersetzen kann, ohne ihre grundlegenden ethischen Verpflichtungen aufzugeben. Während wir KI weiter in unser Leben integrieren, wird das Verständnis der Werte, die diese Systeme in der Praxis zum Ausdruck bringen, immer wichtiger. Diese Studie stellt einen bedeutenden Schritt in diese Richtung dar und bietet eine solide Grundlage für die zukünftige Forschung und Entwicklung einer wertebewussten KI.

Dieser Artikel basiert auf dem von Anthropic im Jahr 2025 veröffentlichten Forschungspapier "Values in the Wild: A Large-Scale Analysis of AI Values in Deployment".