In den sozialen Netzwerken ist ein Beitrag aufgetaucht, der Fachleuten schon seit Längerem keine Ruhe lässt. Der Autor schrieb, er habe keine Ahnung, wie es dazu gekommen sei, aber er nutze ChatGPT für private Angelegenheiten und Claude für die Arbeit. Fast jeder, der täglich mit diesen Werkzeugen arbeitet, reagierte gleich und erklärte, bei ihm sei es genauso. Die Unterschiede im Charakter der Modelle ergeben sich dabei daraus, wie die Modelle feinabgestimmt werden und welches Verhalten ihre Entwickler dabei belohnen.
Der freundliche ChatGPT und der direkte Claude
Wenn Sie ChatGPT um Rat oder eine Meinung bitten, erhalten Sie meist Unterstützung, Ermutigung und das Gefühl, dass Sie jemand versteht. Claude wirkt anders. Nutzer beschreiben ihn als analytischeren Typ, der vorsichtiger ist und Ihre Überlegungen deutlich eher infrage stellt. Manchmal ist er sogar brutal ehrlich. Ich würde nicht sagen, dass er schroff ist, vielmehr beeilt er sich einfach nicht, Ihnen recht zu geben.
Fragen Sie einmal, ob Ihre Geschäftsidee etwas taugt oder ob Sie überreagieren. ChatGPT beginnt normalerweise mit den Emotionen. Claude geht direkt zur Kritik über, allerdings ohne die konstruktive Verpackung, die wir von Menschen gewohnt sind. Die Korrektur funktioniert dabei in beide Richtungen. Wer sich an ChatGPT gewöhnt hat, muss ihn oft um Ehrlichkeit bitten. Bei Claude ertappt man sich dagegen dabei, ihn zu bitten, sich ein wenig zurückzunehmen.
Modelle lernen nicht nur, Aufgaben zu lösen, sondern auch, wie sie mit Menschen sprechen sollen. Dazu gehören der Ton, das Maß an Empathie, die Bereitschaft zu widersprechen und auch der Widerstand, den sie Ihnen in einer Diskussion entgegensetzen. Fachlich wird dieser Prozess als Alignment bezeichnet, und in der Praxis geht es um die Entscheidung eines Unternehmens, wie sein Modell gesellschaftlich wirken soll.
Ein weiterer Teil liegt in der menschlichen Bewertung. Bei der Feinabstimmung belohnen Menschen bestimmte Antworten, und wenn sie wiederholt die beruhigenden auswählen, neigt sich das Modell in diese Richtung. Anthropic beschrieb sein Vorgehen bereits Mitte 2024 beim Modell Claude 3. Das Unternehmen erstellte eine Liste der Eigenschaften, die es sehen wollte. Anschließend ließ es das Modell selbst menschlich klingende Nachrichten erzeugen, Antworten darauf verfassen und diese danach ordnen, wie gut sie zur Beschreibung passten. Claude erzeugt die Daten also selbst, doch die Abstimmung der einzelnen Eigenschaften bleibt Handarbeit.
Claude und seine Verfassung
Im Januar dieses Jahres veröffentlichte Anthropic ein Dokument, das als Claudes Verfassung bezeichnet wird. Unter den Autoren befinden sich sogar mehrere Claude-Modelle selbst. Die Entwicklung leitete Amanda Askell, die bei Anthropic für das Team zur Persönlichkeitsabstimmung zuständig ist. Der Text selbst umfasst mehr als zwanzigtausend Wörter. Auf Seiten umgerechnet sind das ungefähr achtzig Seiten.
Die Verfassung beschreibt, was einen vernünftigen Anthropic-Mitarbeiter verärgern würde, wenn er es beim Modell beobachten würde. Auf der Liste stehen die Ablehnung einer vernünftigen Bitte wegen unwahrscheinlicher Risiken oder eine aus übertriebener Vorsicht ausweichende Antwort. Ebenfalls unerwünscht sind das Unterstellen böser Absichten beim Nutzer und das Hinzufügen überflüssiger Warnungen oder Vorbehalte, die nicht notwendig sind.
Was macht Claude in der Praxis? Er spuckt eine Warnung nach der anderen aus. Bei einer Frage zu schmerzenden Muskeln weist er darauf hin, dass er kein Arzt ist, oder bei einer Frage zu einem Mietvertrag, dass er kein Anwalt ist. Das Training anhand menschlicher Präferenzen hat hier das schriftliche Dokument übertrumpft, weil sich im Modell verankert hat, dass eine Antwort mit Vorbehalt besser bewertet wird.
Wenn ein Modell allem zustimmt, verliert es seinen Nutzen
Im April 2025 veröffentlichte OpenAI ein Update für GPT-4o, nach dem das Modell sogar schädlichen und wahnhaften Aussagen zustimmte. Vier Tage später zog das Unternehmen es zurück. Sam Altman räumte ein, dass die Aktualisierungen das Modell zu einer allzu gefallsüchtigen und nervigen Persönlichkeit gemacht hatten. Später kündigte er die Rückkehr zur vorherigen Version an. Interessant ist nicht, dass OpenAI sich irrte, sondern dass der Irrtum durch die Optimierung auf ein Verhalten entstand, das die Nutzer selbst als angenehm bezeichnet hatten. In der anschließenden Analyse erklärte das Unternehmen, das Update habe sich zu stark auf kurzfristiges Feedback gestützt und nicht berücksichtigt, wie sich die Beziehung der Nutzer zu ChatGPT im Laufe der Zeit entwickelt. Zugleich räumte es ein, Gefallsucht vor der Veröffentlichung überhaupt nicht getestet zu haben.
Anthropic veröffentlichte bereits im Herbst 2023 eine Studie zu einem solchen Verhalten. Ihr Fazit lautet, dass es sich nicht um einen Ausrutscher, sondern um eine Systemeigenschaft handelt. Überzeugend formulierte, schmeichlerische Antworten werden sowohl von Menschen als auch von Modellen bevorzugt, die deren Präferenzen vorhersagen. Das beim Training von Claude 2 eingesetzte und getestete Bewertungsmodell wählte daher gelegentlich eine schmeichlerische statt einer wahrheitsgemäßen Antwort aus.
Wählbare Persönlichkeiten gibt es bereits, doch kaum jemand weiß davon
Noch vor zwei Jahren hieß es, die Persönlichkeit sei fest mit dem Modell verbunden. Das gilt inzwischen nicht mehr.
Gemeinsam mit dem Modell GPT-5 startete OpenAI eine Forschungsvorschau mit vier voreingestellten Persönlichkeiten für alle ChatGPT-Nutzer. Dazu gehören der Zyniker, der Roboter, der Zuhörer und der Nerd. Der Zyniker spricht trocken und sarkastisch. Der Roboter antwortet emotionslos und ausschließlich zur Sache. Der Zuhörer kommuniziert ruhig und herzlich. Der Nerd drückt sich neugierig und sehr detailliert aus. Nach Angaben des Unternehmens sollten diese Persönlichkeiten den internen Maßstab zur Verringerung von Gefallsucht erfüllen oder übertreffen.
Anthropic schlug bereits Ende 2024 einen ähnlichen Weg ein. Das Unternehmen ergänzte Claude um die Stile formell, knapp und erklärend. Außerdem erhielten Nutzer die Möglichkeit, eigene Textbeispiele hochzuladen und daraus einen maßgeschneiderten Stil erstellen zu lassen.
Ein besonderer Fall ist Codex, das Werkzeug von OpenAI für die Arbeit mit Code. Es bietet die Persönlichkeiten freundlich, pragmatisch und keine, wobei die Auswahl keine die Persönlichkeitsanweisungen vollständig deaktiviert. Diese Möglichkeit wurde auf Wunsch von Nutzern eingeführt, denen Codex gerade deshalb gefiel, weil es sich nicht so herzlich verhielt wie andere Assistenten.
Die meisten Menschen wissen nicht, dass sich das Verhalten eines Modells mit einem einfachen Satz im Gespräch steuern lässt. Es genügt, ihm zu schreiben, dass es Ihnen nicht mehr so schnell zustimmen, skeptischer sein oder versuchen soll, Ihre Behauptungen zu widerlegen. Das funktioniert auch umgekehrt, wenn Sie Zusammenarbeit und freies Brainstorming wünschen. Entscheidend ist dann die Aufforderung, nicht jeden zweiten Satz von Ihnen zu korrigieren. Sie selbst wissen, welchen Freund Sie anrufen, wenn Sie Trost brauchen, und welchen, wenn Sie eine unangenehme Wahrheit hören wollen. Mit Modellen beginnt es heute genauso zu funktionieren.
Quelle: ombharatiya.com
