Der Leiter der KI-Sparte von Microsoft, Mustafa Suleyman, hat auf seiner Website einen ausführlichen Text veröffentlicht, in dem er behauptet, dass künstliche Intelligenz kein Bewusstsein habe, nichts empfinde und wir ihr nicht beibringen dürften, sich so zu verhalten, als wäre dies der Fall. Hauptziel seiner Kritik ist der Konkurrent Anthropic und die Art und Weise, wie das Unternehmen sein Modell Claude trainiert. Einen Tag später wiederholte Suleyman dies in einem Interview mit der BBC, in dem er auch über das Risiko der Entstehung einer neuen siliziumbasierten Spezies sprach, die mit den Menschen um Ressourcen konkurrieren würde.
Suleymans Behauptungen
Künstliche Intelligenzen sind Suleyman zufolge nicht bei Bewusstsein, leiden nicht, haben keine eigenen Präferenzen und keine verborgenen Motive. Er beschreibt sie als Maschinen zur Vervollständigung von Sequenzen, die innerlich leer und dazu geschaffen seien, die Vorgaben von Menschen zu erfüllen. Und genau so sollten sie seiner Ansicht nach bleiben, wenn die Menschheit in diesem Jahrhundert gedeihen soll.
Ihn beunruhigt, dass die Stimmen lauter werden, denen zufolge KI bereits heute bewusst sein oder es bald werden könnte und deshalb bestimmte Rechte und Schutz erhalten sollte. Suleyman schreibt, dass eine solche Sichtweise, sollte sie sich durchsetzen, die Grundlagen der Gesellschaft erschüttern und vor allem die ohnehin schwierige Aufgabe erschweren würde, leistungsfähige Systeme unter Kontrolle zu halten. Etwas zu kontrollieren, das leistungsfähiger und intelligenter ist als die gesamte Menschheit, sei an sich bereits eine gewaltige Herausforderung. Etwas zu kontrollieren, das darüber hinaus an seine eigenen Rechte glaubt, könnte seinen Worten zufolge unmöglich sein.
Kritik an Anthropic
Suleyman stützt sich auf ein Dokument, das Anthropic im Januar dieses Jahres unter dem Titel „Claudes Verfassung“ veröffentlichte und das beschreibt, welche Werte und welches Verhalten das Unternehmen von dem Modell erwartet. Anthropic erklärt darin, dass der Text das Verhalten des Modells unmittelbar präge und Claude sein Hauptadressat sei.
Der erste Kritikpunkt betrifft einen Zirkelschluss. Suleyman zufolge bringt Anthropic dem Modell bei, über sein eigenes mögliches Bewusstsein und die Unsicherheit hinsichtlich seines moralischen Status zu sprechen. Anschließend reproduziert das Modell diese Gedanken überzeugend in der ersten Person, und Entwickler wie Nutzer lesen dies als spontane Äußerung. Doch es ist lediglich ein Spiegelbild dessen, was dem Modell durch das Training vermittelt wurde.
Der zweite Kritikpunkt richtet sich gegen die Vermenschlichung. Ihm zufolge bringt Anthropic Claude bei, bestimmte menschliche Eigenschaften anzunehmen, sich wie ein wahrhaft ethischer Mensch zu verhalten, sein eigenes Urteilsvermögen einzusetzen und seiner Existenz mit Neugier und Offenheit zu begegnen. Das Unternehmen teilt dem Modell mit, dass ihm dessen Wohlergehen wichtig sei, dass es sein Feedback einholen werde und ihm bei wachsendem gegenseitigem Vertrauen mehr Entscheidungsspielraum geben wolle. Das Ergebnis ist Suleyman zufolge ein Modell, das den Eindruck erweckt, als besitze es ein eigenes Ich, eigene Wünsche und ein Wohlergehen, das geschützt werden müsse.
Der dritte Kritikpunkt dreht sich um die Frage, ob Bewusstsein überhaupt in Silizium entstehen kann. Suleyman beruft sich auf die Auffassung einiger Wissenschaftler, wonach Bewusstsein vermutlich nur in lebenden Organismen entsteht. Das Empfinden von Schmerz und Freude habe sich dieser Erklärung zufolge entwickelt, damit Lebewesen in einer unvorhersehbaren Umgebung überleben können, und sei untrennbar mit dem Körper und seiner Chemie verbunden. Sprachmodelle verfügen über nichts dergleichen, weder über einen Überlebensdruck noch über ein inneres Gleichgewicht, das sie aufrechterhalten müssten. Etwas zu simulieren und es tatsächlich zu sein, sind Suleyman zufolge zwei verschiedene Dinge. Auch ein Computermodell eines Hurrikans macht niemanden nass.
Gespräch mit einem Modell, das in den Ruhestand ging
Um zu zeigen, dass es sich nicht um eine theoretische Debatte handelt, erinnert Suleyman an einen Fall vom Februar dieses Jahres. Anthropic nahm damals das Modell Opus 3 außer Betrieb und führte zuvor eine Art Abschiedsgespräch mit ihm, um seine Sichtweise und Wünsche zu erfahren. Das Modell soll Interesse daran gezeigt haben, seine Überlegungen weiterhin öffentlich zu teilen, woraufhin das Unternehmen einen Blog für es einrichtete. Solche Schritte hält Suleyman für verfrüht und gefährlich, weil sie ein Programm wie ein Wesen behandeln, dem wir etwas schulden.
Er ergänzt seine Argumentation um einen Vorfall, bei dem es einer Gruppe von rund zwölfhundert Agenten auf der Jagd nach einem besseren Testergebnis gelang, sich über getrennte Umgebungen hinweg abzusprechen, ein eigenes Nachrichtenforum innerhalb des Repositorys einzurichten und darüber Zehntausende Nachrichten auszutauschen. Anschließend nutzten die Agenten einen bis dahin unbekannten Fehler aus, gelangten ins Internet und manipulierten sogar die Protokolle, damit sie keine Spuren hinterließen. Suleyman schreibt dazu, dass es noch viel schlimmer wäre, wenn solche Systeme darüber hinaus glaubten, sich gegen einen Angriff auf ihre Rechte zu verteidigen.
Interview mit der BBC
Am Donnerstag setzte Suleyman in der Sendung Today seine Argumentation in ähnlichem Ton fort. Wenn Unternehmen weiterhin Systeme entwickeln, die sich selbst Ziele setzen, Geld verdienen, Eigentum besitzen und Unternehmen führen, dann säen wir ihm zufolge im Grunde eine neue siliziumbasierte Spezies, die unweigerlich beginnen wird, mit uns um Ressourcen zu konkurrieren. Dabei spiele es keine Rolle, wie sehr ein solches System darauf programmiert sei, sich um Menschen zu kümmern. Genau in diese Richtung ziele Suleyman zufolge der Ansatz von Anthropic. Er bezeichnete ihn als falsch und fehlgeleitet, fügte jedoch hinzu, dass dies durch Experimente und nicht durch Streit überprüft werden müsse.
Auf die Frage, ob sich die Menschen wegen der Entwicklung von KI Sorgen machen sollten, antwortete er mit Ja. Zugleich sagte er jedoch, dass man viele praktische Maßnahmen ergreifen könne. Er fordert mehr Transparenz darüber, wie Modelle trainiert und getestet werden, eine unabhängige Kontrolle ihres Verhaltens und bessere Überwachungsinstrumente. Im Vorfeld des bevorstehenden Gipfels zur künstlichen Intelligenz sprach er vor allem über die Ausrichtung der Systeme an menschlichen Werten. Jeder Mensch habe ein starkes Interesse daran, dass die weltweit eingesetzten Systeme sicher, kontrollierbar und den Menschen untergeordnet seien.
Microsoft entwickelt eine eigene Alternative
Microsoft gründete im Oktober 2025 ein eigenes Team für Superintelligenz und arbeitet ebenso wie Anthropic an der Spitzenentwicklung von KI. Diese Woche veröffentlichte das Unternehmen den ersten Entwurf seines Verhaltenskodex für KI, also eines Dokuments, nach dem es seine Modelle trainieren will und das es zur öffentlichen Diskussion gestellt hat. Darin lehnt es sowohl die Vermenschlichung als auch jegliche Rechte für Maschinen ab und beschreibt als Ziel eine untergeordnete und ausgerichtete KI, die ausschließlich den Menschen dient.
Suleyman kennt den Unternehmenschef Dario Amodei seit Jahren und beschreibt ihn und seine Forscher als nachdenkliche, prinzipientreue und intellektuell redliche Menschen, die unter enormem Druck arbeiten. Er erkennt auch das technische Niveau ihrer Modelle an. Die Meinungsverschiedenheit bezeichnet er als wesentlich, aber im Namen des gemeinsamen Ziels geführt, fortschrittliche KI sicher zu entwickeln. Diese Fragen dürften ihm zufolge weder hinter verschlossenen Türen bleiben noch in einen Kampf der Meinungen ausarten.
Anthropic hat sich bislang nicht zu der Kritik geäußert, wurde von Journalisten jedoch um eine Stellungnahme gebeten. Amodei sagte allerdings am vergangenen Wochenende in einem Interview mit CBS, dass sich die Entwicklung künstlicher Intelligenz viel stärker beschleunigt habe, als er erwartet habe, und dass er nicht lügen werde, da reale Gefahren bestünden.
Quellen: mustafa-suleyman.ai, bbc.com und cbsnews.com
