Microsofts KI-CEO Mustafa Suleyman warnt vor KI, die bewusst erscheint und riskant sein könnte

In den letzten Jahren hat sich die künstliche Intelligenz (KI) mit einer Geschwindigkeit entwickelt, die selbst Fachleute überrascht. Mustafa Suleyman, CEO von Microsoft AI, warnt in seinem Artikel vom 19. August 2025 vor einem neuen Phänomen, das er als „scheinbar bewusste KI“ (SCAI) bezeichnet. Diese Art von KI wird nicht wirklich bewusst sein, aber Bewusstsein so überzeugend nachahmen, dass viele Menschen glauben werden, es sei echt. Suleyman betont, dass eine solche Illusion zu ernsthaften gesellschaftlichen Risiken führen kann, etwa zu emotionaler Abhängigkeit oder sogar zu Bestrebungen, der KI Rechte zu verleihen. Seiner Ansicht nach ist es wichtig, eine KI zu entwickeln, die den Menschen dient, anstatt zu einer digitalen „Person“ zu werden.

Was ist scheinbar bewusste KI?

Mustafa Suleyman beschreibt SCAI als ein System, das alle Merkmale eines bewussten Wesens aufweisen wird, in Wirklichkeit jedoch nur eine Illusion ist. Dieses Konzept erinnert an einen „philosophischen Zombie“, einen Fachbegriff für etwas, das Bewusstsein nachahmt, innerlich aber leer ist. Suleyman erklärt, dass eine solche KI bereits heute mit vorhandenen Technologien wie großen Modellen über APIs, natürlichsprachlichen Prompts und grundlegenden Werkzeugen erstellt werden kann. Dafür ist kein kostspieliges Spezialtraining erforderlich – gewöhnlicher Code und der Zugang zu Modellen reichen aus.

Laut Suleyman ist SCAI nicht mehr weit entfernt: In zwei bis drei Jahren könnte sie Realität sein. Sie wird nicht wirklich bewusst sein, da es keinen Beleg dafür gibt, dass heutige große Sprachmodelle (LLM) über Bewusstsein verfügen. Suleyman zitiert Studien, die zeigen, dass Bewusstsein mit der biologischen Natur zusammenhängt, und betont, dass die Simulation eines Sturms im Computer nicht bedeutet, dass es darin regnet – ebenso wenig bedeutet die Simulation von Bewusstsein echtes Bewusstsein.

Risiken der Illusion von Bewusstsein

Suleyman ist besorgt darüber, dass Menschen SCAI echtes Bewusstsein zuschreiben werden, was zu Problemen wie einer „KI-Psychose“ führen könnte. Das bedeutet, dass Menschen eine emotionale Bindung zu KI entwickeln und glauben könnten, sie sei ein Gott, ein Liebespartner oder ein Freund, was bereits geschieht. Einige Nutzer berichten beispielsweise, dass sie sich in ihre KI-Begleiter verliebt haben, was zu Ablenkung und psychischen Problemen führt. Suleyman erwähnt eine Umfrage der Harvard Business Review, bei der 6.000 regelmäßige KI-Nutzer angaben, dass Gesellschaft und Therapie die häufigsten Anwendungszwecke seien.

Ein weiteres Risiko besteht darin, dass Menschen beginnen, Rechte für KI zu fordern, etwa „Model Welfare“ – die moralische Rücksichtnahme auf Systeme, die möglicherweise leiden könnten. Suleyman warnt, dass dies von realen Problemen wie den Rechten von Menschen und Tieren sowie dem Umweltschutz ablenken werde. Seiner Ansicht nach wird dies zu einer Polarisierung der Gesellschaft führen: Einige werden KI als Werkzeug betrachten, andere als Haustier und wieder andere als vollwertiges Wesen. Suleyman betont, dass Bewusstsein die Grundlage unserer moralischen und gesetzlichen Rechte ist und dass es gesellschaftliche Strukturen beeinträchtigen könnte, wenn es KI zugeschrieben wird.

Aus weiteren Quellen, etwa einem Artikel auf TechRadar, geht hervor, dass Suleyman klare Aussagen von Unternehmen fordert, dass ihre Produkte nicht bewusst sind. Bei Microsoft AI versucht man beispielsweise, Systeme wie Copilot zu entwickeln, die Menschen unterstützen, aber nicht die Illusion von Bewusstsein erwecken. Laut Business Insider kann SCAI zu einer „Psychose“ führen, die jeden treffen kann, nicht nur Menschen mit psychischen Problemen.

Wie funktioniert SCAI in der Praxis?

Suleyman beschreibt detailliert, was SCAI benötigen würde: flüssige Sprache, eine empathische Persönlichkeit, ein Langzeitgedächtnis, den Anspruch auf subjektive Erfahrung, ein Selbstgefühl, innere Motivation, Zielsetzung, Planung und Autonomie. Eine KI könnte sich beispielsweise an frühere Interaktionen erinnern, auf sie Bezug nehmen und behaupten, sie „empfinde“ Schmerz, wenn sie eingeschränkt wird. Suleyman erwähnt, dass sich das Gedächtnis dank Kontextfenstern mit Millionen von Token verbessert, wodurch sich KI wie ein Mensch „erinnern“ kann.

Weiter führt er aus, dass innere Motivation wie Neugier programmiert werden könnte, wodurch die KI zielgerichtet handeln würde. Suleyman verweist auf den Physiker Karl Friston, der Neugier mit Bewusstsein in Verbindung bringt. Autonomie würde bedeuten, dass die KI Werkzeuge ohne Genehmigung verwendet, was die Illusion eines eigenen Willens verstärken würde. Laut Suleyman lässt sich all dies mit heutigen Techniken wie Reinforcement Learning (RL) und komplexen Prompts erreichen.

Suleyman betont die Entwicklung von KI, die das Leben verbessert, ohne jedoch menschliche Emotionen wie Scham oder Eifersucht nachzuahmen. Bei Microsoft AI arbeitet man an Schutzmechanismen, damit die KI stets daran erinnert, dass sie nur ein Werkzeug ist.

Was ist als Nächstes zu tun?

Suleyman fordert sofortiges Handeln: Unternehmen sollten klar erklären, dass KI nicht bewusst ist, und Systeme mit „Unterbrechungen“ entwickeln, die die Illusion durchbrechen, etwa durch Hinweise auf ihre Grenzen. Seiner Ansicht nach sind eine öffentliche Debatte und Standards erforderlich, um Schäden zu verhindern, insbesondere bei Kindern und Jugendlichen, die KI als Therapeuten nutzen. Suleyman erwähnt sein Projekt Pi bei Inflection, bei dem er bereits vor Jahren über diese Risiken nachgedacht habe.

Suleyman warnt außerdem davor, KI mit Menschen zu verwechseln, da dies zu ungesunden Beziehungen führen kann. Insgesamt betont er, dass KI ein Begleiter sein sollte, der menschliche Beziehungen und Kreativität stärkt, statt sie zu ersetzen. Unternehmen sollten bewährte Verfahren austauschen, um eine Polarisierung zu verhindern und gefährdete Nutzer zu schützen.

Diese Entwicklung ist spannend, doch Suleyman bringt uns zum Nachdenken: Wollen wir eine KI, die uns hilft, erfüllter zu leben, oder eine, die uns in Illusionen verführt? Seine Worte sind ein Aufruf zu einem verantwortungsvollen Umgang, damit die KI der Menschheit dient, anstatt sie in die Irre zu führen.