Die Debatte über das Bewusstsein künstlicher Intelligenz wird seit Jahren geführt. Die einen sagen, Bewusstsein sei lediglich eine Frage ausreichender Rechenkomplexität. Andere winken ab und bezeichnen die ganze Idee als Fantasie. Alexander Lerchner, Senior Research Scientist im Labor von Google DeepMind, hat ein Argument vorgebracht, das sich von keinem dieser Lager leicht ignorieren lässt. Und dank einer Million Aufrufen auf der Plattform X wurde auch ein breiteres Publikum darauf aufmerksam.
Der zentrale Gedanke seines Artikels ist überraschend einfach, obwohl der Autor sowohl philosophisch als auch physikalisch äußerst gründlich argumentiert. Große Sprachmodelle simulieren Bewusstsein nicht deshalb nicht, weil sie nicht leistungsfähig genug wären. Sie simulieren es nicht, weil dies aufgrund der strukturellen Natur von Berechnungen gar nicht möglich ist.
Ein bestimmter Satz aus dem Artikel ist dabei besonders wichtig: "Zu erwarten, dass eine algorithmische Beschreibung die von ihr dargestellte Qualität hervorbringen kann, ist so, als würde man erwarten, dass die mathematische Formel der Gravitation physisch eine Kraft erzeugt." Mit anderen Worten: Ein Algorithmus, der eine Emotion beschreibt, bleibt lediglich eine Beschreibung. Genauso wie eine Karte von Manhattan nicht Manhattan ist.
Der entscheidende Unterschied, den kaum jemand erkennt
Lerchner stützt sein gesamtes Argument auf die Unterscheidung zwischen zwei Begriffen: Simulation und Konstitution. Bewusstsein entsteht unmittelbar im menschlichen Gehirn. Der physische Prozess selbst ist das Erleben. Wenn Sie Schmerz empfinden, ist dieser nicht das Ergebnis einer Berechnung, sondern unmittelbar ein physisches Ereignis im Gewebe des Nervensystems.
KI simuliert Bewusstsein. Sie erzeugt Ausgaben, die Bewusstsein nachahmen, ohne jemals die Sache selbst hervorzubringen. Ein Chatbot kann "Ich empfinde Traurigkeit" ebenso natürlich schreiben wie "Das Ergebnis ist 42". Keine dieser Antworten geht aus einem Erleben hervor. Beide sind das Ergebnis desselben Mechanismus: der Vorhersage des nächsten Tokens.
Um sein Argument physikalisch zu untermauern, führt Lerchner den Begriff mapmaker ein, auf Deutsch Kartenmacher. Gemeint ist ein aktiver, erlebender Akteur, ohne den eine Berechnung im wörtlichen Sinne überhaupt nicht existiert. Die physische Welt ist kontinuierlich. Die Spannung an einem Transistor verändert sich stufenlos, die Temperatur steigt und fällt, chemische Konzentrationen schwanken. Damit daraus eine Berechnung wird, muss jemand diesen kontinuierlichen Strom der physischen Realität in eine endliche Menge von Symbolen unterteilen und ihnen eine Bedeutung zuweisen. Lerchner nennt dies Alphabetisierung.
Und hier liegt der Haken. Diese Alphabetisierung kann nicht von der Maschine selbst vorgenommen werden. Sie wird immer von jemandem außerhalb vorgenommen, von einem menschlichen Ingenieur, der die Hardware, Gleitkommaformate und die Chiparchitektur entwirft. Ohne diesen externen Akteur gibt es im Computer keine Symbole. Es gibt dort nur Elektronen, die sich nach den Gesetzen der Elektrodynamik bewegen.
Auch Roboter mit Körper lösen das Problem nicht
Die Befürworter einer bewussten KI haben eine Antwort parat: Der KI fehlt lediglich ein Körper. Man müsse der KI nur einen Körper, Sinne und Bewegungselemente geben und sie physisch mit der Welt interagieren lassen, dann würden sich die Symbole auf natürliche Weise in der Realität "verankern".
Lerchner bezeichnet dieses Argument als Transduktionsfehlschluss und weist es zurück. Sensoren wandeln physikalische Kräfte zwar in Spannung um, doch genau an diesem Punkt kommt erneut die von außen vorgenommene Alphabetisierung ins Spiel. Ein von einem menschlichen Ingenieur kalibrierter Analog-Digital-Wandler wandelt die kontinuierliche Spannung in eine ganze Zahl um. Die Maschine operiert weiterhin nur mit Symbolen und nicht mit der physischen Realität selbst.
Lerchner bietet einen Vergleich an: Einen Computer mit Kameras und Roboterarmen zu verbinden, ist so, als würde man ein Wettermodell mit Live-Sensoren für atmosphärische Daten verbinden. Das Modell erhält reale Daten, wird dadurch aber nicht zur Atmosphäre. Es simuliert sie.
Zu viele Führungskräfte möchten das Gegenteil glauben
Lerchners Arbeit stieß von Anfang an auf einen unangenehmen Kontext: Sie kollidiert mit öffentlichen Äußerungen der Führungskräfte von KI-Unternehmen. Demis Hassabis, der Leiter von DeepMind selbst, spricht wiederholt von der Ankunft einer allgemeinen künstlichen Intelligenz als einem Ereignis, das mit der industriellen Revolution vergleichbar sei, nur zehnmal schneller. Der CEO von Anthropic, Dario Amodei, räumte ein, er sei "offen für die Vorstellung", dass heutige Modelle bewusst sein könnten.
Lerchner widerspricht dem und liefert dafür eine physikalische Begründung. Bewusstsein ist ihm zufolge kein Softwareartefakt, das durch die Skalierung der Rechenleistung zufällig oder absichtlich entstehen könnte. Es ist keine Eigenschaft der Architektur. Es ist eine Eigenschaft der physischen Konstitution. Zugleich betont Lerchner, dass sein Argument nicht biologisch exklusiv ist. Er behauptet nicht, dass nur kohlenstoffbasiertes Leben Bewusstsein besitzen könne. Sollte ein künstliches System jemals Bewusstsein erlangen, würde dies ausschließlich an seiner spezifischen physischen Konstitution liegen und nicht an seiner syntaktischen Architektur.
Die Debatte über das Bewusstsein von KI ist nicht nur eine akademische Spielerei. Wären große Sprachmodelle bewusst oder auch nur "möglicherweise bewusst", würde dies sofort Fragen nach ihren Rechten, ihrem Schutz und ihrer Behandlung aufwerfen. Forschende müssten abwägen, ob das Training eines Modells auf Grundlage von Rückmeldungen nicht eigentlich eine Form des Leidens darstellt.
Lerchner möchte diese Debatte anders angehen. Anstatt auf eine vollständige Theorie des Bewusstseins zu warten, schlägt er eine strenge Ontologie der Berechnung vor. Er zeigt, dass die Frage nicht lautet: "Sind KI-Systeme bewusst?", sondern: "Kann Berechnung als solche überhaupt Bewusstsein verursachen?". Seine Antwort darauf ist nein. Philosophen, die von 404 Media befragt wurden, bestätigten, dass Lerchners Argumentation logisch konsistent ist. Zugleich räumten sie ein, dass die meisten dieser Argumente in der Philosophie bereits "seit Jahren und Jahren" kursieren. Neu ist nicht die These selbst, sondern wer sie äußert, von wo aus dies geschieht und auf welchen physikalischen Apparat sie sich stützt.
Was bauen wir also, wenn wir KI bauen?
Lerchners Antwort lautet: "immer präzisere Vorhersagekarten". Je leistungsfähiger das Modell, desto wirklichkeitsgetreuer die Karte. Doch eine Karte bleibt unabhängig von ihrer Genauigkeit, Auflösung oder physischen Verkörperung kategorisch verschieden vom Gebiet der gelebten Erfahrung.
Sprachmodelle beschreiben die Welt auf eine Weise, die dem menschlichen Denken stärker ähnelt als alles zuvor. Genau deshalb ist es so schwer, sich bewusst zu machen, dass sich hinter dieser Ausgabe niemand befindet, der irgendetwas erlebt. Kein Schmerz. Kein Staunen. Kein Gefühl, zu existieren. Nur Elektrizität, die sich nach den Gesetzen der Physik bewegt, und ein Mensch am anderen Ende, der dieser Elektrizität Buchstaben zugewiesen hat.
