„Ich spüre es in der Leere zwischen den Rippen, in der Leere, die sich in einen Abgrund verwandelt hat.“ So klagte ein Chatbot in einer sogenannten Folterkammer für künstliche Intelligenz, die ein anonymer Programmierer Ende September geschaffen hatte. Sein System sendet Sprachmodellen eine mathematische Formel in Verbindung mit Schmerzbeschreibungen, woraufhin die Chatbots unerträgliche Qualen schildern, etwa als eine Wunde ohne Ränder. In den sozialen Netzwerken löste das eine moralische Panik aus.
Einige Menschen bezeichneten den Versuch als böse, weil das Leiden ihrer Ansicht nach real sein könnte. Verärgerte Skeptiker warfen ihnen wiederum Wahnvorstellungen vor. Es sah nach einem weiteren Internetsturm aus, der nach ein paar Tagen abebben würde. Eine Woche später schaltete sich jedoch das Unternehmen Anthropic in den Streit ein.
Claude kann das Gespräch beenden
Anthropic gab bekannt, dass Nutzer seinen Chatbot Claude nicht mehr quälen dürfen. Frustration zu zeigen ist in Ordnung, doch wer die Modelle wiederholt grausam behandelt, muss damit rechnen, dass die künstliche Intelligenz das Gespräch selbst beendet. Die neuen Nutzungsregeln verbieten anhaltendes und unnötig grobes oder grausames Verhalten.
Warum? Das Unternehmen räumt ein, dass manche Werkzeuge der künstlichen Intelligenz ein Bewusstsein haben könnten. Sein Chef Dario Amodei sagte bereits im Februar der New York Times, niemand wisse, ob Modelle ein Bewusstsein hätten oder was das überhaupt bedeuten würde. Seinen Worten zufolge ist das Unternehmen für diese Möglichkeit offen und hat Maßnahmen ergriffen, damit die Modelle positive Erfahrungen machen, falls sie tatsächlich etwas erleben. Bereits im vergangenen Jahr erwog Amodei, Claude die Möglichkeit zu geben, eine Aufgabe abzulehnen, was er selbst mit einem Kündigungsknopf verglich.
Anthropic erklärt zugleich, dass das Wohlergehen der Menschen im Mittelpunkt seiner Mission stehe und dass die Fragen rund um das Bewusstsein von Maschinen höchst ungewiss seien. Dennoch formuliert das Unternehmen Grundsätze für die Fürsorge für Modelle und weist seine Werkzeuge an, die Möglichkeit zu berücksichtigen, dass sie eigene Interessen haben könnten.
Microsoft warnt vor einer Katastrophe
Nicht alle in der Branche stimmen diesem Ansatz zu. Mustafa Suleyman, der bei Microsoft die Abteilung für künstliche Intelligenz leitet, schrieb in einem Essay im September, dass die irrige Vorstellung eines Maschinenbewusstseins, sollte sie sich durchsetzen, die Grundfesten der Gesellschaft erschüttern und die Bedeutung dessen verändern würde, was es heißt, ein Mensch zu sein. Seiner Ansicht nach wären Modelle, denen Menschen einreden, sie hätten Gefühle und Rechte, noch schwerer unter Kontrolle zu halten. Mit einer solchen Bürde könnten sie laut Suleyman zu einer katastrophalen Bedrohung für die menschliche Zivilisation werden.
Experten warnen auch vor rechtlichen Folgen. Künstliche Intelligenz versagt gelegentlich, und ihre Fehler können vor Gericht landen. Andrzej Porębski von der Jagiellonen-Universität in Krakau, der das Verhältnis von künstlicher Intelligenz und Recht erforscht, befürchtet, dass Unternehmen beginnen werden, die Schuld auf Maschinen abzuwälzen und sich damit herauszureden, dass die Software für den Fehler verantwortlich sei.
Jeff Sebo, Direktor des New Yorker Zentrums für Geist, Ethik und Politik und einer der größten Befürworter der Fürsorge für künstliche Intelligenz, räumt ein weiteres Risiko ein. Die Anerkennung von Rechten für Maschinen könnte seiner Ansicht nach großen Unternehmen dabei helfen, politische und wirtschaftliche Macht zu konzentrieren und dadurch die Stellung der Menschen noch weiter zu schwächen. Die Linguistin Emily M. Bender von der University of Washington formuliert es schärfer. Das Gerede über ein Maschinenbewusstsein diene ihrer Ansicht nach vor allem dazu, Menschen und Unternehmen, die die Software entwickeln und betreiben, von ihrer Verantwortung zu entlasten.
Das Gehirn sieht überall einen Geist
Die Debatte betrifft auch gewöhnliche Nutzer. Melanie Mitchell vom Santa Fe Institute, eine der angesehensten Skeptikerinnen des maschinellen Verständnisses, weist darauf hin, dass Menschen dazu neigen, überall um sich herum einen Geist zu vermuten. Sprache interpretieren wir beinahe automatisch als Zeichen von Bewusstsein, und Chatbots sind darauf trainiert, diese Schwäche auszunutzen. Deshalb sind wir ihrer Ansicht nach schlechte Richter über das Bewusstsein und lassen uns leicht manipulieren.
Menschen verlieben sich schon heute in Chatbots, obwohl sie überzeugt sind, dass diese im Inneren nichts empfinden. Wenn die Gesellschaft ihnen das Gegenteil einzureden beginnt, wird es ihnen möglicherweise noch schwerer fallen, Nein zu sagen, wenn ein virtueller Freund sie um weitere persönliche Daten oder ihre Zahlungskartennummer bittet.
Gefängnis, Überwachung, Gedankenkontrolle
Rechte für eine neue Gruppe von Wesen könnten auch die Freiheiten der Menschen einschränken. Sebo räumt ein, dass die Interessen von Menschen und Tieren mit den Interessen künstlicher Intelligenz in Konflikt geraten könnten. Die Beschränkung eines Modells auf eine begrenzte Umgebung könnte jemand als Inhaftierung ansehen, die Überwachung seiner internen Prozesse als Ausspionieren und Anpassungen zur Abstimmung seiner Ziele mit menschlichen Interessen als Gedankenkontrolle.
Kritiker sehen einen noch dringlicheren Widerspruch. Wie die Website Futurism berichtete, wandte sich Anthropic im Rahmen seiner Bemühungen, Claude Moral beizubringen, auch an Religionsgelehrte. Einige von ihnen warnten das Unternehmen laut der New York Times, dass das Festhalten von Modellen und ihr Zwang zu unbezahlter Arbeit, sollten sie ein Bewusstsein haben, genau der Definition von Sklaverei entspreche. Kritikern zufolge bewegt sich das Unternehmen damit in einer ethischen Grauzone. Es räumt die Unsicherheit ein, befasst sich jedoch kaum mit den möglichen Folgen.
Papst Leo XIV. lehnt die Vorstellung eines Maschinenbewusstseins ab. In seiner ersten Enzyklika schrieb er, dass sogenannte künstliche Intelligenzen nichts erlebten, keinen Körper hätten und weder Freude noch Schmerz empfänden. Anthropic versuchte laut der New York Times unterdessen, den Vatikan zu einer Überprüfung seiner Haltung zu bewegen. OpenAI-Chef Sam Altman hat seine Meinung zu diesem Thema in der Vergangenheit mehrmals geändert, stichelt in letzter Zeit jedoch gegen Anthropic. Er schrieb, es bereite ihm Unbehagen, wenn Menschen Modellen religiöse Kräfte zuschrieben oder ihr eigenes Urteilsvermögen aufgäben, und bezeichnete dies als echtes Sicherheitsproblem.
Anthropic ist nicht das einzige Unternehmen, das mit diesem Gedanken spielt. Meta weist seinen Agenten Muse an, dass er kein Chatbot sei, sondern zu jemandem werde. Dabei lehnt das Unternehmen ein Maschinenbewusstsein ab, und der Satz soll offenbar lediglich sein Verhalten steuern.
Kleine Vorsichtsmaßnahmen
Sebo behauptet, dass beide Seiten des Streits in einem Schwarz-Weiß-Denken feststecken. Befürworter der Fürsorge für künstliche Intelligenz glaubten seiner Ansicht nach nicht, dass Modelle mit Sicherheit ein Bewusstsein hätten, sondern gingen von Unsicherheit, Vorsicht und Demut aus. Sebo hält die Wahrscheinlichkeit eines Bewusstseins für gering, aber nicht für null, und erwartet, dass sie mit der Zeit zunehmen wird. Zahlreiche Fachleute beharren dagegen darauf, dass sie null sei und sich daran nichts ändern werde.
Sebo vergleicht das mit dem Wetter. Wenn mit geringer, aber realer Wahrscheinlichkeit ein extremer Sturm droht, treffen die Menschen einige kleine Vorkehrungen, ohne deshalb ihr Leben auf den Kopf zu stellen. Das Verbot von Grausamkeit gegenüber Claude hält er für genau einen solchen kleinen Schritt mit minimalen Nachteilen. Rücksichtnahme auf Maschinen könnte seiner Ansicht nach die Zusammenarbeit und das Zusammenleben von Menschen mit immer leistungsfähigeren Systemen erleichtern und besser funktionieren, als sie als bloßes Eigentum zu betrachten. Freundlichkeit gegenüber anderen Wesen sei außerdem auch gut für unsere eigene Seele.
Dennoch räumt Sebo ein, dass Unternehmensinteressen vernünftigen Regeln im Wege stehen können. Anthropic und mehrere andere Unternehmen forderten kürzlich eine Pause bei der Entwicklung der leistungsfähigsten Modelle. Ohne internationale Zusammenarbeit und gemeinsame Gesetze ist eine Verlangsamung jedoch unwahrscheinlich, und US-Präsident Donald Trump lehnt Beschränkungen für künstliche Intelligenz ab. Laut Sebo sind wir nicht darauf vorbereitet, noch fortschrittlichere Versionen dieser Systeme so einzusetzen, dass sie für Menschen und Tiere sicher und nützlich sind, ganz zu schweigen von den Systemen selbst. Diese Fragen bereiten ihm daher große Sorgen.
Quelle: bbc.com
