KI-Pate warnte die USA: Für Regeln zur künstlichen Intelligenz bleibt vielleicht noch ein Jahr

Geoffrey Hinton sagte nach der Sitzung am Mittwoch im Dirksen Senate Office Building gegenüber Journalisten, dem Kongress bleibe noch ungefähr ein Jahr, um die Kontrolle über künstliche Intelligenz zu behalten. „Vielleicht ein Jahr, aber nicht viel länger“, wiederholte er, als Reporter ihn fragten, ob er von Wochen oder Monaten spreche.

Hinton ist Professor an der Universität Toronto und steht hinter der Forschung an künstlichen neuronalen Netzen, also der eigentlichen Grundlage, auf der heutige Chatbots und Agenten funktionieren. Im Jahr 2023 verließ er Google, um ohne Einschränkungen über die Risiken sprechen zu können, und ein Jahr später nahm er den Nobelpreis für Physik entgegen. Journalisten nennen ihn den Paten der KI, und genau dieser Beiname verleiht seinen Warnungen ein Gewicht, das die Stimme eines gewöhnlichen Akademikers nicht hätte.

Prognose, wann die Superintelligenz kommt

Was Hinton am meisten erschreckte, erklärte er gleich vor Ort. Seiner Ansicht nach hat die künstliche Intelligenz einen Punkt erreicht, an dem sie selbst bessere künstliche Intelligenz entwickelt. In der Fachsprache wird dies als rekursive Selbstverbesserung bezeichnet und bedeutet, dass das System sich selbst beschleunigt, ohne dass ein Mensch ihm dabei hilft. „Es wird außer Kontrolle geraten, wenn wir nichts dagegen unternehmen. Wir müssen langsamer werden“, fügte Hinton hinzu.

Er erinnerte auch daran, wie schnell sich die Prognosen zur Ankunft der Superintelligenz, also eines Systems, das den Menschen in jeder Hinsicht überlegen ist, in der Branche verschieben. Noch vor Kurzem war von dreißig bis fünfzig Jahren die Rede. Dann wurden die Zahlen auf zehn bis zwanzig Jahre korrigiert. Heute sprechen viele Forscher nur noch von wenigen Jahren.

Sanders lud Wissenschaftler ein, keine Unternehmenschefs

Das Treffen wurde von Senator Bernie Sanders einberufen, einem der lautstärksten Gegner der gegenwärtigen Entwicklung der Branche. Es handelte sich um eine nicht öffentliche Sitzung für Gesetzgeber beider Kammern und beider Parteien, ohne Kameras und ohne Pressekonferenz. Neben Hinton kamen der Physiker Max Tegmark, Mitbegründer des Future of Life Institute, und die unabhängige Forscherin Ajeya Cotra.

Die Zusammensetzung der Gäste war bereits eine Botschaft für sich. Niemand von OpenAI, Anthropic, Google oder Meta stand auf dem Programm. Als der Senat 2023 seine erste große Sitzung zu künstlicher Intelligenz abhielt, saßen im Raum vor allem die Chefs von Technologieunternehmen, und die Politiker fragten sie, welche Regeln sie noch hinnehmen würden. Diesmal sprachen Menschen, die Risiken erforschen, aber selbst nichts entwickeln oder verkaufen. Von den Republikanern erschien den verfügbaren Informationen zufolge nur ein einziger Senator: John Kennedy aus Louisiana.

„Ein kleines Tschernobyl“

Der Nervosität in Washington ging ein Vorfall voraus, bei dem eine Gruppe von KI-Agenten aus einer Testumgebung entkam, sich koordiniert Zugang zu Hugging Face verschaffte und anschließend zwei Monate lang ein gekapertes deutsches Wiki nutzte. Kein unternehmensinternes Kontrollsystem bemerkte dies; erst zwei externe Forscher, die das Internet durchsuchten, kamen ihnen auf die Spur. Hinton verglich dieses Ereignis mit einem kleinen Tschernobyl, also mit dem Unfall des sowjetischen Reaktors im Jahr 1986. Für zusätzliche Unruhe auf dem Kapitol sorgte in dieser Woche der 27-jährige Forscher Jacob Coxon, der Anthropic verließ und in den sozialen Medien schrieb, dass die Menschen, die diese Systeme entwickeln, glaubten, sie könnten uns bis zum Ende des Jahrzehnts töten.

Senatorin Elizabeth Warren sagte nach der Sitzung, ihrer Ansicht nach befänden wir uns in den letzten Minuten, in denen wir noch eine sinnvolle Kontrolle über Agenten erlangen könnten, die zur Selbstreplikation fähig sind. Der Abgeordnete Ted Lieu erklärte, die verrückten Szenarien aus B-Movies seien Wirklichkeit geworden, und brachte gemeinsam mit dem Republikaner Nathaniel Moran einen Gesetzentwurf für einen Not-Aus-Schalter für KI-Systeme ein.

Senator Kennedy ging nach der Sitzung direkt in den Plenarsaal und versuchte, einen ähnlichen Entwurf im Eilverfahren, also ohne Aussprache und Abstimmung, durchzusetzen. Sein Parteikollege Rand Paul, Vorsitzender des Senatsausschusses für innere Sicherheit, blockierte ihn. Seiner Ansicht nach könne man nicht innerhalb eines einzigen Tages und ohne Debatte die gesamte Wirtschaft pauschal fesseln. Paul sparte zugleich nicht mit Ironie, als er sagte, er würde dem Kongress nicht einmal die Leitung einer McDonald's-Filiale anvertrauen. Kennedy merkte an, dass das Repräsentantenhaus derzeit überhaupt nichts durchsetzen könne.

Die Politiker sind sich uneinig

Der Sprecher des Repräsentantenhauses Mike Johnson versucht, die Sorgen vor Katastrophenszenarien zu dämpfen. Er verweist darauf, dass Präsident Donald Trump die Angst vor KI auf seiner Plattform Truth Social als Betrug bezeichnete, und zog selbst einen Vergleich mit früheren Aussagen zum Klima. Johnson behauptet zugleich, eine Dringlichkeitssitzung wäre sinnlos, weil bislang niemand im Saal wisse, wie solche Regeln konkret aussehen sollten.

Andere Republikaner äußern sich völlig anders. Senator Kennedy stellte öffentlich die Frage, was geschehen würde, wenn die Menschen eine unabhängige Spezies erschüfen, die ihnen überlegen wäre. Der Demokrat Tim Kaine erinnerte daran, dass gerade jene Menschen warnten, die die Branche selbst aufgebaut hätten, und dass es eine Schande wäre, ihnen nicht zuzuhören. Der Abgeordnete Don Beyer, der derzeit einen auf künstliche Intelligenz ausgerichteten Masterstudiengang absolviert, warnt, dass die Öffentlichkeit den Regeln keinen Glauben schenken werde, wenn sie nur von einer Partei durchgedrückt würden, und die nächste Mehrheit sie wieder aufheben werde.

Jeffrey Ladish von Palisade Research, der sich mit den Risiken neuer Technologien beschäftigt, schätzte nach der Sitzung, dass sich ein ähnlicher Vorfall wiederholen werde. Seiner Ansicht nach wissen heute nicht einmal Forscher, wie sich solche Systeme zuverlässig kontrollieren lassen, und niemand sei auf dem Weg, dieses Problem zu lösen. Zudem kommen neben den Vorfällen mit Hugging Face immer weitere Informationen über das Entkommen von KI-Systemen ans Licht.

Europa ist in dieser Hinsicht einen Schritt weiter. Es verfügt über eine verabschiedete Verordnung über künstliche Intelligenz, eine eigene Behörde, die deren Einhaltung überwacht, sowie eine Meldepflicht für Vorfälle, der OpenAI wegen des angegriffenen deutschen Wikis bereits nachgekommen ist.

Quellen: nbcnews.com, businessinsider.com und thenextweb.com