Googles KI-Chef warnt: Allgemeine künstliche Intelligenz kommt in wenigen Jahren – und die Welt ist nicht darauf vorbereitet

Demis Hassabis, Mitbegründer und CEO von Google DeepMind sowie frischgebackener Nobelpreisträger, veröffentlichte auf seinem Substack einen Essay, in dem er eine kühne Behauptung aufstellt. Allgemeine künstliche Intelligenz, also ein System mit sämtlichen kognitiven Fähigkeiten des menschlichen Gehirns, ist ihm zufolge wahrscheinlich nur noch wenige Jahre entfernt. Er beschreibt sie als einen Umbruch, der weder mit dem Internet noch mit Mobiltelefonen vergleichbar ist. Er vergleicht ihn vielmehr mit der Entdeckung des Feuers oder der Elektrizität. Und er fügt gleich hinzu, dass sich genau jetzt entscheidet, ob die Menschheit das Beste daraus macht oder sich damit Probleme einhandelt.

Sein Text bietet zwei Perspektiven. Eine begeisterte und eine besorgte. Sehen wir uns beide genauer an.

Begeisterung: eine Technologie, die ihm zufolge die industrielle Revolution übertreffen wird

Hassabis schätzt, dass diese Technologie die Welt etwa zehnmal stärker beeinflussen wird als die industrielle Revolution, und das in einem zehnmal kürzeren Zeitraum. Bekanntlich fasste er es mit dem Satz zusammen, wir hätten im Grunde einen Weg gefunden, Sand zum Denken zu bringen, und bezeichnete dies als Wunder.

Konkrete Vorteile sieht er in Wissenschaft und Medizin. Künstliche Intelligenz soll die Entwicklung von Medikamenten beschleunigen, bei der Erschließung neuer sauberer Energiequellen helfen und fortschrittliche Materialien hervorbringen. Außerdem skizziert er eine Welt, in der Ressourcen den menschlichen Fortschritt nicht länger bremsen, also eine Art Zeitalter des Überflusses. Er arbeitet sein ganzes Leben lang gerade deshalb an allgemeiner künstlicher Intelligenz, weil er an ihren Nutzen glaubt, sofern sie verantwortungsvoll entwickelt und eingesetzt wird. Dieses „sofern“ ist bei ihm allerdings ein sehr großes.

Was ihm Sorgen bereitet: ein Wettlauf, den niemand wirklich versteht

Andererseits schreibt Hassabis, dass die Welt in einem außerordentlich angespannten wirtschaftlichen und geopolitischen Wettlauf feststeckt. Und obwohl dieser Druck den Fortschritt vorantreibt, gibt es einen Haken. Die Entwicklung an der Spitze des Fachgebiets eilt unserem Verständnis der Technologie selbst voraus. Er räumt offen ein, dass niemand auf der Welt mit Sicherheit weiß, wie es weitergeht. Nicht einmal die Experten sind sich darüber einig. Und wenn die Unsicherheit so groß ist und so viel auf dem Spiel steht, empfiehlt er als einzig vernünftige Vorgehensweise einen vorsichtigen Optimismus.

Ihn beunruhigen vor allem Sicherheitsbedrohungen, die mit den zunehmenden Fähigkeiten der Modelle einhergehen können. Seiner Ansicht nach sehen wir schon jetzt Probleme mit der Cybersicherheit, und am Horizont könnten Risiken im nuklearen und biologischen Bereich auftauchen. Besonders beschäftigt ihn die Vorstellung von Systemen, die eigenständig handeln und sich selbst verbessern können. Bei solchen Systemen wird es notwendig sein, die Kontrolle zu behalten und Probleme zu lösen, die sich erst mit der Zeit zeigen.

Sein wichtigster Vorwurf richtet sich an uns alle. Als Fachgebiet und als Gesellschaft nehmen wir uns seiner Meinung nach bislang nicht die Zeit und den Raum, um diesen nächsten entscheidenden Schritt richtig zu machen.

Sein Rezept: eine neue Behörde nach dem Vorbild der Börsenaufsicht

Hassabis legt einen Vorschlag vor. Er fordert einen neuen Ansatz zur Prüfung der Fähigkeiten führender Modelle, der zugleich flexibel und streng sein soll. Den ersten Schritt sollten seiner Meinung nach die Vereinigten Staaten machen, weil sie dafür sowohl die wirtschaftlichen als auch die technischen Voraussetzungen besitzen.

Er schlägt die Einrichtung einer Behörde für Standards vor. Als Vorbild nennt er die FINRA, die amerikanische Aufsichtsorganisation für den Finanzsektor, also eine Partnerschaft zwischen öffentlichem und privatem Sektor unter Bundesaufsicht. In ihrer Leitung sollten unabhängige technische Fachleute sowie Vertreter der Gemeinschaft rund um offene Modelle sitzen. Die Finanzierung müsste großzügig ausfallen und überwiegend von Unternehmen kommen, damit die Behörde führende Techniker anwerben und die enorme Rechenkapazität für umfangreiche Tests finanzieren könnte.

Wie sollte eine solche Behörde konkret funktionieren? Ein Modell würde als „Frontier-Klasse“ eingestuft, wenn es bestimmte Schwellenwerte bei einer Reihe von Tests erfüllt, die von der Behörde regelmäßig ausgetauscht würden. Unternehmen mit solchen Modellen würden zu „Frontier-Laboren“ und müssten bewährte Verfahren einhalten, darunter die Veröffentlichung technischer Modellkarten, eine starke interne Cybersicherheit, die Überprüfung von Schlüsselpersonen und ausreichende Mittel für die Sicherheitsforschung.

Zu Beginn wäre die Teilnahme freiwillig. Die Labore würden der Behörde ihre Modelle spätestens dreißig Tage vor der Veröffentlichung zur Prüfung zur Verfügung stellen. Sobald sich das Verfahren bewährt hätte, könnte es rasch an Bedeutung gewinnen, sodass ein Frontier-Modell die Tests bestehen müsste, um überhaupt auf den amerikanischen Markt zu gelangen.

Was genau getestet würde

Die Prüfungen sollten eine gründliche wissenschaftliche Bewertung der Fähigkeiten in den Bereichen Cybersicherheit, biologische Bedrohungen und weiteren Hochrisikobereichen umfassen. Bei eigenständig handelnden Systemen würden die Tests nach Versuchen suchen, Sicherheitsvorkehrungen zu umgehen, oder nach Anzeichen für Täuschung.

Zu den bewährten Verfahren zählt er digitale Wasserzeichen bei Bildern, die von künstlicher Intelligenz erstellt wurden, sowie Ausgaben in einer für Menschen verständlichen Form, damit sich nachvollziehen lässt, wie das Modell denkt. Die Tests würden regelmäßig ausgetauscht, anfangs vielleicht vierteljährlich, und veraltete oder kompromittierte Tests würden durch neue ersetzt.

Mit der Zeit sollte die Behörde in der Lage sein, unabhängig von den Laboren eigene geheime Tests zu entwickeln, damit sich die Modelle nicht im Voraus an sie gewöhnen können. Darum herum könnte ein Kreis unabhängiger externer Prüfer entstehen.

Eine Absicherung für das schlimmste Szenario

Hassabis schreibt, dass das gesamte System bei Bedarf verschärft werden könnte. Falls der Ernst der Lage es erfordern sollte, könnte die Behörde sogar eine Verlangsamung der Entwicklung zwischen den Frontier-Laboren koordinieren. Das ist eine ungewöhnliche Aussage vom Leiter eines der am schnellsten voranschreitenden Labore.

Dabei würden die Regeln fair für alle gelten. Sie würden für Frontier-Modelle unabhängig von ihrem Herkunftsland und unabhängig davon gelten, ob sie offen oder geschlossen sind. Kleinere Modelle von Start-ups oder aus der akademischen Forschung wären von dem Verfahren ausgenommen. Hassabis betrachtet die amerikanischen Bemühungen als Ausgangspunkt. Er hofft, dass sie einen internationalen Konsens darüber anstoßen werden, wie mit den schwerwiegendsten Risiken umzugehen ist.

Fragen, die Techniker allein nicht beantworten können

Am Ende des Essays räumt Hassabis ein, dass es nicht ausreichen wird, die technischen Herausforderungen zu lösen. Seiner Meinung nach stehen uns schwierige wirtschaftliche und philosophische Fragen bevor. Welche neuen Wirtschaftsmodelle wird die Welt benötigen? Wonach werden wir leben, wo werden wir Sinn finden und wie könnte sich möglicherweise das menschliche Schicksal selbst verändern?

Diese Fragen dürfen ihm zufolge nicht nur von Technologen beantwortet werden. Dafür ist die Beteiligung aller Teile der Gesellschaft erforderlich. Und er fügt einen Satz hinzu, in dem die gesamte Botschaft seines Textes zum Ausdruck kommt. Die Zukunft sei noch nicht geschrieben, und das kleine Zeitfenster, das uns bis zur Ankunft der AGI verbleibt, müssten wir nutzen, um die Technologie zum Wohle aller auszurichten.