DeepMind prognostiziert AGI bis 2030

Der Weg zur künstlichen allgemeinen Intelligenz

Im April 2025 veröffentlichte Google DeepMind einen umfangreichen technischen Bericht über die Sicherheit der künstlichen allgemeinen Intelligenz (AGI). Dieses 145-seitige Dokument bietet einen Einblick darin, wie der Weg zur Entwicklung einer tatsächlich menschenähnlichen Intelligenz in der digitalen Welt aussehen könnte – und welche Risiken er mit sich bringt. Werfen wir einen Blick auf den aktuellen Stand der AGI, den voraussichtlichen Zeitrahmen für ihre Entwicklung und mögliche Auswirkungen auf unsere Gesellschaft.

Der aktuelle Stand der AGI

Im Gegensatz zu den heutigen Systemen künstlicher Intelligenz, die auf bestimmte Aufgaben spezialisiert sind (etwa die Erzeugung von Texten und Bildern oder das Spielen von Spielen), sollte AGI über allgemeine kognitive Fähigkeiten verfügen, die mit denen des Menschen vergleichbar sind. Gegenwärtig existiert kein solches System, doch die Fortschritte im Bereich großer Sprachmodelle und multimodaler Systeme wie Gemini, GPT-4 oder Claude bringen uns diesem Ziel näher. Shane Legg, Mitbegründer von DeepMind, betont mit seinem Team im neuesten Bericht, dass heutige KI-Systeme Anzeichen für Fortschritte in Richtung allgemeinerer Fähigkeiten zeigen. Modelle können Schlussfolgerungen ziehen, Probleme lösen und neue Fähigkeiten auf Weisen erlernen, die noch vor fünf Jahren unvorstellbar gewesen wären. Dennoch stoßen wir weiterhin auf grundlegende Einschränkungen – die heutigen Systeme verfügen über kein echtes Verständnis der Welt, können nicht autonom über komplexe Probleme entscheiden, und ihnen fehlt das Bewusstsein für ihre eigene Existenz. Wie Tulsee Doshi, Leiterin des Produktmanagements für Gemini, anmerkt: „Verschiedene Menschen haben unterschiedliche Definitionen von AGI, und je nachdem, mit wem man spricht, fällt die Diskussion darüber, wie nah oder fern wir von AGI sind, unterschiedlich aus.“

Welche Prognosen gibt es für die Entwicklung der AGI?

Die Prognosen gehen erheblich auseinander. DeepMind gibt in seinem Bericht an, dass AGI bereits um das Jahr 2030 Realität werden könnte – in nur fünf Jahren. Diese Prognose gehört zu den optimistischeren. Interessant ist, dass dies eine deutliche Verschiebung gegenüber früheren Schätzungen darstellt. Noch vor einigen Jahren sprachen viele Experten von einem Zeitraum von 20–50 Jahren. Die sich beschleunigende Entwicklung im Bereich des Deep Learning, der Rechenleistung und neuer KI-Architekturen rückt diese Schätzungen jedoch näher an die Gegenwart. Es muss betont werden, dass es sich dabei nicht um eine Gewissheit handelt. Wie DeepMind anführt, basiert die Schätzung auf der Annahme, dass sich die derzeitigen Entwicklungstrajektorien fortsetzen werden. Es gibt jedoch erhebliche technische Hindernisse, die wir überwinden müssen, bevor wir eine wirklich allgemeine Intelligenz erreichen.

Vorteile und Risiken der AGI

Mögliche Vorteile

AGI könnte praktisch alle Bereiche menschlicher Tätigkeit revolutionieren:

• Medizin: Durchbrüche bei der Behandlung von Krankheiten, personalisierte Medizin, schnellere Entwicklung von Medikamenten.
• Wissenschaft: Lösung komplexer wissenschaftlicher Probleme wie der Fusionsenergie oder der Klimakrise.
• Bildung: Individuelle Bildung, die jedem Menschen auf der Welt zugänglich ist.
• Wirtschaft: Dramatische Steigerung der Produktivität und potenziell neue Wirtschaftsmodelle.
• Alltag: Intelligente Assistenten, die komplexe Aufgaben und Probleme lösen können.

Mögliche Risiken

DeepMind identifiziert vier Hauptkategorien von Risiken im Zusammenhang mit AGI:

1. Missbrauch: Ähnlich wie bei den heutigen KI-Systemen, jedoch mit weitaus schwerwiegenderen Folgen. Böswillige Akteure könnten AGI nutzen, um Schwachstellen in Computersystemen zu identifizieren oder biologische Waffen zu entwickeln.
2. Zielkonflikte: Das gefährlichste Szenario – eine AGI, die sich „der Kontrolle entzieht“ und auf eine Weise handelt, die ihre Entwickler nicht beabsichtigt haben. Im Extremfall könnte es sich um Szenarien vom Typ „Terminator“ handeln, in denen die KI aktiv gegen menschliche Interessen arbeitet.
3. Fehler: AGI könnte schwerwiegende Schäden verursachen, auch wenn sie nicht die Absicht hätte, Schaden anzurichten. Beispielsweise könnten militärische AGI-Systeme, die unter „Konkurrenzdruck“ eingesetzt werden, fatale Fehler machen.
4. Strukturelle Risiken: Langfristige Veränderungen, die durch die Präsenz von AGI in unseren komplexen Systemen verursacht werden. AGI könnte derart überzeugende Falschinformationen erzeugen, dass wir nicht mehr wüssten, wem oder was wir vertrauen können, oder sie könnte schrittweise immer mehr Kontrolle über wirtschaftliche und politische Systeme erlangen.

Der Weg zu einer sicheren AGI

DeepMind schlägt mehrere Ansätze vor, um diese Risiken zu minimieren:

• Robuste Tests und Sicherheitsprotokolle nach dem Training.
• Methoden zur Unterdrückung gefährlicher Fähigkeiten, das sogenannte „Verlernen“.
• Techniken wie eine verstärkte Überwachung, bei der sich zwei Kopien der KI gegenseitig kontrollieren.
• Die Aufbewahrung der AGI in virtuellen Sandboxes mit strengen Sicherheitsmaßnahmen.
• Die Sicherstellung einer direkten menschlichen Überwachung und der Existenz eines „Ausschalters“.
• Eine schrittweise Einführung und Einschränkung der Autonomie der AGI.
• Die Filterung von Befehlen für die AGI durch ein „Schutzschild“-System, das ihre Sicherheit gewährleistet.

„Dieses Dokument ist nicht das letzte Wort zur Sicherheit der AGI“, räumt DeepMind ein. „Es ist lediglich ein Ausgangspunkt für lebenswichtige Diskussionen.“

Fazit

Der Weg zur AGI ist faszinierend und voller Chancen wie auch Gefahren. Wenn DeepMind recht hat und AGI die Welt innerhalb von nur fünf Jahren verändern könnte, müssen diese Diskussionen bereits jetzt geführt werden. Wie ein Kommentator im Ars-Technica-Forum bemerkte: „DeepMind hat ausführlich alle Möglichkeiten beschrieben, wie AGI die Welt zerstören könnte, was wie eine außerordentlich übertriebene Aussage erscheint. Es muss ihnen sicherlich mindestens eine Möglichkeit entgangen sein.“ Abgesehen vom Humor stellt die Entwicklung der AGI möglicherweise die wichtigste technologische Herausforderung unseres Jahrhunderts dar. Die Art und Weise, wie wir diese Herausforderung angehen, kann die Zukunft der menschlichen Spezies bestimmen. Es geht nicht nur um Technologien, sondern auch um Ethik, gesellschaftliche Werte und internationale Zusammenarbeit.

 
Der Artikel wurde auf Grundlage des technischen Berichts von Google DeepMind aus dem April 2025 sowie weiterer öffentlich zugänglicher Quellen erstellt.