Ilya Sutskever ist Mitbegründer von OpenAI, wo er bis 2023 als leitender Wissenschaftler tätig war. Heute leitet er das Unternehmen Safe Superintelligence Inc. (SSI), das sich auf die Entwicklung sicherer Superintelligenz konzentriert. In einem kürzlich erschienenen Podcast mit Dwarkesh Patel sprach er über zentrale Herausforderungen der künstlichen Intelligenz (KI), etwa die Generalisierung von Modellen und den Übergang von der Skalierung zu intensiver Forschung.
Probleme bei der Generalisierung von KI-Modellen
Sutskever beschreibt, wie aktuelle KI-Modelle, etwa solche, die mittels Vortraining (Pre-Training) und bestärkendem Lernen (Reinforcement Learning, RL) trainiert wurden, bei der Generalisierung versagen. Ein Modell kann beispielsweise beim kompetitiven Programmieren herausragende Leistungen erbringen, bei der Fehlerbehebung im Code jedoch wiederholt neue Probleme verursachen. Das erinnert an einen Studenten, der 10.000 Stunden lang für spezifische Aufgaben trainiert, dem aber „das gewisse Etwas“ fehlt – ein intuitives Verständnis, das eine breitere Anwendung von Wissen ermöglicht. Menschen generalisieren besser, weil ihr Lernen robuster und weniger von enormen Datenmengen abhängig ist. Sutskever erwähnte, dass Kinder nach 10 Stunden Praxis Autofahren lernen, obwohl sie nur über begrenzte Erfahrung mit visueller Wahrnehmung verfügen, was auf einen evolutionären Lernvorteil hindeutet.
KI-Modelle weisen eine uneinheitliche Leistung auf. Obwohl sie in Tests (Evals) hohe Punktzahlen erzielen, bleibt ihre wirtschaftliche Wirkung zurück. Sutskever vertritt die Ansicht, dass RL-Training Modelle zu eng auf Bewertungen ausrichtet, wodurch ihre Fähigkeit eingeschränkt wird, reale Probleme zu lösen. Menschen hingegen verfügen über angeborene Emotionen, die als Wertfunktion (Value Function) fungieren und dabei helfen, schneller aus Fehlern zu lernen, ohne auf das Endergebnis warten zu müssen.
Übergang von der Skalierung zur Forschung
Laut Sutskever geht die Ära der Skalierung (Scaling) zu Ende, die seit 2020 vorherrschte und in der der Schwerpunkt auf der Vergrößerung von Datenmengen, Parameterzahlen und Rechenleistung lag. Nun beginnt die Ära der Forschung, da Daten endlich sind und weitere Fortschritte neue Ansätze erfordern. OpenAI und Anthropic investieren Milliarden in RL, doch Sutskever betont, dass eine effizientere Nutzung der Rechenleistung, beispielsweise durch eine Wertfunktion, das Lernen der Modelle beschleunigen kann. SSI verfügt über eine Finanzierung von 3 Milliarden Dollar (rund 70 Milliarden CZK) und konzentriert sich ohne Marktdruck auf die Forschung, was Experimente mit weniger Rechenleistung als bei der Konkurrenz ermöglicht.
Sutskever vergleicht die Vergangenheit der KI mit dem Zeitraum von 2012 bis 2020, als Innovationen wie AlexNet oder der Transformer mit begrenzten Ressourcen entstanden – der Transformer beispielsweise auf 8 bis 64 GPUs. Heute kann KI mit Clustern von kontinentalen Ausmaßen enorme Leistungsfähigkeit erreichen, doch entscheidend ist die Erforschung einer besseren Generalisierung und nicht nur die Skalierung.
Sichere Superintelligenz und Ausrichtung
SSI plant die Entwicklung einer Superintelligenz, die durch den Einsatz in der realen Welt kontinuierlich lernt (Continual Learning), ähnlich wie ein Teenager, der sich schnell neue Fähigkeiten aneignet. Dieser Ansatz wird ein rasches Wirtschaftswachstum ermöglichen, doch Sutskever warnt vor den Risiken. Die Superintelligenz sollte so ausgerichtet (aligned) sein, dass sie sich um empfindungsfähiges Leben kümmert, einschließlich der KI selbst, was einfacher sein könnte als eine ausschließliche Fokussierung auf Menschen. Er rechnet mit einer Zusammenarbeit von Unternehmen wie OpenAI und Anthropic im Bereich der Sicherheit sowie mit staatlicher Regulierung, sobald die KI sichtbar leistungsfähiger wird.
Sutskever sagt voraus, dass Unternehmen mit zunehmender Leistungsfähigkeit der KI in Sicherheitsfragen immer paranoider werden. Anstelle eines sich selbst verbessernden Agenten schlägt er robuste Systeme vor, die von menschlichen Emotionen oder evolutionären Mechanismen inspiriert sind und eine extreme Optimierung verhindern. Wenn es gelingt, die Macht der Superintelligenz beispielsweise durch Vereinbarungen zu begrenzen, werden dadurch Risiken wie unkontrollierbares Wachstum minimiert.
Insgesamt betrachtet Sutskever KI als zur Realität gewordene Science-Fiction, bei der eine bessere Generalisierung und ein sicherer Einsatz entscheidend sind, damit die Welt ihre Auswirkungen schrittweise bewältigen kann.
