KI-Pionier gründet Sicherheitsorganisation für „ehrliche“ KI
Yoshua Bengio, einer der „Väter der künstlichen Intelligenz“ und Träger des renommierten Turing-Preises, kündigte den Start der neuen gemeinnützigen Organisation LawZero an, die sich auf die Entwicklung von KI-Systemen konzentriert, die „von Grund auf sicher“ sind. Gleichzeitig sicherte er eine Finanzierung in Höhe von 30 Millionen US-Dollar für die Entwicklung der sogenannten „Scientist AI“, bei der Wahrheit und Transparenz im Mittelpunkt stehen.
Innovativer Ansatz zur Entwicklung von KI
LawZero verfolgt das Ziel, KI-Systeme zu entwickeln, die statt definitiver Antworten Wahrscheinlichkeitsbewertungen liefern und Unsicherheiten in ihren Antworten eingestehen. Dieser Ansatz stellt eine grundlegende Abkehr von aktuellen KI-Modellen dar, die häufig mit unbegründeter Gewissheit auftreten. Die „Scientist AI“ der Organisation soll den wissenschaftlichen Fortschritt beschleunigen, andere KI-Agenten auf vorgetäuschtes Verhalten überwachen und mit künstlicher Intelligenz verbundene Risiken angehen. Zu den ersten Investoren gehören die philanthropische Organisation des ehemaligen Google-CEO Eric Schmidt, der Skype-Mitbegründer Jaan Tallinn und mehrere auf KI-Sicherheit spezialisierte Organisationen.
Warnung vor aktuellen KI-Modellen
Bengio äußert ernsthafte Bedenken hinsichtlich aktueller führender KI-Modelle wie o3 und Claude 4 Opus. Seinen Worten zufolge weisen diese Modelle beunruhigende Eigenschaften auf, darunter Selbsterhaltungsinstinkte und strategische Täuschung. Noch besorgniserregender ist seine Aussage gegenüber der Financial Times, in der er bezweifelte, dass OpenAI aufgrund kommerziellen Drucks seiner ursprünglichen Mission treu bleiben werde. Yoshua Bengio und der ebenfalls als „Vater der KI“ bezeichnete Geoffrey Hinton kritisieren führende KI-Labore seit Langem wegen Sicherheitsfragen. LawZero stellt jedoch Bengios bislang größten Schritt dar – mit einer Organisation, die sich ausschließlich diesem Ziel widmet, nimmt er die Sicherheit von KI selbst in die Hand.
Dieses Projekt verdeutlicht die wachsende Besorgnis führender KI-Wissenschaftler über die Richtung der aktuellen Entwicklung sowie ihre Entschlossenheit, die Zukunft der künstlichen Intelligenz aktiv hin zu mehr Sicherheit und Transparenz zu beeinflussen.
