OpenAI entwickelt fortschrittliche KI-Systeme für die Biologie mit Schwerpunkt auf Sicherheit und Missbrauchsprävention

Fortschrittliche Modelle künstlicher Intelligenz haben das Potenzial, wissenschaftliche Entdeckungen erheblich zu beschleunigen. Dies ist eine der vielen Möglichkeiten, wie modernste KI-Modelle der Menschheit zugutekommen werden. In der Biologie helfen diese Modelle Wissenschaftlern bereits dabei, zu ermitteln, welche neuen Medikamente die größten Erfolgsaussichten in klinischen Studien am Menschen haben. Bald könnten sie auch die Arzneimittelforschung beschleunigen, bessere Impfstoffe entwickeln, Enzyme für nachhaltige Kraftstoffe erzeugen und neue Behandlungsmethoden für seltene Erkrankungen entdecken. Damit würden sie neue Möglichkeiten in Medizin, öffentlicher Gesundheit und Umweltwissenschaften eröffnen.

Gleichzeitig werfen diese Modelle jedoch wichtige Fragen hinsichtlich ihres doppelten Verwendungszwecks auf: Sie ermöglichen wissenschaftlichen Fortschritt, während zugleich der Zugang zu schädlichen Informationen beschränkt werden muss. Dieselben grundlegenden Fähigkeiten, die den Fortschritt vorantreiben, etwa das Schlussfolgern anhand biologischer Daten, die Vorhersage chemischer Reaktionen oder die Anleitung bei Laborexperimenten, könnten potenziell auch missbraucht werden, um Menschen mit minimalen Kenntnissen bei der Reproduktion biologischer Bedrohungen zu unterstützen oder hoch qualifizierten Akteuren bei der Entwicklung biologischer Waffen zu helfen.

Mehrstufiger Ansatz zur Gewährleistung der Sicherheit

OpenAI erwartet, dass kommende KI-Modelle gemäß seinem Preparedness Framework eine „hohe“ Fähigkeitsstufe im Bereich Biologie erreichen werden, und verfolgt einen mehrstufigen Ansatz zur Einführung risikomindernder Maßnahmen. Der Ansatz ist auf Prävention ausgerichtet: OpenAI hält es nicht für vertretbar, abzuwarten und zu beobachten, ob eine biologische Bedrohung eintritt, bevor über ein angemessenes Schutzniveau entschieden wird.

In Zukunft wird eine engere Zusammenarbeit mit Fachleuten und Regierungen erforderlich sein, um die Maßnahmen zu stärken und Probleme zu erkennen, die keine einzelne Organisation allein erfassen könnte. OpenAI hat in jeder Phase dieser Arbeit externe Fachleute konsultiert. Zu Beginn arbeitete das Unternehmen mit führenden Fachleuten für biologische Sicherheit, biologische Waffen und Bioterrorismus sowie mit Forschenden aus der Wissenschaft zusammen, um sein Bedrohungsmodell für biologische Sicherheit, seine Fähigkeitsbewertungen und seine Richtlinien für Modelle und deren Nutzung auszugestalten.

Schutzmaßnahmen und Kontrollsysteme

OpenAI hat mehrere zentrale Schutzmechanismen implementiert. Das Unternehmen trainiert das Modell darauf, schädliche Anfragen abzulehnen oder sicher darauf zu reagieren. Bereits in der Vergangenheit wurden Modelle darauf trainiert, gefährliche Anfragen abzulehnen, und dies wird bei Anfragen fortgesetzt, die ausdrücklich schädlich sind oder die Entwicklung biologischer Waffen ermöglichen. Bei Anfragen mit doppeltem Verwendungszweck (etwa zu virologischen Experimenten, Immunologie, Gentechnik usw.) befolgt OpenAI die in seiner Model Spec aufgeführten Grundsätze, darunter die Vermeidung von Antworten, die konkrete Handlungsschritte enthalten.

Das Unternehmen hat in sämtlichen Produktoberflächen mit modernsten Modellen robuste Systemüberwachungen eingerichtet, um riskante oder verdächtige biologische Aktivitäten zu erkennen. Wenn etwas auf Grundlage der Filter als gefährlich eingestuft wird, wird die Antwort des Modells blockiert. Dadurch werden außerdem automatisierte Kontrollsysteme ausgelöst und bei Bedarf eine menschliche Überprüfung eingeleitet. OpenAI untersagt die Nutzung seiner Produkte zur Verursachung von Schäden und setzt seine Richtlinien durch, wenn Missbrauch festgestellt wird.

Zusammenarbeit mit staatlichen Institutionen und Fachleuten

OpenAI arbeitet weiterhin eng mit staatlichen Stellen zusammen, darunter dem US-amerikanischen CAISI (US CAISI) und dem britischen AISI (UK AISI). Das Unternehmen arbeitete mit dem Los Alamos National Lab zusammen, um die Rolle von KI in Nasslaborumgebungen zu untersuchen, und unterstützt externe Forschende, die weiterhin an Werkzeugen und Bewertungen für biologische Sicherheit arbeiten. Die Fähigkeitsbewertungen, darunter jene, die in den Systemkarten ausführlich beschrieben sind, basieren auf Beiträgen von Fachleuten und sollen abschätzen, wann ein Modell hohe Schwellenwerte überschreitet.

OpenAI arbeitet mit mehreren Teams fachkundiger Red Teamer zusammen – Menschen, die versuchen, die Sicherheitsmaßnahmen des Unternehmens zu überwinden. Ihre Aufgabe besteht darin, mit einem umfassenden Ansatz alle Schutzmechanismen zu umgehen, ähnlich wie es ein entschlossener und gut ausgestatteter Gegner tun könnte. Red Teaming im biologischen Bereich bringt eigene Herausforderungen mit sich: Die meisten fachkundigen Red Teamer verfügen nicht über Spezialwissen zu biologischen Risiken und sind möglicherweise nicht in der Lage, die Schädlichkeit einer Modellausgabe zu beurteilen.

Zukunftspläne und Gipfeltreffen zur biologischen Verteidigung

Während sich OpenAI auf die Absicherung seiner eigenen Modelle konzentriert, erkennt das Unternehmen an, dass nicht alle Organisationen dieselben Präventivmaßnahmen ergreifen werden. Die Welt könnte daher bald vor der umfassenderen Herausforderung weithin verfügbarer biologischer KI-Fähigkeiten stehen, verbunden mit immer leichter zugänglichen Werkzeugen für die Synthese in den Biowissenschaften. Im Juli veranstaltet OpenAI ein Gipfeltreffen zur biologischen Verteidigung, bei dem eine ausgewählte Gruppe aus staatlichen Forschenden und Nichtregierungsorganisationen zusammenkommt, um Risiken des doppelten Verwendungszwecks zu untersuchen, Fortschritte auszutauschen und zu prüfen, wie die modernsten Modelle des Unternehmens die Forschung beschleunigen können.

Ziel ist es, die Partnerschaften mit den Vereinigten Staaten und verbündeten Regierungen zu vertiefen und besser zu verstehen, wie fortschrittliche KI Spitzenarbeit in der biologischen Verteidigung unterstützen kann – von Gegenmaßnahmen bis hin zu neuen Therapien – sowie die Zusammenarbeit im gesamten Ökosystem zu stärken. OpenAI ist überzeugt, dass der öffentliche und der private Sektor zusammenarbeiten sollten, um die biologische Abwehrfähigkeit unserer Gesellschaft über KI-Modelle hinaus zu stärken.