Wissenschaftler nutzen jetzt künstliche Intelligenz, also Computersysteme, die Muster aus Daten lernen, um direkt im Labor vollständige Virusgenome von Grund auf neu zu schreiben. Gleichzeitig zeigte eine Studie unter der Leitung von Microsoft, dass KI-Werkzeuge bekannte Toxine so umgestalten können, dass sie gängige Sicherheitskontrollen bei der DNA-Synthese umgehen. Bei diesen durch künstliche Intelligenz erzeugten Viren handelt es sich um Bakteriophagen, also Viren, die Bakterien statt Menschen befallen. Daher dienen sie als sichere Testfälle, zugleich aber auch als deutliche Warnung.
Warum Fachleute sich wegen KI-generierter Viren sorgen
Die Arbeit, die aufdeckte, wie von künstlicher Intelligenz entworfene Proteine genetische Sicherheitskontrollen umgehen können, wurde von Bruce J. Wittmann von Microsoft Research geleitet. Er arbeitet als leitender angewandter Wissenschaftler und konzentriert sich auf Werkzeuge, die die Zuverlässigkeit des DNA-Screenings für Labore und Syntheseunternehmen verbessern. Diese Projekte stützen sich auf genomische Sprachmodelle, also KI-Werkzeuge, die wahrscheinliche DNA-Abschnitte innerhalb einer Sequenz vorhersagen. Sobald diese Modelle anhand Tausender Sequenzen trainiert wurden, können sie völlig neue Genome entwerfen, die natürlichen Virusfamilien weiterhin ähneln. Diese kreative Fähigkeit erschwert es Fachleuten, vorherzusagen, wie sich ein maschinell entworfenes Virus oder Protein in realen Experimenten verhält.
Bakteriophagen als medizinische Werkzeuge
In einem kürzlich veröffentlichten Preprint nutzten Wissenschaftler diese Modelle, um Hunderte potenzieller Phagengenome zu entwerfen, und züchteten erfolgreich 16 funktionsfähige Viren. Da jeder Phage nur bestimmte Bakterien befällt, hoffen Ärzte, dass maßgeschneiderte Mischungen hartnäckige Infektionen behandeln können, ohne nützliche Mikroben oder menschliche Zellen zu schädigen. Klinische Übersichtsarbeiten beschreiben Patienten mit antibiotikaresistenten Infektionen, deren Zustand sich nach einer experimentellen Phagentherapie besserte, nachdem Standardmedikamente versagt hatten.
Wissenschaftler verwenden für derart leistungsfähige Technologien, die je nach Absicht helfen oder schaden können, den Begriff Dual-Use-Forschung. Derselbe Algorithmus, der Medikamententröpfchen für Asthmainhalatoren optimiert, könnte Rezepturen für wirksamere aerosolisierte chemische oder biologische Angriffe aufzeigen. Die Modelle gelten als leistungsfähig, insbesondere wenn sie anhand realer Gesundheitsdaten statt kontrollierter Beispiele getestet werden. Wissenschaftler erklären, dass eine sorgfältige Beschränkung von Genomen und Toxinen in den Trainingsdaten eine grundlegende Sicherheitsbarriere darstellt.
Wie KI-generierte Viren Kontrollen umgehen
Viele DNA-Syntheseunternehmen überprüfen Nukleinsäuren, also genetische Moleküle, die Erbinformationen tragen, und kennzeichnen Kundenbestellungen, die mit Krankheitserregern oder Toxinen übereinstimmen. Das Team von Bruce J. Wittmann zeigte, dass fortschrittliche Werkzeuge für das Proteindesign gefährliche Proteine in neue Sequenzen umschreiben können, die weiterhin funktionieren, aber herkömmlichen Screeningfiltern entgehen. In Zusammenarbeit mit mehreren DNA-Anbietern entwickelte das Team neue Algorithmen, die sich auf die Struktur und Funktion von Proteinen konzentrieren und die Erkennung dieser verschleierten Sequenzen deutlich verbessern.
Diese Verbesserungen werden jetzt in kommerzielle Scanverfahren integriert, wodurch eine verborgene Schwachstelle in einen Plan zur Abwehr KI-gestützter Designs überführt wird. Ein wirksames Screening der DNA-Synthese sowie automatisierte Kontrollen von Genbestellungen und Kunden geben Behörden die Chance, gefährliche Projekte zu stoppen, bevor das Material hergestellt wird. Die internationale Initiative für Biosecurity und Biosafety in der Wissenschaft unterstützt Screeningstandards, damit Unternehmen und Regulierungsbehörden genetische Bestellungen nach ähnlichen Kriterien beurteilen.
Globale Bemühungen um Sicherheitsstandards
Ein bundesweiter Rahmen verknüpft die Forschungsfinanzierung mit dem Screening von Nukleinsäuren und ermutigt Behörden, Labore zu bevorzugen, die DNA von überprüften Anbietern beziehen. Gemäß dieser Richtlinie wird von Anbietern erwartet, dass sie jede Bestellung kontrollieren, Kunden überprüfen, verdächtige Anfragen melden und Aufzeichnungen über Jahre hinweg aufbewahren. Künftige Regierungen könnten diese Anforderungen anpassen oder ersetzen, doch sie zeigen, wie Regierungen Sicherheitsrichtlinien in konkrete Einkaufsbedingungen überführen können. Ähnliche Anforderungen könnten schließlich auch für Entwickler hochleistungsfähiger künstlicher Intelligenz gelten und den Zugang zu öffentlichen Aufträgen an dokumentierte Tests und klare interne Schutzmaßnahmen knüpfen.
Die internationale Initiative für Biosecurity und Biosafety in der Wissenschaft bringt Unternehmen und Regulierungsbehörden zusammen, um Screeningstandards entsprechend den Entwicklungen bei künstlicher Intelligenz und synthetischen Technologien zu aktualisieren. Ein wichtiger Partner ist das Internationale Konsortium für Gensynthese, dessen Mitglieder sich verpflichten, Sequenzen und Kundenidentitäten nach einem harmonisierten Protokoll zu überprüfen. Das Vereinigte Königreich hat ein Institut für KI-Sicherheit eingerichtet, das Modelle testet, Risiken bewertet und Methoden zur Verringerung von Missbrauch weitergibt. Tessa Alexanian, eine an der Studie beteiligte Wissenschaftlerin, beschrieb den Ansatz als bewusst flexibel. Sie sagte: „Dieses Programm mit kontrolliertem Zugang ist ein Experiment, und wir sind sehr bestrebt, unseren Ansatz weiterzuentwickeln.“
Praktische Grenzen biologischer Waffen
Trotz aller Bedenken besteht weiterhin eine große Lücke zwischen dem digitalen Entwurf eines Genoms und der zuverlässigen Entwicklung ansteckender Viren, die sich zwischen Menschen verbreiten. Die jüngsten Arbeiten mit Phagen konzentrierten sich auf kleine bakterielle Viren, die wesentlich einfacher aufgebaut sind als komplexe Krankheitserreger, die für Krankheiten wie Grippe oder COVID-19 verantwortlich sind. Selbst mit guten Entwürfen benötigen Wissenschaftler weiterhin Hochsicherheitseinrichtungen, eine sorgfältige Aufsicht sowie Monate oder Jahre an Experimenten, um stabile und berechenbare Organismen herzustellen. Fachleute sind besorgt, weil Fortschritte bei Automatisierung, DNA-Synthese und Modellierung diese Hürden verringern und den Aufwand reduzieren, der für Versuche mit gefährlichen Projekten erforderlich ist.
KI-generierte Viren und die Zukunft
Immer mehr Wissenschaftler setzen sich jetzt für Biosecurity ein, also für Richtlinien, die den Missbrauch biologischer Werkzeuge verhindern, und verbinden dabei eine bessere Auswahl der Trainingsdaten mit einem einfachen Screening der Ausgaben. Einige Vorschläge gehen noch weiter und empfehlen eine Umweltüberwachung, bei der Abwasser, Luftfilter oder Krankenhausproben auf genetische Spuren einer nicht autorisierten Herstellung untersucht werden. Gleichzeitig könnten diese KI-Werkzeuge die Entdeckung von Antibiotika, Impfstoffen und maßgeschneiderten Phagentherapien beschleunigen, die Patienten retten, wenn Medikamente versagen. Viele Fachleute sehen eine gemeinsame Verantwortung von Förderinstitutionen, Fachzeitschriften, Unternehmen und Universitäten, Sicherheitsbewertungen zu verlangen, wann immer leistungsfähige KI-Werkzeuge in biologische Arbeiten eingreifen. Die Studie wurde in der Fachzeitschrift Science veröffentlicht.
