Sam Altman und Dario Amodei mögen sich nicht besonders. Auf dem Gipfeltreffen in Neu-Delhi standen sie mit vierzehn Personen für ein gemeinsames Foto in einer Reihe und waren die Einzigen, die einander nicht die Hand gaben. Altman räumte öffentlich ein, dass die Ankündigung der Zusammenarbeit von OpenAI mit dem US-Pentagon „opportunistisch und nachlässig“ wirkte. Amodei wiederum erklärte, er könne vor den Forderungen des Verteidigungsministeriums nicht „moralisch kapitulieren“. Und dennoch unterzeichneten beide einen gemeinsamen offenen Brief an den US-Kongress.
Ihnen schlossen sich Demis Hassabis von DeepMind und Mustafa Suleyman von Microsoft an. Zusammen mit mehr als fünfzig weiteren Persönlichkeiten aus den Bereichen künstliche Intelligenz, Biotechnologie und nationale Sicherheit. In dem Schreiben heißt es: Künstliche Intelligenz entwickelt sich zu einer Bedrohung, die Barrieren beseitigen könnte, welche Terroristen bislang an der Herstellung biologischer Waffen hindern. Und der Kongress muss handeln, bevor es zu spät ist.
Was genau in dem Brief steht
Der Brief, der vom Institut für Fortschritt und der konservativ ausgerichteten Stiftung für amerikanische Innovationen initiiert wurde, enthält keine vagen Forderungen. Er fordert den US-Kongress dazu auf, ein Gesetz zu verabschieden, das Unternehmen, die synthetische DNA und RNA verkaufen, dazu verpflichtet, sowohl ihre Kunden als auch deren Bestellungen zu überprüfen. Außerdem sollen sie Aufzeichnungen darüber führen, was genau sie an wen verkauft haben. „Allein das Bewusstsein um die Rückverfolgbarkeit schreckt von Missbrauch ab“, heißt es in dem Brief.
Die Unterzeichner weisen darauf hin, dass Systeme künstlicher Intelligenz heute promovierte Virologen bei der Beantwortung hoch technischer Fragen aus deren eigenem Fachgebiet übertreffen. Die Wissensbarrieren, die böswillige Akteure historisch vom Zugang zu biologischen Waffen abgehalten haben, beginnen zu bröckeln. Und es bleibt immer weniger von ihnen übrig.
Synthetische DNA: billiger, schneller und leichter verfügbar
Um zu verstehen, von welchem Risiko die Rede ist, muss man wissen, wie synthetische Biologie funktioniert. Der amerikanische Biochemiker Arthur Kornberg synthetisierte in den 1950er-Jahren als Erster erfolgreich DNA. Heute ist der gesamte Prozess automatisiert. Dutzende Unternehmen weltweit verwenden kommerzielle Synthesizer, um eigene genetische Sequenzen zu „drucken“ und zu verkaufen. Sie werden von Wissenschaftlern, Biotechnologieunternehmen und Bildungseinrichtungen genutzt. Doch nicht alle Unternehmen überprüfen ihre Kunden oder die von ihnen bestellten Sequenzen.
Das Jahr 2017 zeigte, wie real diese Bedrohung ist. Kanadische Forscher rekonstruierten damals für 100.000 Dollar das ausgestorbene Pferdepockenvirus aus per Post bestellter DNA. Kritiker warnten seinerzeit, dass sich mit derselben Methode auch echte Pocken konstruieren ließen. Seitdem sind die Kosten der Gensynthese weiter gesunken.
Die Kombination aus kostengünstiger DNA-Synthese und leistungsfähiger künstlicher Intelligenz ermöglicht es heute praktisch, gefährliche Toxine und Krankheitserreger auch ohne fundierte biologische Ausbildung zu entwerfen. David Relman, Mikrobiologe und Experte für biologische Sicherheit an der Stanford University, der den Brief unterzeichnet hat, sagt dazu: „KI-Werkzeuge zeigen dem Nutzer sehr schnell, wo er Sequenzen bestellen kann, die keiner Überprüfung unterliegen. Und wenn man sie richtig fragt, erklären sie einem, wie man eine Bestellung so abändern kann, dass selbst Unternehmen, die Überprüfungen durchführen, sie nicht erkennen können.“
Freiwilligkeit reicht nicht aus
Ein Teil der Branche befasst sich bereits seit Jahren mit dieser Problematik. Das Internationale Konsortium für Gensynthese wurde 2009 mit dem Ziel gegründet, freiwillige Überprüfungsverfahren einzuführen. Viele Unternehmen verwenden heute Software, die Bestellungen durchsucht und nach „relevanten Sequenzen“ sucht, die zur Toxizität eines Organismus oder zu dessen Fähigkeit, Krankheiten auszulösen, beitragen können. Doch Freiwilligkeit hat ihre Grenzen. Und künstliche Intelligenz überschreitet sie.
Forscher von Microsoft veröffentlichten im vergangenen Jahr eine Studie, der zufolge KI-Werkzeuge für das Proteindesign potenziell gefährliche Gensequenzen erzeugen können, die von Überprüfungssoftware nicht erkannt werden. Die Modelle entwerfen neue Sequenzen mit Strukturen, die den als gefährlich eingestuften ähneln, aber dennoch anders sind. Die Überprüfungssoftware erfasst sie schlicht nicht. Wer über eine Technologie verfügt, mit der sich DNA synthetisieren lässt, muss sicherstellen, dass sie verantwortungsvoll eingesetzt wird. Das bedeutet, zu wissen, was man für wen herstellt.
Und was ist mit KI-Unternehmen?
Der Brief umgeht jedoch bewusst eine heikle Frage: ob die neuen Vorschriften auch unmittelbar für Unternehmen gelten sollten, die künstliche Intelligenz entwickeln. Einige von ihnen behaupten, bereits selbst Maßnahmen zu ergreifen, um den Missbrauch ihrer Produkte zu verhindern. Geoff Ralston, ehemaliger Präsident von Y Combinator, sagt jedoch, dass dies nicht ausreiche. „Es muss sehr schwierig, wenn nicht unmöglich sein, ein Modell um Hilfe bei etwas unmittelbar Gefährlichem zu bitten.“ Relman stimmt zu: „Die Überprüfung kann versagen. Deshalb brauchen wir auch andere Kontrollpunkte. Und dort werden die KI-Unternehmen ins Spiel kommen müssen.“
Unternehmen könnten laut Severance Chatbots so programmieren, dass sie Anfragen zu Laborverfahren ablehnen, die es auch Laien ermöglichen, gefährliche biologische Stoffe wirksamer zu manipulieren. Zudem könnten sie den Zugang zu spezialisierten Werkzeugen für das Design von Proteinen und chemischen Substanzen einschränken. „Es geht darum, ein Gleichgewicht zu finden“, sagt sie. „Sicherzustellen, dass gute Wissenschaft fortgesetzt werden kann, während Versuche, die Biologie zu missbrauchen, erkannt und gestoppt werden.“
Biologische Waffen kommen bei Terroranschlägen selten zum Einsatz und machen historisch gesehen nur 0,02 % aller Anschläge aus. Doch sie bleiben im Gedächtnis. Im Jahr 2001 starben fünf Menschen und weitere 22 wurden infiziert, nachdem eine Reihe von Briefsendungen mit Anthrax an US-Senatoren und Medienredaktionen verschickt worden war. Der Anschlag löste eine der größten Ermittlungsaktionen des FBI in dessen Geschichte aus. Eingeatmetes Anthrax führt ohne Behandlung in nahezu 100 % der Fälle zum Tod.
Quellen: wired.com, fortune.com und science.org
