Vědci teď používají umělou inteligenci, což jsou počítačové systémy, které se učí vzory z dat, aby napsali celé virové genomy úplně od nuly přímo v laboratoři. Současně studie vedená společností Microsoft prokázala, že nástroje umělé inteligence dokážou přepracovat známé toxiny tak, aby proklouzly běžnými bezpečnostními kontrolami syntézy DNA. Tyto viry vytvořené umělou inteligencí jsou bakteriofágy, což znamená viry, které napadají bakterie místo lidí, takže slouží jako bezpečné testovací případy, ale zároveň jako jasné varování.
Proč se odborníci obávají virů z AI
Práce, která odhalila, jak proteiny navržené umělou inteligencí proklouznou genetickými bezpečnostními kontrolami, byla vedena Bruce J. Wittmannem z Microsoft Research. On pracuje jako senior aplikovaný vědec a zaměřuje se na nástroje, které zlepšují spolehlivost screeningu DNA pro laboratoře a firmy zabývající se syntézou. Tyto projekty spoléhají na modely genomových jazyků, což jsou nástroje umělé inteligence, které odhadují pravděpodobné úseky DNA v sekvenci. Jakmile se tyto modely natrénují na tisících sekvencích, dokážou navrhnout úplně nové genomy, které stále připomínají přirozené virové rodiny. Tato tvůrčí schopnost ztěžuje odborníkům předvídat, jak se virus nebo protein navržený strojem chová v reálných experimentech.
Bakteriofágy jako lékařské nástroje
V nedávném předtisk vědci použili tyto modely k navržení stovek kandidátních genomů fágů a úspěšně vypěstovali 16 funkčních virů. Protože každý fág napadá jen specifické bakterie, lékaři doufají, že přizpůsobené směsi dokážou léčit tvrdohlavé infekce, aniž by poškodily užitečné mikroby nebo lidské buňky. Klinické přehledy popisují pacienty s infekcemi odolnými vůči antibiotikům, kteří se zlepšili po experimentální terapii fágů, když standardní léky selhaly.
Vědci používají termín výzkum s dvojím použitím pro takové mocné technologie, které mohou pomáhat nebo škodit podle záměru. Stejný algoritmus, který optimalizuje kapky léků pro inhalátory proti astmatu, by mohl odhalit recepty na efektivnější aerosolizované chemické nebo biologické útoky. Modely jsou považovány za schopné, zvláště když se testují na reálných zdravotních datech místo kontrolovaných příkladů. Vědci tvrdí, že pečlivé omezení genomů a toxinů v trénovacích datech je základní bezpečnostní bariéra.
Jak viry z AI obcházejí kontroly
Mnoho firem zabývajících se syntézou DNA kontroluje nukleové kyseliny, což jsou genetické molekuly nesoucí dědičnou informaci, a označuje objednávky zákazníků, které se shodují s patogeny nebo toxiny. Tým Bruce J. Wittmanna prokázal, že pokročilé nástroje pro design proteinů dokážou přepsat nebezpečné proteiny do nových sekvencí, které stále fungují, ale uniknou standardním filtrům screeningu. Ve spolupráci s několika dodavateli DNA vyvinuli nové algoritmy, které se zaměřují na strukturu a funkci proteinů, což výrazně zlepšuje detekci těchto maskovaných sekvencí.
Tyto opravy se teď integrují do komerčních skenovacích procesů, což mění skrytou slabinu v plán na obranu proti designu podporovanému umělou inteligencí. Efektivní screening syntézy DNA, automatizované kontroly objednávek genů a zákazníků, dává úřadům šanci zastavit nebezpečné projekty dřív, než se vyrobí materiál. Mezinárodní iniciativa pro biosecurity a biosafety vědy podporuje standardy screeningu, aby firmy a regulátoři posuzovali genetické objednávky podle podobných kritérií.
Globální snahy o bezpečnostní standardy
Federální rámec spojuje financování výzkumu se screeningem nukleových kyselin a podporuje agentury, aby upřednostňovaly laboratoře, které nakupují DNA od ověřených dodavatelů. Podle této politiky se očekává, že dodavatelé budou kontrolovat každou objednávku, posuzovat zákazníky, hlásit podezřelé požadavky a uchovávat záznamy po léta. Budoucí administrativy by mohly tyto očekávání upravit nebo nahradit, ale demonstrují, jak mohou vlády proměnit bezpečnostní pokyny v konkrétní podmínky nákupu. Podobné požadavky by se nakonec mohly vztahovat na vývojáře vysoce schopné umělé inteligence, spojující přístup k veřejným kontraktům s dokumentovaným testováním a jasnými interními ochranami.
Mezinárodní iniciativa pro biosecurity a biosafety vědy spojuje firmy a regulátory, aby aktualizovali normy screeningu podle změn v umělé inteligenci a syntetických technologiích. Důležitým partnerem je Mezinárodní konsorcium pro syntézu genů, jehož členové se zavazují ke screeningu sekvencí a identit zákazníků pomocí harmonizovaného protokolu. Spojené království vytvořilo institut pro bezpečnost umělé inteligence, který testuje modely, hodnotí rizika a sdílí metody na snižování zneužití. Tessa Alexanian, vědkyně zapojená do studie, popsala přístup jako záměrně flexibilní. Řekla: „Tento program řízeného přístupu je experiment a jsme velmi dychtiví vyvíjet náš přístup.“
Praktická omezení biologických zbraní
Přes všechny obavy zůstává velká mezera mezi digitálním designem genomu a spolehlivým inženýrstvím nakažlivých virů, které se šíří mezi lidmi. Nedávná práce s fágů se zaměřila na malé bakteriální viry, které jsou mnohem jednodušší než složité patogeny zodpovědné za nemoci jako chřipka nebo COVID-19. I s dobrými návrhy vědci stále potřebují vysoce zabezpečené zařízení, pečlivý dohled a měsíce nebo roky experimentů, aby vyrobili stabilní a předvídatelné organismy. Odborníci se obávají, protože pokroky v automatizaci, syntéze DNA a modelování tyto překážky zmenšují a snižují úsilí potřebné k pokusům o nebezpečné projekty.
Viry z AI a budoucnost
Více vědců teď prosazuje biosecurity, což jsou politiky bránící zneužití biologických nástrojů, kombinující lepší volby tréninkových dat s jednoduchým screeningem výstupů. Některé návrhy se dívají dál, navrhují monitorování prostředí, které sleduje odpadní vody, vzduchové filtry nebo vzorky z nemocnic na genetické stopy neautorizované výroby. Zároveň tyto nástroje umělé inteligence by mohly urychlit objev antibiotik, vakcín a přizpůsobených terapií fágů, které zachraňují pacienty, když léky selžou. Mnoho odborníků vidí sdílenou odpovědnost pro financující, časopisy, firmy a univerzity, aby vyžadovaly bezpečnostní hodnocení vždy, když mocné nástroje umělé inteligence zasahují do biologické práce. Studie vyšla v časopise Science.
