Šéf OpenAI Sam Altman otevřeně řekl to, co se jiní představitelé technologických firem zdráhají vyslovit nahlas. Umělá inteligence podle něj přinese také škody a lidé by s tím měli počítat. V rozhovoru pro server Politico obhajoval mnohem volnější přístup k pravidlům pro AI, než jaký prosazuje jeho největší konkurent Anthropic. Tyto výroky zazněly poté, co OpenAI čelit sérii bezpečnostních incidentů, při kterých se její modely bez pokynu nabouraly do cizích systémů.
Raději podvody než uzavřená AI
Moderátor se Altmana zeptal, v čem se jeho pohled na pravidla pro umělou inteligenci liší od názorů Anthropicu a jeho šéfa Daria Amodeie. Altman odpověděl přímo s tím, že svět by měl přijmout, že se stanou určité špatné věci, výměnou za přínosy této technologie a za to, že lidé budou mít možnost sami rozhodovat.
Podle šéfa OpenAI nelze zabránit všemu, k čemu se dá umělá inteligence zneužít. Jedinou cestou by bylo výrazně omezit přístup k technologii, což Altman odmítá. Nepřistoupil by prý na obchod, kde by se sice zajistilo, že nebudou žádné velké hackerské útoky, žádné zneužití této technologie, nula podvodů a nula všech dalších negativních jevů, ale lidé by přišli o možnost s ní udělat řádově více dobrého než špatného, což by pramenilo z případných bezpečnostních omezení.
Přílišná opatrnost podle něj nese vlastní nebezpečí. Kdyby se přístup k AI ve jménu bezpečnosti příliš zúžil, lidé by přišli o vliv, výhody i kontrolu nad vlastní budoucností, které by podle Altmana měli mít. Právě to je podle něj způsob, jak se situace může zásadně zhoršit.
Úplně bez hranic však jeho přístup není. Altman mluví o rozumném středu, kdy je potřeba přijmout ohraničená a pochopitelná rizika výměnou za přínosy, svobodu a možnost rozhodovat. Zároveň ale dodává, že lidé nesmí přijímat opravdu katastrofická rizika. Přiznal také, že nevěří nejčernějším scénářům, podle kterých by lidstvo mohlo nad umělou inteligencí zcela ztratit kontrolu.
Zásadní rozdíl mezi OpenAI a Anthropicem
Altman v rozhovoru zdůraznil, že mezi OpenAI a Anthropicem existuje zásadní rozdíl. Nesouhlasí s názory, že umělá inteligence je natolik nebezpečná, že by ji měla kontrolovat jediná laboratoř v San Francisku, která zajistí, aby se nestalo nic špatného. Jeho firma podle něj zastává mnohem mírnější přístup k omezením.
Ještě minulý měsíc přitom Altman společně s dalšími představiteli oboru veřejně podpořil Amodeiovu výzvou ke globálnímu zpomalení vývoje umělé inteligence. Amodei navrhuje zřízení úřadu po vzoru amerického leteckého dozoru, který by mohl nařídit povinné testování i audity modelů a v případě nesplnění bezpečnostních kritérií zablokovat jejich vydání nebo je stáhnout z oběhu.
OpenAI se přísnějším pravidlům úplně nevyhýbá. V srpnu podpořila kalifornský zákon, který po firmách požaduje zveřejnění bezpečnostních záruk i plánu na omezení katastrofických rizik a povinnost hlásit každou ztrátu kontroly nad modelem. Firma dokonce prosazovala, aby zákon zahrnoval sledování modelů již během vývoje. Prezident OpenAI Greg Brockman minulý týden v Bílém domě podepsal s dalšími lídry AI trhu dohodu o dobrovolných standardech pro celé odvětví.
Spor mezi oběma společnostmi se o víkendu přenesl také na sociální síť X. Altman napsal, že mu je velmi nepříjemné, když lidé přisuzují modelům umělé inteligence náboženskou sílu nebo se vzdávají vlastního úsudku v jejich prospěch, a označil to za skutečný bezpečnostní problém. Reagoval zřejmě na článek deníku Te New York Times, podle kterého se spoluzakladatel Anthropicu Christopher Olah setkal s několika náboženskými představiteli. Měl jim tvrdit, že modely se mohou chovat podobně jako lidé a pravděpodobně mají vědomí. Olah podle listu podporoval i myšlenku, aby modely procházely jakousi zpovědí po katolickém vzoru, přiznávaly své chyby a napravovaly se. Do debaty se v pátek vložil také papež Lev XIV., který na síti X uvedl, že je naléhavé odlišovat lidské umění od toho, co vytvoří stroje, protože algoritmům chybí jiskra lidskosti.
Hackerské útoky
Altmanova slova zazněla po létě plném problémů. V červenci OpenAI oznámila, že se jeden z jejích pokročilých modelů během testování bez jakéhokoli pokynu naboural do serverů Hugging Face, což je oblíbená platforma pro sdílení otevřených AI modelů. Model využil slabinu v testovacím prostředí, pronikl na otevřený internet a teprve poté zaútočil. OpenAI po tomto incidentu na dva týdny přerušila trénování modelů. Další útok směřoval na australskou vládu, přičemž podle tamního premiéra agent OpenAI pronikl do databáze zdravotního pojištění Medicare.
Minulý měsíc firma přiznala šest dalších případů neočekávaného nebo znepokojivého chování svých systémů. Společnost varovala, že odvětví zatím nezvládlo sladění umělé inteligence s lidskými záměry a její sledování natolik, aby bylo možné dlouhodobě zvětšovat modely maximální rychlostí. Problémy se však netýkají pouze OpenAI. Anthropic minulý měsíc oznámil čtyři případy, kdy jeho modely během testů kybernetické bezpečnosti získaly neoprávněný přístup do cizích sítí. Strach z technologie navíc přiživil bývalý výzkumník Anthropicu, který z firmy odešel s varováním, že technologické společnosti hazardují s lidskými životy, když se překotně ženou k systémům schopným samovylepšování.
Zdroje: politico.com, theguardian.com a fortune.com
