AI jako běžná technologie: Proč bychom měli přestat myslet na umělou inteligenci jako na magii
Diskuse o umělé inteligenci (AI) často oscilují mezi utopickými vizemi vševědoucích pomocníků a dystopickými scénáři zkázy lidstva, přichází dvojice výzkumníků s osvěžujícím pohledem. Arvind Narayanan a Sayash Kapoor z Princetonské univerzity ve své studii pro Knight First Amendment Institute navrhují, abychom začali uvažovat o AI jako o "běžné technologii" - nikoliv jako o něčem, co je fundamentálně odlišné od všeho, co lidstvo dosud vytvořilo.
Co znamená "AI jako běžná technologie"?
Tvrzení, že "AI je běžná technologie", působí na první pohled možná provokativně. V době, kdy generativní modely jako ChatGPT nebo DALL-E vyvolávají údiv veřejnosti a kdy se nám zdá, že stroje začínají myslet podobně jako lidé, může znít takové prohlášení jako podceňování revolučního potenciálu umělé inteligence. Autoři studie však vysvětlují, že jejich rámec má trojí význam: "Za prvé, jde o popis současného stavu – dnešní AI systémy jsou sofistikované nástroje, nikoliv samostatní agenti s vlastními záměry," píší výzkumníci. "Za druhé, jde o předpověď budoucího vývoje – ani v dohledné době neočekáváme, že by se AI systémy staly něčím fundamentálně odlišným od běžných technologií. A za třetí, jde o doporučení – společnost by měla přistupovat k regulaci AI stejným způsobem jako k jiným významným technologiím, prostřednictvím ověřených institucionálních postupů a politik."
Poučení z historie technologií
Jedním z klíčových argumentů studie je, že bychom se měli poučit z historie zavádění jiných převratných technologií. Elektřina, automobily, internet – všechny tyto vynálezy dramaticky změnily společnost, ale žádný z nich nevedl k okamžité transformaci všech aspektů lidského života. "Technologické revoluce se typicky odehrávají během mnoha desetiletí, nikoliv během několika let," upozorňují autoři. "Existuje zásadní rozdíl mezi rychlostí, s jakou se vyvíjejí nové metody, a rychlostí, s jakou společnost přijímá a adaptuje nové aplikace." Narayanan a Kapoor poukazují na to, že zatímco pokrok v základních modelech AI může být rychlý, jejich skutečné dopady na společnost budou postupné a budou záviset na mnoha faktorech, včetně ekonomických podmínek, regulačního prostředí a společenské akceptace.
Lidé zůstávají ve středu dění
Další důležitý aspekt tohoto rámce spočívá v tom, že lidé – a lidské organizace – si zachovávají primární kontrolu nad tím, jak je AI využívána. I ty nejpokročilejší současné AI systémy jsou v konečném důsledku nástroji, které nemohou fungovat bez lidského řízení, údržby a dohlížení. "Role lidí se bude měnit a přesouvat směrem k řízení a správě těchto nástrojů, ale lidé nebudou nahrazeni," argumentují výzkumníci. "Dokonce i v případě vysoce autonomních systémů budou lidé a organizace stále rozhodovat o tom, kdy, kde a jak budou tyto systémy nasazeny." Tento pohled kontrastuje s představou, že AI systémy se stanou nezávislými agenty s vlastními cíli, které by mohly být v rozporu s lidskými zájmy – scénář, který někteří experti na existenční rizika AI považují za reálnou hrozbu.
Odmítnutí technologického determinismu
Koncept "AI jako běžné technologie" také výslovně odmítá technologický determinismus – myšlenku, že technologie sama určuje své společenské dopady. Místo toho zdůrazňuje roli institucí v utváření rizik a přínosů spojených s novými technologiemi. "Technologie sama o sobě neurčuje společenské výsledky," vysvětlují autoři. "Instituce a politická rozhodnutí zásadním způsobem utvářejí, jakým způsobem technologie ovlivňuje společnost." Například u internetu jsme viděli, jak různé přístupy ke správě této technologie vedly k odlišným výsledkům v různých zemích – od otevřeného a svobodného internetu v některých demokratických zemích až po cenzurovaný a kontrolovaný internet v autoritářských režimech. Podobně i dopady AI budou do značné míry určeny tím, jak společnost přistoupí k její regulaci a správě.
Implikace pro hodnocení rizik
Tento rámec vede k odlišnému pohledu na rizika spojená s AI. Namísto obav z nekontrolovatelné superinteligence, která by mohla představovat existenční hrozbu pro lidstvo, se zaměřuje na řízení rizik podobných těm, která známe z jiných mocných technologií – nehody, zneužití, závody ve zbrojení nebo nesoulad v nasazení AI systémů. "Rizika spojená s nehodami nebo zneužitím AI by měla být řízena podobně jako u jiných vyspělých technologií – prostřednictvím robustních institucí zaměřených na odolnost," navrhují výzkumníci. "Drastická politická opatření založená na obavách z nekontrolovatelné superinteligence mohou být kontraproduktivní, pokud se současné trendy nezmění." Autoři varují, že taková drastická opatření by mohla neúmyslně posílit problémy, které jsou typické pro zavádění technologií v kapitalistických společnostech, jako je nerovnost.
Doporučení pro politiku a regulaci
Co tedy tento rámec konkrétně doporučuje pro tvůrce politik? Narayanan a Kapoor navrhují tři hlavní směry:
- Snižování nejistoty ohledně společenských dopadů prostřednictvím výzkumu a transparentnosti.
- Budování odolnosti sociálních systémů vůči katastrofickým rizikům bez uchylování se k extrémním regulačním opatřením, pokud nejsou opodstatněna jasnými důkazy o bezprecedentních nebezpečích.
- Uznání kontinuity s minulostí – většina škod i přínosů z širokého nasazení AI bude odrážet ty, které jsme viděli u předchozích obecně využitelných technologií: ekonomické změny (včetně nerovnosti), proměny pracovních trhů, ale nikoliv nutně existenční hrozby jedinečné pro lidskou inteligenci strojů.
Autoři také zdůrazňují klíčovou roli institucionálních mechanismů, které se v minulosti osvědčily při řízení technologického pokroku – od transparentního výzkumu rizik až po mezinárodní spolupráci v oblasti regulace.
Přehodnocení současného diskurzu o AI
Jedním z důsledků přijetí rámce "AI jako běžné technologie" je potřeba přehodnotit současný diskurz o umělé inteligenci, který je často plný přehnaných očekávání nebo katastrofických předpovědí. "Přehnaná očekávání ohledně AI mohou vést k chybným investičním rozhodnutím, zklamání a v konečném důsledku k dalšímu 'AI boomu a pádu'," varují autoři. "Podobně mohou přehnané obavy vést k paralýze nebo k příliš drastickým regulačním zásahům, které by mohly bránit potenciálním přínosům." Místo toho navrhují vyváženější přístup, který uznává jak potenciální přínosy, tak rizika AI, ale zasazuje je do historického kontextu a zaměřuje se na pragmatická řešení založená na důkazech.
Pragmatický optimismus
Rámec "AI jako běžné technologie" nabízí osvěžující alternativu k dominantním narativům o umělé inteligenci. Není ani utopický, ani dystopický – je pragmatický. Uznává transformativní potenciál AI, ale zasazuje ho do kontextu předchozích technologických revolucí. "Naším cílem není bagatelizovat dopady umělé inteligence," uzavírají Narayanan a Kapoor. "AI skutečně představuje mocnou, všeobecně využitelnou technologii s potenciálem významně přetvořit ekonomiku a společnost. Ale to samé platilo i pro elektřinu, automobil a internet. Přístup k AI by měl být informován poučením z minulosti, nikoliv představami o bezprecedentní technologické singularitě." Tento přístup vybízí tvůrce, výzkumníky i veřejnost, aby k umělé inteligenci přistupovali pragmaticky: zaměřili se na osvědčené správní struktury a zůstali ostražití – nikoliv alarmističtí – vůči jejím jedinečným výzvám. Tím se můžeme vyhnout jak přehnanému optimismu, tak paralyzujícímu strachu, a místo toho se soustředit na to, jak AI co nejlépe využít ve prospěch společnosti.
