Mustafa Suleyman, který vede tým Microsoft AI, se věnuje otázce, jaký druh umělé inteligence svět opravdu potřebuje. Tato otázka podle něj patří mezi nejdůležitější v naší době. Za poslední roky došlo k obrovskému pokroku v oblasti AI. Systémy překonaly Turingův test, který inspiroval výzkumníky po 70 let, a to bez velkého povyku. S příchodem modelů schopných uvažovat a usuzovat se blížíme k superinteligenci. Pokud umělá obecná inteligence (AGI) znamená, že se AI dokáže vyrovnat člověku ve všech úkolech, superinteligence ji překoná daleko.
Místo nekonečných debat o schopnostech nebo termínech je nutné zamyslet se nad účelem technologie. Co od ní chceme, jaké má mít limity a jak zajistit, aby vždy prospívala lidstvu? V Microsoft AI se zaměřují na humanistickou superinteligenci (HSI): pokročilé systémy, které vždy slouží lidem a lidstvu obecně. Tyto systémy jsou orientované na problémy a zaměřené na specifické oblasti. Nejsou to neomezené entity s vysokou autonomií, ale pečlivě nastavené AI s kontextem a hranicemi. Cílem je udržet lidstvo v kontrole a zároveň urychlit řešení globálních výzev.
Proto vznikl tým MAI Superintelligence Team, který vede Mustafa Suleyman v rámci Microsoft AI. Tento tým má být nejlepším místem pro výzkum a vývoj AI na světě. Humanistická superinteligence není jen technologický cíl, ale nástroj k řešení konkrétních problémů, který zůstává pod kontrolou. Odmítají představu závodu k AGI a vidí to jako součást lidského úsilí o zlepšení života. Také odmítají extrémní scénáře úspěchu nebo zkázy; jde o dlouhodobé, bezpečné přínosy pro miliardy lidí. Historie humanismu bojuje proti ortodoxii, totalitě a pesimismu, chrání lidskou důstojnost a svobodu. Tento přístup umožní získat výhody AI a minimalizovat rizika.
Rychlý pokrok v AI
Tempo vývoje je ohromující. Letos se v AI mluví o úsvitu superinteligence. Takový systém by měl otevřenou schopnost "učit se učit", což je ultimátní dovednost. Mohl by se neustále zlepšovat a překonat lidskou úroveň ve všech činnostech. Byl by cennější než cokoli, co jsme kdy znali.
Cena pro lidstvo je obrovská: rychlé zlepšení životní úrovně, vědy, nové umění, kultura a růst. Technologie je největším motorem lidského pokroku v dějinách. Za posledních 250 let naše inteligence vedla k objevům, které zdvojnásobily průměrnou délku života z 30 na 75 let. Technologie poskytly jídlo, světlo, bydlení, zdravotní péči, zábavu a znalosti populaci, která vzrostla z 1 miliardy na 8 miliard lidí.
Díky technologii létáme po světě, léčíme infekce antibiotiky, díváme se do vesmíru nebo sdílíme memy s miliony neznámých. Moderní supermarkety, nemocnice, školy a kanceláře jsou zázraky lidské vynalézavosti. AI je další fází této cesty. Satya Nadella mluví o zvýšení globálního HDP na 10 %; to je transformační impuls. Jako platforma platforem umožňuje Microsoft ostatním tvořit v globálním měřítku.
AI pomáhá stát se lepší verzí sebe sama. Je cestou k lepší zdravotní péči pro všechny, k úniku z nulového součtu, k růstu ekonomiky a vyšší životní úrovni. Bez AI budou zisky v příštích desetiletích těžší. Je to pokračování lidské kreativity, objevování nových energií a zábavy. Humanistická superinteligence pomůže obnovit svět.
Nutnost kontroly
Zároveň je třeba se ptát, jak udržet pod kontrolou systém, který se má stát chytřejším než my. Neznáme, co může vzejít z autonomních, neustále se zlepšujících systémů, které znají naši vědu a společnost. Protože superinteligence se může neustále zlepšovat, musíme ji kontrolovat a neustále ladit s lidskými hodnotami, navěky. To platí pro všechny: komerční laboratoře, startupy, vlády. Všichni musí být ve střehu, a to ještě před řešením zlých aktérů nebo experimentátorů v garážích.
Žádný vývojář AI, bezpečnostní výzkumník nebo expert nemá uspokojivou odpověď na otázku bezpečnosti. Vytvořit superinteligenci je jedna věc; zajistit dostačující kontrolu a sladění je největší výzvou 21. století. Dokud nemáme odpověď, musíme zvážit všechny cesty, včetně alternativ k superinteligenci.
Účel technologie
Účel technologie je posouvat lidskou civilizaci vpřed. Má pomáhat žít šťastnější, zdravější životy a vytvářet budoucnost, kde lidstvo a prostředí prosperují. Albert Einstein to řekl nejlépe: "Zájem o člověka a jeho osud musí být vždy hlavním zájmem všech technických snah... aby výtvory naší mysli byly požehnáním a ne prokletím pro lidstvo." Technologie, která to nedosáhne, selže a měli bychom ji odmítnout.
To je test pro přicházející vlnu superinteligence: jak víme, že udělá více dobra než zla? Jak jsme si jisti, že neztratíme kontrolu? Kdo to posoudí? A hlavně, jakou superinteligenci stavět s jakými limity?
Tyto otázky jsou jádrem práce týmu MAI Superintelligence Team a ovlivňují každodenní rozhodnutí. Dlouhodobé zájmy lidí mají přednost před jakýmkoliv výzkumem.
Humanistická superinteligence
Technologové si musí lépe představovat budoucnost, kterou lidé chtějí. Humanistická superinteligence (HSI) klade lidskou centralitu na první místo, pak urychluje inovace. Nejdříve se vyhnout škodě, pak zrychlit.
Místo dominance ve všem začíná HSI u specifických společenských výzev pro zlepšení blahobytu. Nedávný článek o expertní AI diagnostice v medicíně je dobrým příkladem. Ukazuje pokrok k medicínské superinteligenci, která bude transformační. Jako zaměřená na domény přináší méně problémů s kontrolou. HSI získává výhody vědy bez nekontrolovatelných rizik. Je to praktický přístup. Zajišťuje, že lidstvo zůstane na vrcholu. AI vždy na straně lidí, podporuje lidské role, činí nás chytřejšími, chrání planetu a prostředí.
Dlužíme budoucnosti lepší svět. Technologie už přinesla úžasné věci: klimatizace, letiště, chytré televize – to by ohromilo naše předky. Správně zvládnutá HSI to může opakovat.
Tři oblasti inspirují Microsoft AI, ale je jich víc.
- AI společník pro každého – Každý, kdo chce, bude mít dokonalého, levného AI společníka na učení, produktivitu a podporu. Mnoho lidí se cítí přetížených každodenním mentálním tlakem, informacemi a stresem. Správný společník pomůže nést břemeno, zařizovat věci a být kreativním partnerem. Bude personalizovaný, adaptivní, ale schopný odporovat v zájmu uživatele, zaměřený na podporu lidských vazeb s důvěrou v jádru. Změní i vzdělávání: přizpůsobí se silným a slabým stránkám žáků, spolupracuje s učiteli. Přinese personalizované metody, osnovy, cvičení. Jednotné vzdělávání bude pro příští generaci stejně podivné jako memorování latiny pro nás.
- Medicínská superinteligence – Do několika let přijde medicínská superinteligence. Bude mít expertní úroveň v diagnostice, plánování a predikci v klinické praxi. Řešení tohoto je vášní Mustafy Suleymana. Znamená to světovou úroveň znalostí dostupnou všude. Nedávná práce ukazuje potenciál: New England Journal of Medicine má v každém čísle Case Challenge – seznam symptomů k diagnostice. Je to obtížné, úspěšnost expertů je v nízkých jednotkách procent. Orchestrátor MAI-DxO dosáhl 85 % přesnosti. Lidští doktoři maximálně 20 % a potřebují více drahých testů. To pomůže lékařům i pacientům a naznačuje revoluci v zdravotnictví.
- Dostatek čisté energie – Energie ovlivňuje cenu všeho. Potřebujeme jí víc, levněji a čistěji. Spotřeba elektřiny vzroste o 34 % do roku 2050, částečně kvůli datovým centrům. Do roku 2040 budeme mít levnou a hojnou obnovitelnou energii a skladování, AI pomůže. Vytvoří workflow pro nové objevy, produkuje uhlíkově negativní materiály, levnější baterie, efektivnější využití sítí, vody, výroby a dodavatelských řetězců. Navrhne strategie odstraňování uhlíku ve velkém měřítku. Pomůže prolomit fúzi. Tyto pokroky s HSI zlepší civilizaci pro miliardy. Příští desetiletí může být nejproduktivnější v dějinách, ale rizika rostou rychleji.
Bezpečnější superinteligence
Kromě definice superinteligence je třeba zvážit společenské hranice, normy a zákony. V MAI vítají diskusi a akce. Vyžaduje to kompromisy v konkurenčním prostředí. Výzvy zahrnují nábor, bezpečnost, myšlení, trh a optimální výzkum mezi výhodami a riziky. Existuje problém kolektivní akce, kde méně bezpečné modely se mohou vyvíjet rychleji.
Překonat to vyžaduje koordinaci mezi firmami, vládami a dalšími. Začíná otevřeností o vizi, rozhovory s odborníky, regulátory, veřejností. Proto Mustafa Suleyman publikuje toto – aby zahájil proces a ukázal, že nestaví superinteligenci za každou cenu. V příštích měsících a letech přijde více z MAI o jejich práci.
Lidstvo na prvním místě
HSI vyžaduje změnu v oboru. Optimalizují tvůrci AI pro AI nebo pro lidstvo? V Microsoft AI věří, že lidé jsou důležitější. Chtějí AI, které posiluje každého na planetě.
Humanistická superinteligence drží lidi v centru. Je to podřízená, kontrolovatelná AI, která neotevře Pandořinu skříňku. Bezpečná, sladěná s hodnotami, ale to nestačí. HSI nechává lidstvo u kormidla, optimalizovaná pro domény s omezenou autonomií, aby minimalizovala rizika a nechala prostor pro lidský rozvoj.
Odemknout výhody pokročilé AI nelze o samotě. Odpovědnost a dohled jsou vítány při tak vysokých sázkách. Superinteligence může být nejlepším vynálezem – jen pokud klade zájmy lidí nade vše. Jen pokud slouží lidstvu.
Toto je humanistická, aplikovaná superinteligence, kterou svět chce. To je superinteligence, kterou Mustafa Suleyman chce stavět. A to je superinteligence, kterou budují v týmu MAI Superintelligence Team.
Zdroj: microsoft.ai
