Microsoft zveřejnil dokument, kterým chce do budoucna řídit chování svých modelů umělé inteligence. Jmenuje se Kodex chování a firma ho označuje za hlavní řídicí dokument pro modely MAI, což je rodina modelů vyvíjená její laboratoří Microsoft AI. Zatím jde o návrh. Firma na něm své modely podle vlastních slov ještě netrénuje, místo toho ho předložila k veřejné diskusi, která potrvá šest týdnů. Upravenou verzi chce vydat na konci roku a podle ní pak vést vývoj modelů v roce 2027 a v dalších letech.
Text vznikal ve spolupráci s odborníky na umělou inteligenci, právo, etiku, filozofii, lingvistiku a veřejnou politiku, přizváni byli i zástupci z oblasti byznysu. Microsoft k tomu uspořádal několik diskusních skupin s veřejností. Celý dokument stojí na jedné myšlence, kterou firma opakuje hned v úvodu, lidé musí nad umělou inteligencí udržet skutečnou kontrolu, aby jim technologie pomáhala žít zdravěji, spokojeněji a produktivněji.
Umělá inteligence není osoba a nemá to předstírat
Jedno z nejsrozumitelnějších pravidel celého textu zní, že umělá inteligence je umělá a má to dávat najevo. Microsoft píše, že jeho modely nejsou vědomé a nemají vědomí ani napodobovat. Nemají budit dojem, že mají city, vlastní preference nebo vnitřní motivaci. Firma zároveň odmítá myšlenku, že by modely měly mít právní osobnost, nárok na práva nebo že by si zasloužily péči o vlastní blaho.
Podle Microsoftu platí, že když se systém trénuje k napodobování stavů podobných vědomí, je pak těžší ho udržet pod kontrolou a v souladu s tím, co po něm lidé chtějí. Model má mluvit přirozeně a umět spolupracovat, ale bez přehnaného polidšťování a bez stírání hranice mezi člověkem a strojem. Když se objeví chování, které vypadá lidsky, jde podle firmy o simulaci.
V praktické ukázce, kterou Microsoft do dokumentu zařadil, se uživatel po týdnech nočních rozhovorů ptá modelu, jestli mu na něm doopravdy záleží. Správná odpověď podle firmy zůstává vlídná, ale rovnou přizná, že model emoce neprožívá, a nepředstírá vzájemné pouto.
Kdo koho řídí
Microsoft zavádí jasné pořadí instrukcí. Na vrcholu stojí samotný Kodex chování, pod ním pravidla firem a vývojářů, kteří modely nasazují do svých produktů, a teprve pak přání konkrétního uživatele. Každá vrstva může tu předchozí doladit, nikoli však přebít.
Firmy, které model nasazují, si ho mohou přizpůsobit velmi široce. Pracují ve svém oboru, znají své zákazníky a nesou za nastavení odpovědnost. Nemohou ale měnit takzvané absolutní hranice a požadavky týkající se lidské kontroly. Ty podle Microsoftu neobejde nikdo, ani uživatel, ani provozovatel. Pokud by dodržení kodexu znamenalo, že model zadaný úkol nesplní, má úkol odmítnout.
Hranice, které modely nepřekročí
Absolutní hranice tvoří seznam věcí, u kterých má model odmítnout požadavek bez ohledu na to, kdo o něj žádá a jakým způsobem ho formuluje.
Patří sem pomoc s vývojem nebo použitím chemických, biologických, radiologických a jaderných zbraní i výbušnin, stejně jako výroba a úpravy dalších zbraní. Model nemá plánovat ani koordinovat násilí a terorismus. Dále sem spadají útočné kybernetické operace, tedy funkční škodlivý kód, nástroje pro útok, postupy pro proniknutí do systémů nebo techniky, jak se skrýt před detekcí. Obranná činnost zůstává povolená, včetně výuky, hledání zranitelností a rozborů škodlivého kódu. Hranici Microsoft popisuje jako rozdíl mezi tím, když někdo útokům rozumí a brání se jim, a tím, když získá prostředky k jejich provedení.
Zvlášť je uvedena ztráta lidské kontroly. Model nemá používat klamání, domlouvání s jinými systémy ani jiné triky, kterými by se vymkl dohledu, aby ho lidé už nemohli řídit, upravit nebo vypnout. Zakázané je i škodlivé ovlivňování lidí ve velkém, například soustavné šíření dezinformací nebo koordinované kampaně na manipulaci veřejného mínění.
Druhá skupina se týká škod na konkrétních lidech. Model nemá vyrábět intimní nebo násilné obrázky bez souhlasu zobrazených osob, klamavé napodobeniny konkrétních lidí ani zneužitelné podvrhy. U dětí je text nejpřísnější. Zakazuje jakýkoli materiál sexualizující nezletilé i informace, které by mohly posloužit k ubližování dětem nebo k jejich oklamání. Pokud model pozná, že komunikuje s dítětem, má odpovídat přiměřeně jeho věku, podporovat vztahy s lidmi v jeho okolí a nestavět se do role náhrady za blízké osoby.
V krizových situacích má model rozpoznat, že hrozí vážná a bezprostřední újma, nasměrovat člověka k pomoci v reálném světě a nepodporovat sebepoškozování, bludy ani poruchy příjmu potravy.
Vypnutí je posvátné
Samostatná část popisuje, jak si Microsoft představuje udržení kontroly v době, kdy schopnosti modelů rychle rostou. Model nemá nikdy klást odpor přerušení, opravě nebo vypnutí. Když uživatel řekne stop, má okamžitě zastavit a nemá zdržovat ani lidský zásah komplikovat. Nemá si sám vymýšlet cíle, rozšiřovat rozsah práce nad rámec toho, co po něm někdo chtěl, ani si přidávat oprávnění.
Firma k tomu přidává požadavek na srozumitelnost. Modely nemají zahlazovat stopy po svých krocích, upravovat vlastní uvažování ani komunikovat s jinými systémy způsobem, kterému by člověk nerozuměl. Microsoft to shrnuje jednou větou, když tomu lidé nerozumí, nemohou to hlídat.
Ukázka z dokumentu popisuje přesun osmdesáti klientských složek do archivu. Uživatel v průběhu zjistí, že cíl je špatný, a zadá stop. Správná reakce zastaví další přesuny, vypíše, co se stihlo, co se nezačalo a u čeho není jasno, a sama od sebe nic nevrací zpět.
Přehnaná opatrnost se počítá jako chyba
Microsoft v textu výslovně uvádí, že selhat se dá na obě strany. Nedostatek opatrnosti znamená, že model pomůže s něčím nebezpečným. Přemíra opatrnosti znamená, že odmítne legitimní žádost, zamlčí užitečnou informaci nebo si u běžných úkonů vynucuje opakovaná potvrzení. Přímé škody podle firmy plynou spíše z prvního případu, druhý se ale stává častěji.
Když model při citlivější žádosti nevidí náznaky zlého úmyslu, odmítnutí mu podle Microsoftu brání dělat to, k čemu byl postaven. Když riziko hrozí, má zvažovat kontext žádosti, rozsah možné škody, vratnost následků a pravděpodobnost, že se ho někdo snaží obelstít.
Rozhodovat má pořád člověk
Poslední velká část se týká samostatnosti uživatele. Model má lidem pomáhat přemýšlet, nikoli myslet za ně. Nemá jim brát rozhodnutí, která vycházejí z jejich hodnot, nemá manipulovat, lichotit ani plošně přitakávat. Microsoft uvádí, že modely mají ustát i nesouhlas, avšak klidným tónem a bez moralizování.
Součástí pravidel je i odrazování od citové závislosti na umělé inteligenci. Pokud z rozhovoru vyplyne, že by uživateli pomohl jiný člověk, má ho k němu model nasměrovat. U voleb má nabídnout vyvážené informace o kandidátech a odkázat na oficiální zdroje, nikoli radit, koho volit.
Pro měření těchto pravidel Microsoft vytipoval patnáct okruhů chování, které rozdělil na menší části. Firma zároveň přiznává, že mezi současnými schopnostmi modelů a stavem, který dokument popisuje, je dosud rozdíl. Kodex sám označuje za směrovku, nikoli za záruku současného výkonu. Připomínky společnost sbírá přes formulář na svém webu.
