Bridget McCormack ví, co znamená řídit justice. Tři roky vedla celý soudní systém v Michiganu jako předsedkyně Nejvyššího soudu. Viděla tisíce soudců, tisíce chyb a miliony lidí, kteří si spravedlnost nemohli dovolit. Teď stojí v čele něčeho, co zní jako sci-fi: AI systému, který rozhoduje právní spory místo lidí.
Americká arbitrážní asociace (AAA) slaví sto let existence. McCormack ji vede jako prezidentka a CEO. A právě pod jejím vedením vznikl AI Arbitrator – umělá inteligence, která má nahradit lidské rozhodčí v určitých typech sporů. První případ už má na stole. Zní to šíleně? McCormack tvrdí, že šílené je spíš to, co děláme doteď.
Když soudce splete jména
"Potkali jste lidi, že? Jsou chybní," říká McCormack s úsměvem, který naznačuje, že má na mysli konkrétní příběhy. A pak jeden vypráví. Jako předsedkyně soudu v Michiganu prosazovala reformy. Jeden soudce z nedalekého okresu ji za to kritizoval na veřejném fóru – tvrdil, že řekla věci, které byly prý skandální. Problém? McCormack na tom fóru vůbec nebyla. Byla tam její kolegyně Megan Kavanagh. Obě jsou bílé ženy s irskými příjmeními.
Když McCormack soudci zavolala a řekla mu, že má alibi, odpověděl: "Ne, byla jste tam." A tím to skončilo. Co s tím můžete dělat? Lidští soudci se unaví, mají hlad, dělají chyby. Studie o nesprávných odsouzeních ukazují, že v 3 až 5 procentech případů došlo k chybě. "Pokud házíte trestné hody, je to nízké číslo," vysvětluje McCormack. "Ale pokud přistáváte s letadly? To už není dobré číslo. A trestní justice by měla být víc jako přistávání letadel."
Arbitráž není jen pro bohaté
Většina z nás podepsala arbitrážní doložku, aniž bychom o tom věděli. Je v podmínkách pro mobilní tarif, chytrou pračku, pracovní smlouvu. Arbitráž je soukromý systém řešení sporů – místo soudu jdete k neutrální třetí straně, rozhodčí, který spor vyřeší rychleji a levněji. AAA je největší nezisková organizace v této oblasti. Ročně spravuje přes půl milionu případů. Většinou jde o spory mezi firmami, ale stále častěji přicházejí i malé podniky a jednotlivci bez právníků.
McCormack zdůrazňuje jeden překvapivý fakt: v arbitráži máte větší šanci, že vás někdo vyslechne, než v běžném soudu. Proč? Protože soudní systém je přetížený, pravidla jsou složitá a 92 procent Američanů si nemůže dovolit právníka. Většina případů končí zamítnutím kvůli formálním chybám – třeba jste nezaslali dokumenty ve třech kopiích podle pravidla 26.4A.
"Podívejte se na spotřebitelské dluhy," říká McCormack. "To je nejčastější typ případu u státních soudů. A kolik z nich je zamítnuto, protože spotřebitel nesplnil nějaké pravidlo napsané latinsky? Nemůžete se vrátit k prodejci ledničky a říct: 'Ten soudní proces nebyl fér, protože jsem nemohl přečíst latinu.'"
Jak funguje AI rozhodce
AI Arbitrator zatím rozhoduje jen stavební spory založené výhradně na dokumentech. Žádní svědci, žádné výslechy. Jen smlouvy, faktury, dodací listy a e-maily. Proč zrovna stavebnictví? McCormack vysvětluje: "Máme dlouhou historii se stavebním průmyslem. Potřebují rychlost – když máte spor během velkého projektu, nechcete, aby se všechno zastavilo. A AI už ovlivňuje jejich byznys, takže jsou otevření novinkám."
Systém funguje jako série AI agentů – asi 20 různých programů, které spolupracují. Nejdřív analyzují stížnosti obou stran, důkazy, právní rámec. Pak se vrátí ke stranám a řeknou: "Takhle jsme to pochopili. Je to správně?" Strany můžou opravit, co je špatně. Proces se opakuje, dokud obě strany neřeknou: "Ano, přesně tak to je."
Teprve pak začnou rozhodovací agenti analyzovat spor a připravovat rozhodnutí. A tady přichází klíčový moment: lidský rozhodce má poslední slovo. Zkontroluje práci AI a teprve pak vydá konečné rozhodnutí. "Nechceme, aby agenti hodnotili svědecké výpovědi," přiznává McCormack. "To možná přijde jednou, ale dnes na to nejsme připraveni."
Halucinace a důvěra
Největší obava? AI systémy halucinují. Vymýšlejí si fakta, data, celé příběhy. Jak tomu zabránit v systému, který má rozhodovat o penězích a právech lidí? "Kdybyste vzali svůj spor a všechny dokumenty a hodili je do ChatGPT, dostali byste výsledek hned teď," říká McCormack. "Možná by byl v pořádku. Možná ne. Ale to není to, co jsme postavili. Proto postupujeme tak úzce a pomalu."
Systém je trénovaný na historických případech AAA, má přísná pravidla a lidský dohled. Každé rozhodnutí prochází auditem. "Musíte mít řízený, transparentní a auditovaný systém, aby lidé mohli budovat důvěru," vysvětluje. A pak přidává provokativní otázku: "Oproti čemu to srovnáváme? Pokud si myslíte, že současný lidský, přetížený systém justice je ten, ve který mají lidé velkou důvěru, ráda vám představím pár lidí, kteří by nesouhlasili." Odvolací soudy ruší rozhodnutí nižších soudů v překvapivě vysokém počtu případů. Lidé dělají chyby. Možná víc, než si myslíme.
Budoucnost, která vyvolává otázky
McCormack má jasnou vizi: "Za nějaký počet let si budeme myslet, že bylo šílené nechat lidi řídit auta. A taky si budeme myslet, že bylo šílené nechat člověka s jeho chybami a předsudky rozhodovat soukromé spory." Ne všechny případy by měly jít k AI. Trestní případy a spory proti vládě musí zůstat u veřejných soudů, říká jednoznačně. Tam je potřeba transparentnost a veřejná kontrola.
Ale co spory mezi pojišťovnou a nemocnicí o úhradu léčby? Co drobné stavební spory? Co tisíce případů, které dnes nikdo neřeší, protože je to moc drahé a složité? "Představte si, že by se tyto spory daly vyřešit hned, místo aby trvaly dva roky," říká McCormack. "Někdo čeká, až pojišťovna řekne nemocnici, že zaplatí léčbu. A zemře dřív, než dostane odpověď. Kdybyste mohli ten spor vyřešit okamžitě, v systému, který transparentně ukazuje svou práci... Myslím, že někteří lidé by řekli: 'Ano, prosím. Zítra.'"
První případ v systému už běží. McCormack odhaduje, že za dva roky budou mít desítky typů sporů, které AI dokáže vyřešit. Za pět až deset let? Možná se změní celý právní svět.
Důvěřujeme AI víc než lidem? To je otázka, kterou si musíme položit. Protože odpověď už není teoretická – AI soudce tu je. A čeká na další případ.
Zdroj: theverge.com
