Téměř stovka pacientů bostonské nemocnice Beth Israel Deaconess Medical Center si loni před návštěvou lékaře nejdřív popovídala s chatbotem, počítačovým programem, se kterým si člověk píše jako s jiným člověkem. Šlo o AMIE, pokusný systém od Googlu určený k odhalování nemocí. Výsledky nyní vyšly v časopise Lancet, jednom z nejuznávanějších lékařských periodik, kam se dostanou jen práce přísně prověřené jinými odborníky. Ani jeden z osmadevadesáti rozhovorů nemuseli lékaři přerušit kvůli bezpečnosti a chatbot v devíti případech z deseti zařadil mezi své odhady i nemoc, kterou pacient opravdu měl. Pro Google je to první článek v hlavním vydání tohoto časopisu. Autoři ale přiznávají, že spoustu věcí studie zatím neprokázala.
Rozhovor z obýváku, pak k doktorovi
Výzkumníci z Googlu a nemocnice BIDMC testovali chatbota od dubna do listopadu 2025 v ordinaci praktických lékařů. Oslovili dospělé anglicky mluvící pacienty objednané na akutní návštěvu, což je rychlý termín pro případy, kdy člověka náhle trápí jeden konkrétní problém, třeba bolest nebo horečka. S chatbotem si psali z domova, nejpozději pět dní před termínem.
AMIE, celým jménem Articulate Medical Intelligence Explorer, se ptal podobně jako lékař. Zajímalo ho, co pacienta trápí, odkdy a čím v minulosti stonal. Pak nabídl několik možných vysvětlení potíží, která mohl pacient probrat se svým lékařem, a doktorovi připravil stručné shrnutí rozhovoru. Podle internisty Adama Rodmana, lékaře pro vnitřní lékařství, který studii pomáhal vést, běží chatbot na výkonnější verzi umělé inteligence Gemini, než jakou používá vyhledávač Googlu.
Studie nezkoumala, jestli se díky chatbotu lidé rychleji uzdraví. Autoři chtěli zjistit, zda takový program vůbec dokáže bezpečně mluvit se skutečnými pacienty v běžném provozu ordinace. Rodman vysvětlil, že než se začne řešit úspora času, musí nástroje s umělou inteligencí nejdřív ukázat, že nikomu neublíží a že je lidé přijmou.
Lékaři sledovali živě každý rozhovor
Na bezpečnost dohlíželo sedm zkušených internistů. Každou konverzaci sledovali přes zabezpečené video spojení přesně ve chvíli, kdy probíhala. Pacienti je neviděli a dohled nikdy nevykonával jejich vlastní praktický lékař.
Tým si předem stanovil čtyři důvody pro předčasné ukončení rozhovoru. Patřilo mezi ně riziko, že si pacient ublíží nebo ublíží jiným, dále výrazný stres vyvolaný chatbotem, možné ohrožení zdraví zaznamenané dohlížejícím lékařem a také samotné přání pacienta skončit. Žádný rozhovor nakonec ani jednu z těchto podmínek nesplnil.
Bez chyb to ale nebylo. Po každé konverzaci dohlížející lékař vše probral a opravil případné omyly. Výzkumníci zaznamenali jednu halucinaci, což je situace, kdy si umělá inteligence něco vymyslí a podá to jako fakt. V pěti rozhovorech lékaři doplnili vysvětlení a jeden případ označili za mírně škodlivý. Chatbot v něm zmínil lymfom, což je rakovina mízních uzlin, takže se pacient mohl zbytečně vyděsit. Rodman upozorňuje, že chatbot pracuje jen s krátkým rozhovorem, nikoli s celou zdravotní kartou, a proto si vymýšlí méně často.
Odhady na úrovni lékaře
Lékař obvykle nezačíná jednou jistou diagnózou, ale sestaví si seznam nemocí, které by mohly za potížemi stát, a postupně je vylučuje. Totéž dělal systém AMIE. Výzkumníci jeho seznamy porovnali s tím, co pacientovi skutečně bylo, což lékaři určili osm týdnů po návštěvě s výsledky všech vyšetření. V devadesáti procentech případů se správná nemoc na seznamu objevila, mezi prvními třemi tipy pak ve třech případech ze čtyř.
Při takzvaném slepém hodnocení posuzovali odborníci návrhy chatbota i skutečných lékařů, aniž by věděli, kdo který napsal. Chatbot dopadl podobně jako praktičtí lékaři u odhadu nemoci i u plánu dalšího postupu. Lidé v bílém plášti ale zvítězili tam, kde šlo o praktičnost a cenu, například jaká vyšetření opravdu dávají smysl a co by zbytečně stálo peníze. Lékař Peter Brodeur z nemocnice BIDMC popsal, že ho kolegové přirovnávali k velmi šikovnému studentovi medicíny nebo začínajícímu lékaři.
Pacienti zůstali opatrní
Lékaři vyplnili dotazník u šedesáti pacientů a ve čtyřiačtyřiceti případech si předem přečetli rozhovor nebo shrnutí od chatbota. Ve třiatřiceti z nich, což je zhruba tři čtvrtiny, jim to pomohlo s přípravou. Ve více než polovině případů uvedli, že podklady mohly ovlivnit způsob léčby pacienta.
Pacienti byli rozpolcenější. Jejich názor na umělou inteligenci se po rozhovoru zlepšil a tento dojem vydržel i po návštěvě lékaře, většina by systém AMIE použila znovu. Méně než polovina ale věřila, že chatbot udrží jejich údaje v tajnosti nebo s nimi jedná upřímně. Rodman poznamenal, že žádný pacient chatbotu nevěřil, dokud nepochopil, že informace předává jeho lékaři. Marc Cohen, který v nemocnici BIDMC vede péči praktických lékařů a patří mezi hlavní autory, mluví o budoucnosti, kdy budou pacient, lékař a umělá inteligence pracovat společně.
Co studie neprokázala
Šlo o takzvanou studii proveditelnosti, která má ukázat, zda se něco dá vůbec bezpečně vyzkoušet, nikoli zda to funguje lépe než dosavadní postup. Chyběla jí kontrolní skupina složená z pacientů bez chatbota, se kterými by se ostatní dali porovnat. Bez ní nelze říct, jestli AMIE péči skutečně zlepšil. Výzkum navíc probíhal v jediné ordinaci a zapojili se jen dobrovolníci. Z více než čtrnácti set akutních návštěv se přihlásilo jen něco přes sto lidí a obě části dokončilo osmadevadesát z nich.
Účastníci také nebyli typickými pacienty ordinace. Byli mladší a technologiím rozuměli, přitom více než polovina všech akutních pacientů byla starší šedesáti let. Ze studie vypadly těhotné ženy, lidé s psychickými potížemi a kdokoli, kdo potřeboval pohotovost, takže nevíme, jak by si chatbot poradil s ohrožením života. AMIE navíc neviděl zdravotní kartu a nemohl pacienta prohlédnout ani mu změřit tlak. Lidé, kteří vědí, že je někdo sleduje, se také mohou chovat jinak než obvykle.
Experti varují, že takové programy zatím nemohou nahradit lékaře. AMIE zůstává pokusným projektem, veřejnost ho používat nemůže a k nasazení v nemocnicích nemá povolení. Google sám uznává, že přínos pro pacienty musí potvrdit mnohem větší studie.
Výzkum zaplatila společnost Alphabet, pod kterou Google spadá. Adam Rodman během části studie pracoval v Googlu jako hostující výzkumník, což je odborník, který na čas přejde do jiné instituce a podílí se na jejím výzkumu.
Zdroje: nytimes.com a thelancet.com
