Muž skončil v nemocnici po radě AI: Případ otravy

Příběh začíná docela obyčejně. Šedesátiletý muž se rozhodl zlepšit své zdraví tím, že omezí příjem soli, tedy chloridu sodného. Místo aby se poradil s lékařem, obrátil se na chatbot ChatGPT od společnosti OpenAI. Ten mu navrhl bromid sodný jako náhradu. Muž si látku objednal online a začal ji zařazovat do své stravy. To všechno zní jednoduše, ale po třech měsících se situace dramaticky zhoršila.

Muž hledal způsob, jak snížit množství soli ve svém jídelníčku, a tak položil otázku umělé inteligenci. ChatGPT odpověděl, že bromid sodný by mohl fungovat jako alternativa. Tato látka se skutečně používá v průmyslu, například při čištění vířivek, ale rozhodně nepatří do jídla. Muž to nevěděl, objednal si ji a konzumoval pravidelně. Žádný kontext o rizicích chatbot nezmínil, což vedlo k vážným problémům.

Symptomy, které vedly k hospitalizaci

Po třech měsících se objevily alarmující příznaky. Muž začal trpět paranoidními bludy – byl přesvědčený, že ho soused chce otrávit. K tomu se přidaly sluchové a zrakové halucinace, nadměrná žízeň, únava, nespavost, akné na obličeji a ataxie, tedy neohrabanost v pohybech. V nemocnici se pokusil utéct, což vedlo k nucené psychiatrické hospitalizaci. Testy ukázaly hyperchloremii, tedy vysoké hladiny chloridu v krvi, a negativní anion gap, což jsou typické známky otravy bromidem. Jeho hladina bromidu v séru dosáhla 1700 mg/l, což je přes 200krát více než normální hodnota pod 10 mg/l u zdravých lidí.

Otrava bromidem, známá jako bromismus, nebyla v minulosti nic neobvyklého. Na začátku 20. století způsobovala až osm procent psychiatrických hospitalizací, protože bromidové soli byly součástí volně prodejných léků. Situace se změnila v 70. a 80. letech, kdy se tyto látky začaly vyřazovat z oběhu. Dnes je bromismus vzácný, ale tento případ ho vrátil do pozornosti. Bromidové ionty nahrazují chlorid v těle, což ovlivňuje funkci nervů a vede k různým psychiatrickým a neurologickým potížím.

Léčba a zotavení

V nemocnici muž dostal antipsychotika, která pomohla zmírnit halucinace a paranoju. Po vysvětlení svého dietního režimu umožnil lékařům správnou diagnózu. Léčba trvala tři týdny, během nichž se monitorovaly elektrolyty a poskytovala psychiatrická péče. Nakonec byl propuštěn bez vážných trvalých následků. Společnost OpenAI později zdůraznila, že jejich chatboty nejsou určené pro medicínské rady a nemohou nahradit odborníky.

Tento incident je jedním z mnoha špatných použítí umělé inteligence pro zdravotní rozhodnutí. Chatboty jako ChatGPT mohou produkovat nepřesné informace bez kritického hodnocení. Lékaři v publikované studii v časopise Annals of Internal Medicine: Clinical Cases upozorňují, že žádný expert by bromid sodný jako náhradu soli nedoporučil. Případ slouží jako připomínka, že pro zdraví je lepší se spoléhat na skutečné specialisty, ne na algoritmy.

Zdroj: sciencealert.com