Lékaři varují pacienty před chatboty. Nabízejí příručku pro jejich používání

Češi čím dál častěji řeší své zdraví i s pomocí digitálních asistentů neboli chatbotů, jako je ChatGPT. Některé lékaře štve, když se o tom lidé zmíní. Jiní to berou jako realitu a počítají s tím, že umělá inteligence bude mít ve zdravotnictví stále větší vliv na odborníky i laiky. Varují ale před chybami i slepou důvěrou a pro pacienty nyní sestavili příručku, jak tyto nástroje používat bezpečně.

Někdo chce jen přeložit latinu či zkratky v lékařské zprávě. Jiní chtějí znát víc podrobností o své nemoci i léčbě, než slyšeli v ordinaci. Další si stěžují, že jejich zdravotní stav se ani po dlouhé léčbě nelepší nebo se nedaří odhalit původ potíží. Proto stále více lidí hledá rady u veřejně dostupných jazykových modelů umělé inteligence (AI), jako jsou ChatGPT, Gemini, Copilot, Grok či Claude.

Patří k nim i nemocná seniorka Jana, která marně čeká na úlevu. „Mám už deset let chronický kašel, který se zhoršuje. Denně mě ničí záchvaty, při nichž kašlu jako tuberák nebo extra silný kuřák, i když jsem nikdy nekouřila. Cizí lidé ode mě utíkají v panice, že je nakazím, někteří mě i nahlas kritizují. Vždy hlásím, že nejsem infekční. Tvrdím, že mám astma. Pravda je, že nejsem nakažlivá. Ale co mi je, nikdo neví. A dosavadní pokusy o léčbu mi nepomohly,“ říká čtyřiašedesátiletá žena.

Umělá inteligence jí dala naději

Absolvovala už řadu vyšetření dýchacího i trávicího traktu či alergologické testy, ale jasnou příčinu kašle nikdo neodhalil. Nemoc ji přitom vyčerpává a stresuje stále víc. Navštívila i psychiatra kvůli lékům na spaní. Léky jí předepsal. A když slyšel ženin kašel, tvrdil, že má určitě nemocné průdušky. Jenže to už dříve vyšetření vyloučilo.

„Zkusila jsem proto všechy své zkušenosti s nemocí zadat do ChatGPT. Podle AI bych mohla mít neurogenní typ chronického kašle způsobený přecitlivělostí a drážděním nervových zakončení v dýchacích cestách. Moje lékařka si to nemyslí. Posílá mě ještě na speciální ORL vyšetření. Ale když ani tam nic nenajdou, půjdu k neurologovi, jak radí umělá inteligence. Je to moje poslední naděje,“ líčí zoufalá Jana.

Jen platformu ChatGPT dnes celosvětově využívá k dotazům na příznaky nemoci, lékařské zprávy či výsledky laboratorních vyšetření okolo 40 milionů uživatelů denně. V součtu s dalšími platformami experti odhadují, že zdravotní problematiku takto řeší každý den až 80 milionů lidí.

Umělá inteligence zachraňuje životy. Odhalit dokáže mozkovou mrtvici i nádor

Ondřej Volný patří k lékařům, kteří prosazují širší využití umělé inteligence ve zdravotnictví. Je předsedou České společnosti pro umělou inteligenci, která je součástí České lékářské společnosti Jana Evangelisty Purkyně (ČLS JEP), vedoucím Katedry umělé inteligence, digitalizace a inovativních technologií Lékařské fakulty Ostravské univerzity i poradcem ministra zdravotnictví pro oblast AI.

Jako zástupce přednosty ostravské neurologické kliniky Volný umělou inteligenci sám úspěšně využívá při diagnostice mozkové mrtvice pacientů. Ale zdůrazňuje, že lékaři by měli pracovat jen s certifikovanými programy, přičemž i ty mají své limity. A mnohem větší rizika s sebou podle něj nese využívání ChatGPT a podobných jazykových modelů AI nepoučenými laiky.

„Lidé by jim neměli věřit bezmezně. Ačkoli velké jazykové modely umí pracovat s informacemi i obrazem, takže tam lze nahrát například výsledky vyšetření včetně snímků, které program nějak vyhodnotí, osobně bych to nedoporučoval. Z více důvodů. Nejde o certifikované zdravotnické prostředky, takže závěry nejsou spolehlivé. Navíc je tam bezpečnostní riziko úniku citlivých informací,“ vysvětluje lékař Volný.

Kladivo na lékaře

Upozorňuje také, že tyto digitální nástroje se snaží uživateli „zavděčit“ a nabídnout co nejúplnější odpověď. „Leckdy proto zmiňují i málo pravděpodobné diagnózy, což může pacienta stresovat. Zvlášť když narazí na vážnou nemoc, která ve skutečnosti s jeho případem vůbec nesouvisí. Nebo AI může naopak nemocného člověka falešně uklidnit a odradit od návštěvy lékaře ve chvíli, kdy je to nutné,“ popisuje neurolog.

Stále častěji se podle něj absurdní výplody umělé inteligence stávají i pomyslným kladivem na lékaře. „Lidé přicházejí s nesprávnými informacemi a požadavky, jak by měla vypadat diagnostika a léčba. Lékař s nimi musí vše projít a vysvětlovat, co dává smysl a co ne. Setkávám se s tím i ve své praxi. Bohužel pak taková debata často zabere mnohem více času než klasické vyšetření a rozhovor s pacientem,“ dodává Ondřej Volný.

Stejnou zkušenost potvrzuje i mladý praktický lékař Pavel Sova, který je současně expertem na využití digitálních nástrojů ve zdravotnictví a členem pracovní skupiny České lékařské komory pro digitalizaci zdravotnictví.

Dvě třetiny nemocnic využívají umělou inteligenci, Vojtěch chystá novou strategii

„Umělá inteligence je dobrý sluha při vyhledávání odborných pojmů, ale v rukou laika se snadno stává zdrojem zbytečné paniky a omylů. Mezi tím, co AI skutečně umí, a tím, co pacient očekává, zeje velká propast. Některé modely mohou podávat věrohodně znějící, ale nepravdivé či zastaralé informace. Lidé, kteří jim věří, přicházejí do ordinací stále častěji. A mnozí míní, že lékař by měl udělat vše, co AI doporučila,“ říká Sova.

Návod pro pacienty

Protože umělá inteligence je jeho koníčkem, Sovovi nevadí aktivita pacientů, spíš oceňuje jejich přístup a radí to i jiným lékařům. Když po něm pacienti žádají nesmyslná, často i náročná a zatěžující vyšetření, například počítačovou tomografii (CT), která využívá rentgenové záření, snaží se jim situaci v klidu vysvětlit.

„Nastíním, jaké jsou možnosti, jak pracovat s AI, zájemcům předám i různé odkazy, z nichž mohou čerpat. Ale ne každý lékař na to má kapacitu. Proto oceňuji, že vznikla první srozumitelná příručka pro pacienty, kterou bude moci získat každý zdarma. Pomůže oběma stranám: pacienti se dozví o základech i limitech fungování chatbotů a lékaři nebudou muset opakovat stále totéž,“ věří Pavel Sova.

Příručku nazvanou AI ve zdravotnictví pro pacienta připravili odborníci z České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně ČLS JEP a z České asociace umělé inteligence (ČAUI) ve spolupráci s ministerstvem zdravotnictví. Představili ji na úterní tiskové konferenci. Zájemci ji už nyní najdou v elektronické formě například na webových stránkách těchto společností a brzy také v tištěné podobě v ordinacích praktických lékařů.

Podle ministra zdravotnictví Adama Vojtěcha (za ANO) dnes umělou inteligenci stále častěji využívají nejen zdravotníci, ale i samotní pacienti. „Proto chceme nastavit jasná pravidla pro její bezpečné a smysluplné využití a zároveň se víc zaměřit na vzdělávání veřejnosti,“ říká ministr.

Umělou inteligenci vnímá jako příležitost ke zefektivnění péče. „Je důležité, aby nové nástroje lékařům usnadňovaly práci a šetřily čas, ale nemají je nahrazovat. Vznikající příručka je praktickým průvodcem, který pomůže se v těchto technologiích lépe zorientovat a bezpečně je využívat,“ podotýká Adam Vojtěch.