„Za mě je AI budoucnost, a to nejen českého zdravotnictví,“ říká Jakub Karfilát z B.Right Advokáti
Jednou z oblastí, která je pro Českou asociaci umělé inteligence klíčová, je AI ve zdravotnictví. O to víc nás těší rozhovor s naším členem, Jakubem Karfilátem z B.Right Advokáti, se kterým jsme měli možnost podrobněji probrat situaci kolem aktuálních i budoucích výzev implementace AI do českého zdravotnictví. Podívejte se na dotazy a odpovědi plné zajímavých informací.
Jaké jsou z vašeho pohledu hlavní výzvy spojené s implementací AI ve zdravotnictví?
Výzev spojených s implementací AI ve zdravotnictví je celá řada. Patří sem určitě tradiční výzvy jako je otázka ochrany soukromí a bezpečnosti dat nebo interoperability. Jiné výzvy jsou však zcela nové, například transparentnost a vysvětlitelnost AI nebo zajištění dostatečného množství dat na vstupu a kvalitních a ověřitelných výstupů. Tyto nové výzvy často souvisí zejména se složitostí procesů, na kterých AI fungují, a schopností některých AI se tzv. samostatně učit a vyvíjet na základě získaných dat a podnětů ze svého okolí.
Pokud bych měl některé z těchto výzev vyzdvihnout, jsou to dvě. První je zajištění dostatečné bezpečnosti pacientů a lékařského personálu při využívání AI. Druhou je pak vybudování důvěry v AI, a to jak na straně zdravotnického personálu, tak na straně pacientů. Čím více budou lidé AI důvěřovat, tím více se zvětší prostor pro její implementaci. Právě důvěryhodnost AI je mezi odborníky často skloňovaným tématem. Důvodem je i to, že přirozenou tendencí lidí je posuzovat AI mnohem přísněji, než je tomu u samotných lékařů, a to hlavně kvůli její novosti a tomu, jak je AI pro mnoho lidí zatím nečitelná.
Může AI nějakým způsobem přispět v rámci České republiky k personalizované medicíně?
Určitě ano. Personalizovaná medicína znamená přizpůsobení léčby konkrétnímu pacientovi přímo na míru a je založena na optimalizaci diagnostických a léčebných postupů dle potřeb a parametrů daného pacienta.
V současnosti je typickým příkladem personalizované medicíny třeba tzv. optimalizovaná farmakologie, která se zabývá výběrem optimálního léčiva a nastavení jeho následného dávkování u konkrétního pacienta. Samotné dávkování zvoleného léčiva se pak může v čase upravovat, a to jak v závislosti na aktuálním stavu pacienta, tak v některých případech i dle přání pacienta. Uplatnění AI lze sledovat také v biomedicínském inženýrství, například v oblasti vývoje a aplikace protetik, nebo v oblasti kardiologie v rámci posuzování a prevence kardiovaskulárních onemocnění. Dalším zajímavým příkladem je možnost využití AI v rámci antidekubitních matrací, tedy matrací pracujících se vzduchovými polštáři a distribucí tlaku za účelem zabránění vzniku proleženin, zejména u dlouhodobě nehybných pacientů.
Všechny výše uvedené příklady jsou založeny na zpracování velkého množství dat, jejich vyhodnocení a případném porovnání s ještě větším množstvím jiných dat, a to mnohdy okamžitě v reálném čase, nebo ve velmi krátkém časovém úseku. A právě zde má AI zcela zásadní vliv a umožňuje posunout personalizovanou medicínu na zcela novou úroveň.
Existují aktuálně nějaké možnosti vzdělávání v oblasti AI pro zdravotnické pracovníky?
Možnosti vzdělávání v oblasti AI pro lidi pracující ve zdravotnictví již v současné době jsou. Více možností vidím spíše v technických oblastech jako je biomedicínské inženýrství nebo bioinformatika. Například Fakulta biomedicínského inženýrství na ČVUT již má mezi vyučovanými předměty zařazen předmět zabývající se výhradně Umělou inteligencí pro biomedicínské inženýrství. Stejně tak na Ústavu biomedicínského inženýrství na VUT lze již studovat předmět Umělá inteligence v medicíně.
U lékařů a dalšího zdravotnického personálu jsou již možnosti vzdělávání o něco omezenější. Dle mých informací lékařské fakulty nenabízí možnost systematického vzdělávání v oblasti zapojení umělé inteligence v rámci zdravotnictví. Určitou výjimkou může být například Centrum informačních technologií, umělé inteligence a virtuální reality v medicíně při Lékařské fakultě Ostravské univerzity. Dále v rámci jednotlivých lékařských fakult probíhá řada výzkumných projektů, které zahrnují, někdy více a někdy méně, aplikaci umělé inteligence pro konkrétní medicínská využití. Tyto výzkumné projekty často probíhají v rámci spolupráce mezi studenty lékařských fakult nebo samotnými lékaři a ostatními technicky zaměřenými fakultami či univerzitami, jako právě ČVUT nebo VUT.
Samozřejmě jsou i další možnosti vzdělávání. Konference, semináře, kulaté stoly, samostudium. Aby však byly zdravotničtí pracovníci opravdu připraveni na nástup AI, je potřeba, aby jejich vzdělávání probíhalo systematicky a systémově.
Jaké jsou nejčastější nedorozumění ohledně využití AI v zdravotnictví?
Jedním z častých nedorozumění je, že by AI mělo zcela nahradit lidi. Tento názor se vyskytuje i v oblasti zdravotnictví. Tyto obavy však zatím nejsou namístě. Pokud se bavíme o diagnostice, léčbě a dalších lékařských postupech, v těchto oblastech slouží AI zatím pouze jako podpůrný nástroj pro lékaře. Účelem AI je zrychlení a zefektivnění procesů, umožnění analýzy většího množství dat a případně poskytnutí předběžného názoru na konkrétní případ. AI sloužící přímo k diagnostice nebo léčbě pacientů však v současnosti nebývá nastavována a implementována tak, aby fungovala zcela samostatně. Konečné rozhodnutí každého případu by tedy mělo být na ošetřujícím lékaři.
Jinak tomu může být v případě AI systémů implementovaných do jiných procesů v rámci zdravotnictví, které přímo nesouvisí s léčbou pacientů. Těmito systémy myslím zejména ty, které automatizují určité administrativní procesy, například systémy rezervací pacientů nebo systémy pro archivaci dat. V těchto případech již může AI fungovat zcela samostatně, ovšem zde vidím v takového plné automatizaci spíše přínos než obavu.
I kdybychom přijali myšlenku, že v některých úkonech bude AI lepší než lékaři (což už se děje) nebo že AI lékaře v některých oblastech opravdu zcela nahradí, díval bych se na takovou skutečnost jako na příležitost, a nikoliv překážku. Taková AI by lékařům mohla naopak rozvázat ruce, aby se mohli věnovat více specializovaným úkonům nebo výzkumu a méně náročné a repetitivní úkony přenechat AI. Navíc lékařská péče bude vždy do jisté míry o osobním kontaktu s pacientem, který AI nejspíše nedokáže v dohledné době nahradit.
Existují nějaká data týkající se toho, jak AI ovlivňuje rozhodování lékařů?
Zatím jsem nenarazil na nějaká ucelená data o tom, jak AI v obecné rovině ovlivňuje rozhodování lékařů. Data lze však získat alespoň ohledně jednotlivých projektů, případně oblastí. Většinou se jedná o data, v jakém rozsahu se zlepšila, nebo zhoršila úspěšnost léčebné péče, případně přesnost určitých diagnostických procesů či zákroků před a po provedení implementace AI.
Jako příklad lze uvést oblast kardiologie, v rámci které výzkum provedený ve Velké Británii ukázal, že v rámci predikce infarktu pomocí AI bylo zachyceno o 7,6 % případů více než v rámci běžné metody dle American College of Cardiology / American Heart Association, přičemž AI zároveň zaznamenala o 1,6 % méně falešně pozitivních případů. Dalším příkladem může být oblast digitální mamografie, kdy některé studie ukázaly, že tato metoda detekce rakoviny prsu vykazuje “pouhou” 84 % úspěšnost, přičemž část ze zbývajících 16 % by mohla pomoci odhalit právě AI. Jako poslední bych uvedl příklady zavedení AI v rámci systému detekce a včasného upozornění na sepsi organizmu u hospitalizovaných pacientů. Jedná se opět o jednotlivé případy, kdy nemocnice, zejména v USA, zavedly nové softwary pro detekci a předcházení sepse založené na bázi AI, kdy tyto nové softwary vedly ve vymezených případech k poklesu úmrtnosti v důsledku sepse, a to někdy až o 18,7 %.
Na uvedených příkladech lze demonstrovat, že data ohledně toho, jak AI ovlivňuje lékaře a jejich rozhodování, lze přinejmenším v případě konkrétních projektů získat. V této souvislosti je však nutné upozornit na jednu věc. AI vykazuje v mnoha případech statisticky lepší výsledky než lékaři. To může vést k tomu, že se lékaři budou na výstupy z AI spoléhat až příliš, a to na úkor vlastního úsudku a zkušeností. Proto je nutné zdůraznit, že AI má zatím stále sloužit jen jako podpůrný nástroj lékaře, který se na výstupy AI určitě může ve značné míře spolehnout, ale vždy by měl k těmto výstupům přistupovat se zdravou kritikou.
Jaké jsou možnosti využití AI v oblasti výzkumu a vývoje léků?
V oblasti výzkumu a vývoje léku jsou možnosti využití AI též obrovské. Zejména schopnost AI analyzovat v relativně krátkém čase rozsáhlé množství dat vede k mnohem efektivnějšímu a časově a finanční méně náročnému vývoji dalších léčiv. To může mít do budoucna dopad zejména do rychlosti vývoje nových léků, což může být rozhodující třeba v případech řešení nenadálých epidemií a pandemií, jako tomu bylo v rámci pandemie COVID-19, nebo ve snížení finančního zatížení zdravotních systémů či lepší dostupnosti léčiv, a to i v méně rozvinutých zemích.
Pokud se podíváme na konkrétní příklady využití AI v rámci výzkumu a vývoje léčiv, dnes se AI již využívá v různých fázích vývoje léku. Například ve fázi vyhledávání nových léčivých látek již AI pomáhá s predikcí, jak bude nová látka působit v lidském těle. V rámci prediktivního modelování tak může AI pomoci lépe posoudit pravděpodobnost úspěchu nového léku pro konkrétní onemocnění. V rámci klinických studií pak může AI pomoci při analýze pacientských dat a předvídat možné výsledky klinických studií. Analýza pacientských dat pomocí AI pak může být využita také v rámci farmakovigilance. Kromě vývoje zcela nových léků lze AI využít také v oblasti tzv. “drug repurposingu”, tedy při analýze léčiv a jejich účinných látek a potenciálů pro léčbu jiných onemocnění, než pro které byly původně vyvinuty.
Trend stále častějšího využívání AI v oblasti farmacie pak můžeme sledovat zejména v zahraničí. Zde vznikají různé spoluprace v oblasti AI, a to i na poli velkých hráčů. Jako příklad lze uvést spolupráci amerických společností Amazon WebServices, Pfizer a Merck spolu s evropskou AstraZenecou a izraelskou Teva Pharmaceuticals. Dalším trendem je také zakládání vlastních AI oddělení velkých farmaceutických firem.
Jaký je váš názor na budoucí regulaci AI ve zdravotnictví? Mohl byste nám prosím přiblížit to, o jakých regulacích se vlastně bavíme?
Jelikož se v rámci zdravotnictví zabýváme tím nejcennějším, co člověk má, tedy zdravím a životem lidí, je zde tématem číslo jedna bezpečnost. A to hlavně bezpečnost pacientů, ale také lékařů a ostatních zdravotnických pracovníků. Proto bude tato oblast pravděpodobně vždy velmi silně regulovaná, což vidíme již dnes.
V současné době lze regulaci zdravotnictví rozdělit na dvě základní roviny, a to regulaci na úrovni Evropské unie a regulaci na úrovni jednotlivých států. Například oblast regulace v oblasti zdravotnických prostředků a léčiv je velmi silně regulována na evropské úrovni. Zde bude mít značný vliv také v poslední době často diskutovaný AI Act. Naopak oblast poskytování zdravotních služeb je regulována zejména na státní úrovni. Zcela samostatnou kapitolou je oblast financování zdravotnictví, které se děje na základě veřejného zdravotního pojištění, což je opět doménou každého státu samostatně. Do tohoto rámce je pak třeba zasadit AI, což se do určité míry daří, ale zůstává zde mnoho nevyřešených otázek. Asi tou nejpalčivější z právního pohledu je vyřešení otázky odpovědnosti za činnost AI, tedy kdo v rámci dodavatelského řetězce AI nese odpovědnost za tu kterou část AI.
A co se týče budoucnosti regulace? Jak jsem již uvedl, určitě je potřeba vyřešit otázku odpovědnosti za činnost AI. Dále bude potřeba vytvořit specifické standardy pro vývoj a implementaci AI. Dnes nastavená pravidla stanovují zejména etický rámec pro fungování AI. Všichni souhlasí, že AI musí být důvěryhodná, bezpečná, s vysvětlitelnými procesy a musí zajistit dostatečnou ochranu pacientských dat. Pokud ale chcete tyto věci implementovat v praxi, mnohdy zjistíte, že nevíte jak na to. Příkladem takových standardů je ISO 14791, které se zabývá zásadami a procesem managementu rizik zdravotnických prostředků včetně softwaru. Do budoucna ovšem bude nutné přijmout další standardy, které budou specificky zohledňovat otázku AI, případně budou speciálně zaměřeny jen na AI.
Jak se vyvíjí právní rámec týkající se odpovědnosti za chyby způsobené AI v medicíně?
Jak jsem již uvedl, otázka odpovědnosti za činnost AI, což zahrnuje též chyby způsobené AI, není v současném právním rámci dostatečně zakotvena. Právní úprava odpovědnosti za vady AI, potažmo za škodu způsobenou AI není upravena jednotně na úrovni Evropské unie, ale každý stát toto řeší samostatně svými vnitrostátními právními předpisy. V případě České republiky je tak třeba se podívat na existující právní předpisy týkající se úpravy odpovědnosti, zejména na občanský zákoník, a nejprve zanalyzovat, zda nastavený právní rámec dostačuje pro účely AI a komplexnosti dodavatelských řetězců v rámci AI, nebo zda je nutná jeho revize, případně přijetí zcela nového právního rámce odpovědnosti za vady AI.
Přesto však na úrovni právních předpisů Evropské unie některá pravidla s dopadem do odpovědnosti nalezneme. Zde se bavíme například o Nařízení o zdravotnických prostředcích a Nařízení o diagnostických prostředcích in vitro, která stanoví řadu povinností, při jejichž porušení vzniká povinnému subjektu odpovědnost za dané porušení. Dále obě nařízení obsahují jisté rozdělení odpovědností mezi výrobce a distributory, potažmo dovozce zdravotnických prostředků. Obdobně tomu tak je i v připravovaném AI Act, který také upravuje rozdělení odpovědností v rámci dodavatelského řetězce AI. V obou případech se však právní úprava vztahuje jen na omezenou výseč situací a nejedná se o komplexní právní rámec odpovědnosti za chyby způsobené AI. Ten je nutné dále hledat a nastavovat.
Jaké jsou vaše doporučení pro budoucí politiky a regulace týkající se AI ve zdravotnictví?
Obecně je potřeba si zanalyzovat aktuální stav regulace, najít její mezery a zjistit, jak AI zapadá do tohoto současného právního rámce a jestli je tento právní rámec aplikovatelný, nebo potřebuje doznat změn a případně jakých.
Pokud mám být konkrétní, v tuto chvíli je jasné, a již jsem to zmiňoval dříve v tomto rozhovoru, že je potřeba jasně nastavit otázku právní odpovědnosti za činnost AI, a to zejména za způsobenou škodu. Většina AI je výsledkem činnosti mnoha subjektů – vývojářů, poskytovatelů tréninkových dat, výrobců zdravotnických prostředků, zdravotnických zařízení a samotných lékařů. Na konci celého řetězce pak stojí pacient, o jehož zdraví a bezpečí primárně jde. Je potřeba jasně stanovit, kdo v tomto řetězci odpovídá za co a v jaké míře, což povede k větší jistotě a předvídatelnosti jak na straně pacientů, tak hlavně na straně ostatních subjektů v rámci dodavatelského řetězce.
Další mezeru vidím v oblasti certifikace zdravotnických prostředků. V současné době umožňují evropské právní předpisy, aby zdravotnické prostředky na bázi AI fungovaly pouze v předem jasně stanovených mantinelech a účelu používání vymezeném výrobcem. Pokud by následně měly být tyto mantinely prolomeny, je nutná recertifikace, která je však velmi nákladná. Výhodou AI je často, mimo jiné, její schopnost se vyvíjet a učit se na základě získaných dat. Současná právní úprava certifikace zdravotnických prostředků však výrobce do značné míry předurčuje k tomu, že budou vyvíjet pouze AI, která nebude mít schopnost se sama učit, ale bude fungovat jen v předem vymezených mantinelech. Abychom se tedy zcela nepřipravili o tuto neodpiratelnou výhodu AI a neztratili jako Evropa ve světě konkurenceschopnost, bylo by vhodné tento přístup revidovat a nastavit rozumná pravidla pro to, aby bylo možné nechat AI se v rozumné a pacientsky bezpečné míře vyvíjet bez nutnosti recertifikace. Tento přístup například v nedávné době přijala FDA v USA.
Jaké jsou vaše předpovědi pro budoucí vývoj AI v českém zdravotnictví?
Za mě je AI budoucnost, a to nejen českého zdravotnictví. Je tedy potřeba se na tuto budoucnost dostatečně připravit a jít jí naproti. Jedná se o příležitost, kterou je třeba využít, abychom byli ideálně spíše mezi těmi, kdo se inovaci nebrání, respektive jsou dokonce jejími tahouny, a nikoliv ty, kdo jsou na chvostu.
Pevně věřím, že proces implementace AI ve zdravotnictví bude mít vzrůstající trend a bude se stále zrychlovat. V dnešní době již můžeme vidět řadu projektů, zejména na poli startupů, které vyvíjejí zdravotnické prostředky založené na bázi AI. I u lékařů je však možné sledovat zvyšující se tendenci zapojovat se do AI projektů, případně AI přímo implementovat. Tento proces je však zatím spíše pomalý a implementace AI mnohdy naráží na nevoli lékařů se na ní podílet. Proto je potřeba k AI ve zdravotnictví přistoupit systémově a začít se bavit nejen o implementaci AI, ale také o nastavení financování AI ve zdravotnictví, zejména z veřejného pojištění, a celkovém vzdělávání lékařů a dalších zdravotnických prostředků.
