Otevřený dopis: Nedopusťme zpomalení inovací v českém zdravotnictví 

Vážený pane ministře,
Vážení členové vlády ČR,

jménem České společnosti pro umělou inteligenci a digitální inovativní technologie v medicíně ČLS JEP (CSAIM) a České asociace umělé inteligence (ČAUI) reagujeme na rozhodnutí vlády ze dne 11. prosince 2024 o pověření Ministerstva práce a sociálních věcí koordinací implementace nařízení Evropské unie o umělé inteligenci (AI Act) v České republice. V souvislosti s touto agendou bychom Vás rádi upozornili na zásadní význam tohoto nařízení a na rizika, pokud jeho přijetí a zavádění v České republice zůstane na vedlejší koleji.

AI Act je tady – nelze ho přehlížet

AI Act, který vstoupil v platnost 1. srpna 2024, představuje přelomový právní rámec pro regulaci umělé inteligence v Evropské unii. Promlouvá do všech sektorů, které ovlivňují náš každodenní život – od průmyslu, vzdělávání či sociálních služeb až po kriticky významné oblasti, jako je zdravotnictví, jež je již nyní výrazně regulované.

• Nesprávná či neúplná implementace AI Actu, která nebude brát v potaz potřeby lékařů, nemocnic, vývojářů či společností zavádějících AI do praxe, může mít fatální důsledky.
• Pro firmy vyvíjející a uvádějící AI na trh může nepřehledná regulace působit likvidačně.
• Zvláště zdravotnictví, které se potýká s množstvím předpisů a regulací, by mohlo čelit dalším nejasným požadavkům, zpomalení inovací a oddálení zavádění technologií, které by mohly zachraňovat lidské životy a ulevit zdravotnickému personálu.
• Neobratná realizace by zároveň mohla ohrozit konkurenceschopnost našich firem i celé ekonomiky.

Je tedy zřejmé, že AI Act a jeho zavádění vyžaduje maximální pozornost, kvalitní přípravu i důslednou realizaci:

„Zastupuji odborníky, kteří denně léčí a zachraňují životy v našich nemocnicích. Jsme si proto dobře vědomi, že inovace v oblasti umělé inteligence mohou zásadně přispět ke zkvalitňování zdravotní péče – od rychlejší diagnostiky až po efektivnější léčebné postupy. Zároveň však víme, že nesprávná nebo uspěchaná implementace AI Actu by mohla přinést nečekané problémy a zbytečné komplikace, které by ve svém důsledku mohly brzdit pokrok i ohrožovat bezpečnost pacientů. “ říká doc. MUDr. Ondřej Volný, Ph.D., FESO, předseda České společnosti pro umělou inteligenci a digitální inovativní technologie v medicíně ČLS JEP (CSAIM).

„Na implementaci tak komplexního nařízení, jako je AI Act, máme pouhé dva roky. Společně musíme dosáhnout toho, aby jeho zavedení do českého práva bylo srozumitelné a jednotné pro všechny zúčastněné – od státu a regulátorů přes uživatele až po vývojáře a společnosti přicházející s řešeními, jež mohou zachraňovat lidské životy. V opačném případě hrozí riziko takzvané ‚dvojité regulace‘, která by mohla udusit domácí technologické firmy, vyvíjející řešení zachraňující životy a v konečném důsledku negativně dopadnout na kvalitu péče o pacienty. Poslední tři roky se úspěšně soustředíme na to, aby umělá inteligence byla ve zdravotnictví zavedena bezpečně a správně, a jsme připraveni naše zkušenosti sdílet a aktivně pomoci.“ říká Matěj Misař, předseda zdravotnické skupiny, Česká asociace umělé inteligence (ČAUI).

Jako přední odborné organizace v oblasti umělé inteligence v České republice vítáme jasné stanovení koordinačního orgánu pro tuto zásadní agendu. Zároveň si plně uvědomujeme, že AI Act bude mít zásadní vliv na budoucí směřování České republiky v oblasti AI a digitálních inovací napříč všemi odvětvími. S ohledem na komplexnost implementace AI Actu a s vědomím značných nároků, které tato agenda klade na státní správu, bychom rádi nabídli Ministerstvu práce a sociálních věcí (jakožto koordinačnímu orgánu) naši plnou součinnost a odbornou podporu.

Nabízíme:

1. Odborné konzultace a expertní stanoviska k technickým, právním i etickým aspektům implementace.
2. Podporu při identifikaci klíčových výzev a rizik v různých sektorech (průmysl, zdravotnictví, vzdělání apod.).
3. Spolupráci při vytváření metodických postupů a doporučení, aby byla regulace srozumitelná a proveditelná v praxi.
4. Asistenci při hodnocení dopadů regulace na českou AI komunitu a průmysl, s cílem maximálního využití inovací.
5. Zprostředkování dialogu mezi odbornou veřejností, soukromým sektorem a státní správou.

Čemu je potřeba se vyhnout: 

• Nedostatečnému či opožděnému uchopení AI Actu, které by mohlo vést k nejasným pravidlům a brzdě ve vývoji a nasazování AI.
• Zatěžující administrativě a nejednoznačným výkladům, které by negativně dopadly na již tak komplexně regulované zdravotnictví i další odvětví.
• Ohrožení konkurenceschopnosti českých firem a ekonomiky jako celku.

Jsme přesvědčeni, že úspěšná implementace AI Actu vyžaduje úzkou spolupráci mezi státní správou a odbornou komunitou. Věříme, že naše expertiza a bohaté zkušenosti mohou významně přispět k efektivnímu zavedení tohoto nařízení v České republice – a to způsobem, který podpoří inovace a současně zajistí odpovědný přístup k vývoji a nasazení systémů umělé inteligence.

Rádi bychom proto požádali o osobní setkání a vytvoření odborné zdravotnické skupiny, kde bychom mohli podrobněji představit možnosti naší spolupráce a diskutovat konkrétní kroky v implementačním procesu.

Kdo jsme?

• Česká společnost pro umělou inteligenci a digitální inovativní technologie v medicíně ČLS JEP (CSAIM)
  Sdružuje více než 100 předních odborníků na poli AI z oblasti zdravotnictví, technických oborů, etiky, vedení zdravotnických zařízení, IT a biomedicínského inženýrství.
• Česká asociace umělé inteligence (ČAUI)
  Zastupuje více než 250 odborných členů, nadnárodních korporací i českých technologických startupů, kteří se aktivně podílejí na vývoji a zavádění řešení umělé inteligence v široké škále oblastí. Její zdravotnická skupina je nositelem nejvýznamnějšího know how ve vývoji a zavádění AI do zdravotnické praxe. Inovativní řešení vyvinutá v Česku zavedli členové asociace již ve více než 60 % českých nemocnic. Je součástí European AI Forum, největšího subjektu podporující rozvoj AI v Evropě.