EU AI Act

Nejsrozumitelnější průvodce EU AI Act

Česká asociace umělé inteligence přináší aktualizovaný „tahák“ pro každého, kdo se chce rychle zorientovat v problematice nařízení EU o umělé inteligenci (AI Act). Evropská unie je prvním územím na světě, kde byla obdobná regulace schválena.

V případě složitějších dotazů nabízíme členům právní pomoc, pravidelný právní oběžník a další vzdělávací obsah. Níže najdete veškeré klíčové informace a odpovědi na nejčastěji kladené otázky.

Jsme vždy aktuální

Poslední aktualizace: 3. března 2026

AI Act v kostce

AI Act je nové nařízení Evropské unie, které stanovuje jednotná pravidla pro vývoj, dovoz, uvádění na trh a používání některých systémů umělé inteligence a pro modely umělé inteligence.

 

Jako nařízení EU je AI Act v Česku přímo použitelný a má sílu zákona. Týká se firem, organizací a institucí, které umělou inteligenci vyvíjí, dováží nebo používají.

Od kdy pravidla platí?

AI Act vstoupil v platnost 1. srpna 2024. 

 

Účinnost jednotlivých skupin pravidel však nastává postupně:  

 

  • 2. 2. 2025 – zákaz AI systémů s nepřijatelným rizikem 
  • 2. 2. 2025 – povinnost zajistit AI gramotnost 
  • 2. 8. 2025 – pravidla pro obecné modely AI 
  • 2. 8. 2026 – pravidla pro vysoce rizikové AI systémy podle přílohy III a pro systémy s omezeným rizikem
  • 2.8. 2027 – pravidla pro vysoce rizikové systémy podle přílohy I 

 

Momentálně se zvažuje odložení pravidel pro vysoce rizikové AI systémy v rámci legislativního balíčku Digital Omnibus. 

Aktuality a konzultace

Původní časová osa implementace

Základní informace

    • Definice systému AI: Strojový systém, který může vykazovat adaptabilitu a který z obdržených vstupů odvozuje, jak generovat výstupy (úplná definice v článku 3, bod 1 AI Actu)
    • Definice obecného modelu AI: Model AI, typicky trénovaný na velkém objemu dat, který je schopen plnit široké spektrum různých úkolů a může být integrován do dalších systémů nebo aplikací (úplná definice v článku 3, bod 63 AI Actu)
    • Extrateritoriální aplikace: Pravidla v tomto nařízení se aplikují nejen na organizace v rámci Evropské unie, ale také na ty, kteří se nacházejí mimo EU, pokud jejich aktivity mají dopad na trh nebo občany EU
    • Výjimky: Osobní neprofesionální činnost, národní bezpečnost, armáda a obrana, výzkum a inovace, částečně open source
    • Role v řetězci: Konkrétní pravidla pro organizace se odvíjejí od toho, zda jsou v pozici poskytovatele, dovozce, distributora nebo zavádějícího subjektu 
    • AI gramotnost: Poskytovatelé a zavádějící subjekty musí zajistit dostatečnou úroveň gramotnosti v oblasti AI u svých zaměstnanců, kteří používají umělou inteligenci
    • Regulace podle míry rizika: AI Act rozděluje systémy AI do kategorií podle míry rizika, které představují pro společnost; vyšší riziko znamená přísnější pravidla
    • Regulace kvůli obecnosti: AI Act zavádí zvláštní pravidla pro obecné modely AI, které jsou regulovány samostatně, protože často představují základní stavební kameny navazujících AI systémů

Ke stažení

Role v řetězci

  • Poskytovatel – vyvíjí či pro sebe nechává vyvíjet systém AI nebo obecný model AI  
  • Dovozce nebo distributor – uvádí na trh EU systém AI
  • Zavádějící subjekt – v rámci své pravomoci využívá systém AI

Povinnosti podle AI Actu se v rámci těchto rolí liší.

AI gramotnost

  • Poskytovatelé systémů AI a subjekty zavádějící AI musí přijímat opatření, aby zajistili dostatečnou úroveň gramotnosti v oblasti AI u svých zaměstnanců i u všech dalších osob, které se jejich jménem zabývají provozem a používáním systémů AI. 
  • Potřebná opatření mohou mít formu školení, interního sdílení know-how nebo například AI směrnice. 
  • Klíčové je přizpůsobit opatření konkrétním osobám či skupinám v organizaci. Je nutné zohlednit, jakým způsobem se AI používá, k jakému účelu a s jakými riziky je spojena. Jiný rozsah a zaměření AI gramotnosti bude mít například HR specialista využívající AI při náboru zaměstnanců a jiný marketingový specialista, který v rámci kampaní pracuje s generativními nástroji. 
  • Pro inspiraci lze využít živý repozitář AI gramotnosti Evropské komise, který shromažďuje příklady dobré praxe a zkušenosti organizací se zaváděním AI gramotnosti.

 

Povinnost zajistit AI gramotnost nabyla účinnosti 2. února 2025.

Regulace podle míry rizika

Zakázaná AI

  • Využívají podprahové či manipulativní techniky
  • Zneužívají zranitelnosti specifických skupin
  • Sociální skórování
  • Predikce kriminálního chování
  • Databáze rozpoznávání obličeje 
  • Odvozovují emoce na pracovišti a ve vzdělávacích institucích 
  • Biometrická identifikace na dálku v reálném čase

U některých z těchto kategorií existují upřesnění a výjimky. Vše o zakázaných systémech AI najdete v článku 5 AI Actu a v pokynech k zakázaným praktikám AI.

 

Tyto systémy AI se od 2. února 2025 nesmějí v EU uvádět na trh a používat. 

Systémy AI s omezeným rizikem

  • Chatboti a voiceboti
  • AI vytvářející syntetický obsah
  • Rozpoznávání emocí a biometrická kategorizace
  • Deepfake

Povinnosti 

  • Poskytovatelé chatbotů a voicebotů musí zajistit, aby uživatelé věděli, že komunikují s AI
  • Poskytovatelé systémů vytvářejících syntetický obsah (text, obraz, video, zvuk) musí zajistit označení výstupů jako uměle vytvořených ve strojově čitelném formátu
  • Zavádějící subjekty systémů pro rozpoznávání emocí a biometrickou kategorizaci musí informovat osoby o jejich použití
  • Zavádějící subjekty systémů vytvářejících deep fake musí zveřejnit umělý původ obsahu

Povinnosti pro AI systémy s omezeným rizikem nabývají účinnosti 2. srpna 2026.

Vysoce riziková AI - Podle přílohy III

  • Biometrika
  • Kritická infrastruktura
  • Vzdělávání a odborná příprava
  • Zaměstnávání, řízení pracovníků
  • Přístup k základním službám a dávkám
  • Vymáhání práva
  • Migrace, azyl a řízení ochrany hranic
  • Správa soudnictví a demokratické procesy

U jednotlivých kategorií existují upřesnění a výjimky popsané v příloze III AI Actu.

 

Povinnosti pro poskytovatele

  • Zavedení systému řízení kvality
  • Kvalitní vstupní data 
  • Technická dokumentace
  • Automatické logování
  • Transparentnost
  • Lidský dohled
  • Přesnost, spolehlivost, kyberbezpečnost   
  • Posouzení shody a označení CE (pouze některé AI systémy)
  • Registrace v EU databázi (pouze některé AI systémy)

Vysoce riziková AI - Podle přílohy I 

  • Specifické produkty a/nebo bezpečnostní komponenty specifických produktů (např. zdravotnické prostředky, hračky, rádiové zařízení, motorová vozidla)

Povinnosti pro vysoce rizikové AI systémy nabývají účinnosti 2. srpna 2026 (příloha III) a 2. srpna 2027 (příloha I). V současnosti se diskutuje jejich možné odložení v rámci legislativního balíčku Digital Omnibus.

 

Povinnosti pro zavádějící subjekty 

  • Technická a organizační opatření v souladu s přiloženým návodem k použití
  • Lidský dohled
  • Zajištění kvality dat (pokud je to relevantní)
  • Monitoring a reportování
  • Uchování protokolů
  • Informování před zavedením systému (na pracovišti)

Regulace kvůli obecnosti

Obecné

Obecný model AI (GPAI)
General Purpose AI – model AI, typicky trénovaný na velkém objemu dat, který je schopen plnit široké spektrum různých úkolů a může být integrován do dalších systémů nebo aplikací

 

Obecný model AI se systémovým rizikem  

Model AI s výpočetní náročností nad 10^25 FLOPS při trénování nebo tak určený Evropskou komisí. 


Poskytovatelé GPAI mohou při plnění povinností vycházet z kodexu správné praxe. Dodržování kodexu může usnadnit prokázání souladu s AI Actem.

 

Povinnosti poskytovatelů

  • Vést technickou dokumentaci s detaily o tréninku, výpočetní síle, schopnostech a rizicích
  • Poskytnout veřejně srozumitelné informace o trénovacích datech
  • Přiznat použití autorsky chráněného obsahu při tréninku
  • Vytvořit návod k použití s informacemi o fungování, limitech a rizicích

Navíc pro poskytovatele GPAI se systémovým rizikem

  • Provádět hodnocení a kontradiktorní testování modelu
  • Posuzovat a zmírňovat možná systémová rizika na úrovni Unie
  • Sledovat, dokumentovat a hlásit úřadům informace o závažných incidentech 
  • Zajistit odpovídající úroveň ochrany kybernetické bezpečnosti

Povinnosti pro obecné modely AI nabyly účinnosti 2. srpna 2025.

Sandboxy

 

Regulatorní sandboxy jsou kontrolovaná prostředí, ve kterých mohou potenciální poskytovatelé inovativních AI systémů vyvíjet, trénovat, testovat a ověřovat své technologie pod dohledem příslušného orgánu.

 

Regulatorní sandboxy mají několik cílů:

  • zvýšit právní jistotu a usnadnit dodržování pravidel AI Actu,
  • podpořit inovace a konkurenceschopnost, zejména pro SME a startupy,
  • podpořit sdílení nejlepších postupů mezi regulátory a tvůrci AI,
  • ulehčit přístup na trh pro nové AI systémy.

 

Každý členský stát EU musí do 2. srpna 2026 zajistit, aby jeho příslušné orgány zřídily alespoň jeden AI regulatorní sandbox, který bude fungovat jako takové testovací prostředí s podporou národních kompetentních orgánů.

 

Sankce

  • AI Act stanoví odstupňovaný systém pokut podle závažnosti porušení:
    • Až 35 milionů eur nebo 7 % celosvětového ročního obratu – za porušení zakázaných systémů AI 
    • Až 15 milionů eur nebo 3 % celosvětového ročního obratu – za porušení většiny ostatních povinností podle nařízení.
    • Až 7,5 milionu eur nebo 1,5 % celosvětového ročního obratu – za poskytnutí nesprávných, neúplných nebo zavádějících informací orgánům.
  • Použije se vyšší z uvedených částek.
  • U malých a středních podniků a startupů musí být pokuty přiměřené jejich velikosti a ekonomické situaci.

Vynucování a dohled

AI Office

  • Evropský úřad pro umělou inteligenci (AI Office) působí při Evropské komisi a hraje klíčovou roli při implementaci AI Actu
  • Vymáhá pravidla pro obecné modely AI
  • Koordinuje činnost vnitrostátních orgánů 
  • Přispívá k rozvoji důvěryhodného a inovativního ekosystému AI a zastupuje EU v mezinárodních otázkách AI

Česko

  • Ministerstvo průmyslu a obchodu (MPO) – gestor implementace AI Actu v ČR; připravuje návrh zákona o umělé inteligenci
  • Český telekomunikační úřad (ČTÚ) – orgán dozoru nad trhem pro uplatňování AI Actu
  • Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ) – oznamující orgán, který jmenuje a dohlíží na subjekty posuzování shody
  • Česká agentura pro standardizaci (ČAS) – odpovídá za vytvoření a správu regulatorního sandboxu pro testování AI technologií
  • Každá fyzická nebo právnická osoba, která má důvod se domnívat, že došlo k porušení ustanovení AI Actu, bude mít možnost podávat stížnosti u ČTÚ

Evropský úřad pro umělou inteligenci

  • Součást Generálního ředitelství pro komunikační sítě, obsah a technologie v rámci Evropské komise (DG CNECT)
  • Kancelář zaměstná přibližně 100 lidí, z nichž 20 bude převedeno z Generálního ředitelství pro komunikační sítě, obsah a technologie (DG CNECT)
  • Centrum odborných znalostí v oblasti umělé inteligence v celé EU. Bude hrát klíčovou roli při implementaci zákona o umělé inteligenci, zejména pro umělou inteligenci pro obecné účely, bude podporovat rozvoj a využívání důvěryhodné umělé inteligence a mezinárodní spolupráci
  • Při své práci bude spolupracovat s členskými státy a širší odbornou komunitou a bude zajišťovat strategický, koherentní a efektivní evropský přístup k AI na mezinárodní úrovni

Přihlášení

Stát se členem