EU AI Act

Nejsrozumitelnější průvodce EU AI Act

Česká asociace umělé inteligence přináší aktualizovaný „tahák“ pro každého, kdo se chce rychle zorientovat v problematice Aktu EU o umělé inteligenci. Evropská unie je prvním územím na světě, kde byla obdobná regulace schválena.

V případě složitějších dotazů nabízíme členům právní pomoc, pravidelný právní oběžník a další vzdělávací obsah. Níže najdete veškeré klíčové informace a odpovědi na nejčastěji kladené otázky.

Jsme vždy aktuální

Poslední aktualizace: 4. února 2024

Stav nařízení

Dne 8. prosince 2023 došlo k politické shodě. Zástupci členských států EU se shodli na konečném kompromisním znění aktu o umělé inteligenci dne 2. února 2024. Nyní dojde k finalizaci textu ze strany právníků a lingvistů. O aktu se bude následně hlasovat v příslušném parlamentním výboru, nejspíš 13. února 2024. Následovat bude (pravděpodobně v dubnu 2024) schválení na plenárním zasedání Evropského parlamentu. V kontextu shody představu EU tzv. AI innovation package.

Kdy začne EU AI Act platit?

Pokud bude návrh schválen, začne platit 20 dnů po zveřejnění v oficiálním evroském věstníku. Firmy a úřady pak budou mít 2 roky na přípravu na okamžik, kdy nařízení začne být přímo závazné. Akt o umělé inteligenci by se měl uplatňovat od roku 2026. Některé části regulace týkající se zakázané AI budou vymahatelné dříve.

Základní informace

  • Definice AI: V souladu s nedávno aktualizovanou definicí OECD
  • Extrateritoriální aplikace: V kontextu Aktu EU o AI extrateritoriální aplikace znamená, že pravidla a regulace v tomto nařízení se aplikují nejen na organizace a jednotlivce v rámci Evropské unie, ale také na ty, kteří se nacházejí mimo EU, pokud jejich aktivity mají dopad na trhy EU nebo občany EU. Jinými slovy i organizace mimo EU budou muset dodržovat tento zákon, pokud se jejich AI týká osob nebo trhů v EU.
  • Výjimky: Národní bezpečnost, armáda a obrana, výzkum a inovace, částečně open source
  • Přechodné období pro shodu: Mezi 6 až 24 měsíci
  • Založeno na riziku: Zakázaná AI » Vysoce riziková AI » Omezeně riziková AI » Minimálně riziková AI
  • Požadavky: Rozsáhlé požadavky na Poskytovatele a Uživatele vysoce rizikové AI
  • Generativní AI: Specifické požadavky na transparentnost a zveřejnění zdrojů trénovacích dat

Ke stažení

Zakázaná AI

  • Systémy sociálního kreditního hodnocení
  • Systémy rozpoznávání emocí v práci a ve vzdělávání s výjimkou hlídání ostražitosti řidiče v dopravě
  • AI využívající lidské zranitelnosti (např. věk, postižení)
  • Manipulace s chováním a obcházení svobodné vůle
  • Hromadný scraping obličejů pro vytváření databáze pro rozpoznávání obličejů (příklad Clearview AI)
  • Biometrické kategorizační systémy využívající citlivé charakteristiky (rasa, sexuální orientace, politické či náboženské názory apod.)
  • Specifické aplikace prediktivního policejního dohledu
  • Použití biometrické identifikace v reálném čase policií ve veřejných prostorách (kromě omezených, předem autorizovaných situací)

Vysoce riziková AI

  • Zdravotnické přístroje
  • Vozidla
  • Nábor, HR a řízení pracovníků
  • Vzdělávání a odborný výcvik
  • Ovlivňování voleb a voličů
  • Přístup ke službám (např. pojištění, bankovnictví, úvěry, dávky atd.)
  • Správa kritické infrastruktury (např. voda, plyn, elektřina atd.)
  • Systémy rozpoznávání emocí
  • Biometrická identifikace
  • Vymáhání práva, pohraniční kontrola, migrace a azyl
  • Správa spravedlnosti
  • Specifické produkty a/nebo bezpečnostní komponenty specifických produktů

Klíčové požadavky: Vysoce riziková AI

  • Hodnocení dopadu na základní práva a hodnocení souladu
  • Registrace ve veřejné databázi EU pro systémy AI s vysokým rizikem
  • Implementace řízení rizik a systému řízení kvality
  • Správa dat (např. zmírňování zkreslení, reprezentativní tréninková data atd.)
  • Transparentnost (např. instrukce pro použití, technická dokumentace atd.)
  • Lidský dohled (např. vysvětlitelnost, auditovatelné záznamy, člověk v smyčce atd.)
  • Přesnost, robustnost a kybernetická bezpečnost (např. testování a monitorování)

Systémy obecné AI a základní modely

  • Rozdílné požadavky pro AI obecného účelu (General-purpose AI – GPAI) a základní modely typu ChatGPT či Gemini
  • Transparentnost pro všechny GPAI (např. technická dokumentace, shrnutí tréninkových dat, ochrana autorských práv a IP atd.)
  • Dodatečné požadavky pro modely s vysokým dopadem se systémovým rizikem: hodnocení modelů, hodnocení rizik, testování protiútoků, hlášení incidentů atd.
  • Generativní AI: Jednotlivci musí být informováni při interakci s AI (např. chatboty), specifický AI obsah (např. deepfakes) musí být označen a musí být detekovatelný

Pokuty a vynucování

  • Až 7 % ročního celosvětového obratu nebo 35 milionů eur za porušení zakázané AI
  • Až 3 % ročního celosvětového obratu nebo 15 milionů eur za většinu ostatních porušení
  • Až 1,5 % ročního celosvětového obratu nebo 7,5 milionů eur za poskytnutí nesprávných informací
  • Omezení pokut pro malé a střední podniky a startupy s možností vzniku regulačních sandboxů, tedy mechanismu, kdy národní regulátor vytvoří kontrolované prostředí pro vývoj určité technologie
  • Vytvoření AI Office a AI Board centrálně na úrovni EU, AI Office vzniká v rámci Komise. 
  • Tržní dohledové orgány v zemích EU pro uplatňování Aktu EU o AI
  • Každý jednotlivec může podávat stížnosti na nesoulad