EU AI Act

Nejsrozumitelnější průvodce EU AI Act

Česká asociace umělé inteligence přináší aktualizovaný „tahák“ pro každého, kdo se chce rychle zorientovat v problematice Aktu EU o umělé inteligenci. Evropská unie je prvním územím na světě, kde byla obdobná regulace schválena.

V případě složitějších dotazů nabízíme členům právní pomoc, pravidelný právní oběžník a další vzdělávací obsah. Níže najdete veškeré klíčové informace a odpovědi na nejčastěji kladené otázky.

Jsme vždy aktuální

Poslední aktualizace: 1. května 2024

Stav nařízení

Dne 8. prosince 2023 došlo k politické shodě. Zástupci členských států EU se shodli na konečném kompromisním znění aktu o umělé inteligenci dne 2. února 2024. V kontextu shody představu EU tzv. AI innovation package. Dne 21. února 2024 byl zřízen Evropský úřad pro umělou inteligenci (jako součást DG CNECT). Evropský parlament dne 13. března 2024 nařízení schválil (523 hlasů pro, 46 proti a 49 se zdrželo hlasování). Nyní probíhá finalizace textu ze strany právníků a lingvistů, než dojde k formálnímu schválení Evropskou radou. Pravděpodobně duben-květen 2024.

Kdy začne EU AI Act platit?

Pokud bude návrh schválen, začne platit 20 dnů po zveřejnění v oficiálním evroském věstníku. Firmy a úřady pak budou mít 2 roky na přípravu na okamžik, kdy nařízení začne být přímo závazné. Akt o umělé inteligenci by se měl uplatňovat od roku 2026. Některé části regulace týkající se zakázané AI budou vymahatelné dříve. Zákazy se uplatní 6 měsíců po vstupu v platnost, kodexy praxe 9 měsíců, obecná pravidla 12 měsíců a povinnosti pro vysoce rizikové systémy 36 měsíců po vstupu v platnost.

Základní informace

  • Definice AI: V souladu s nedávno aktualizovanou definicí OECD
  • Extrateritoriální aplikace: V kontextu Aktu EU o AI extrateritoriální aplikace znamená, že pravidla a regulace v tomto nařízení se aplikují nejen na organizace a jednotlivce v rámci Evropské unie, ale také na ty, kteří se nacházejí mimo EU, pokud jejich aktivity mají dopad na trhy EU nebo občany EU. Jinými slovy i organizace mimo EU budou muset dodržovat tento zákon, pokud se jejich AI týká osob nebo trhů v EU.
  • Výjimky: Národní bezpečnost, armáda a obrana, výzkum a inovace, částečně open source
  • Přechodné období pro shodu: Mezi 6 až 24 měsíci
  • Založeno na riziku: Zakázaná AI » Vysoce riziková AI » Omezeně riziková AI » Minimálně riziková AI
  • Požadavky: Rozsáhlé požadavky na Poskytovatele a Uživatele vysoce rizikové AI
  • Generativní AI: Specifické požadavky na transparentnost a zveřejnění zdrojů trénovacích dat

Ke stažení

Zakázaná AI

  • Systémy sociálního kreditního hodnocení
  • Systémy rozpoznávání emocí v práci a ve vzdělávání s výjimkou hlídání ostražitosti řidiče v dopravě
  • AI využívající lidské zranitelnosti (např. věk, postižení)
  • Manipulace s chováním a obcházení svobodné vůle
  • Hromadný scraping obličejů pro vytváření databáze pro rozpoznávání obličejů (příklad Clearview AI)
  • Biometrické kategorizační systémy využívající citlivé charakteristiky (rasa, sexuální orientace, politické či náboženské názory apod.)
  • Specifické aplikace prediktivního policejního dohledu
  • Použití biometrické identifikace v reálném čase policií ve veřejných prostorách (kromě omezených, předem autorizovaných situací)

Vysoce riziková AI

  • Zdravotnické přístroje
  • Vozidla
  • Nábor, HR a řízení pracovníků
  • Vzdělávání a odborný výcvik
  • Ovlivňování voleb a voličů
  • Přístup ke službám (např. pojištění, bankovnictví, úvěry, dávky atd.)
  • Správa kritické infrastruktury (např. voda, plyn, elektřina atd.)
  • Systémy rozpoznávání emocí
  • Biometrická identifikace
  • Vymáhání práva, pohraniční kontrola, migrace a azyl
  • Správa spravedlnosti
  • Specifické produkty a/nebo bezpečnostní komponenty specifických produktů

Klíčové požadavky: Vysoce riziková AI

  • Hodnocení dopadu na základní práva a hodnocení souladu
  • Registrace ve veřejné databázi EU pro systémy AI s vysokým rizikem
  • Implementace řízení rizik a systému řízení kvality
  • Správa dat (např. zmírňování zkreslení, reprezentativní tréninková data atd.)
  • Transparentnost (např. instrukce pro použití, technická dokumentace atd.)
  • Lidský dohled (např. vysvětlitelnost, auditovatelné záznamy, člověk v smyčce atd.)
  • Přesnost, robustnost a kybernetická bezpečnost (např. testování a monitorování)

Systémy obecné AI a základní modely

  • Rozdílné požadavky pro AI obecného účelu (General-purpose AI – GPAI) a základní modely typu ChatGPT či Gemini
  • Transparentnost pro všechny GPAI (např. technická dokumentace, shrnutí tréninkových dat, ochrana autorských práv a IP atd.)
  • Dodatečné požadavky pro modely s vysokým dopadem se systémovým rizikem: hodnocení modelů, hodnocení rizik, testování protiútoků, hlášení incidentů atd.
  • Generativní AI: Jednotlivci musí být informováni při interakci s AI (např. chatboty), specifický AI obsah (např. deepfakes) musí být označen a musí být detekovatelný

Pokuty a vynucování

  • Až 7 % ročního celosvětového obratu nebo 35 milionů eur za porušení zakázané AI
  • Až 3 % ročního celosvětového obratu nebo 15 milionů eur za většinu ostatních porušení
  • Až 1,5 % ročního celosvětového obratu nebo 7,5 milionů eur za poskytnutí nesprávných informací
  • Omezení pokut pro malé a střední podniky a startupy s možností vzniku regulačních sandboxů, tedy mechanismu, kdy národní regulátor vytvoří kontrolované prostředí pro vývoj určité technologie
  • S účinností od 21. února 2024 došlo ke vzniku Evropského úřadu pro umělou inteligenci (AI Office).
  • Tržní dohledové orgány v zemích EU pro uplatňování Aktu EU o AI
  • Každý jednotlivec může podávat stížnosti na nesoulad

Evropský úřad pro umělou inteligenci

  • Součást Generálního ředitelství pro komunikační sítě, obsah a technologie v rámci Evropské komise (DG CNECT)
  • Kancelář zaměstná přibližně 100 lidí, z nichž 20 bude převedeno z Generálního ředitelství pro komunikační sítě, obsah a technologie (DG CNECT)
  • Centrum odborných znalostí v oblasti umělé inteligence v celé EU. Bude hrát klíčovou roli při implementaci zákona o umělé inteligenci, zejména pro umělou inteligenci pro obecné účely, bude podporovat rozvoj a využívání důvěryhodné umělé inteligence a mezinárodní spolupráci
  • Při své práci bude spolupracovat s členskými státy a širší odbornou komunitou a bude zajišťovat strategický, koherentní a efektivní evropský přístup k AI na mezinárodní úrovni
  • Kancelář již zahájila svou činnost

Přihlášení

Stát se členem