EU AI Act vstupuje do další fáze, začínají platit pravidla pro poskytovatele GPAI

Evropská legislativa o umělé inteligenci (AI Act) se posouvá do další fáze. Od 2. 8. 2025 začínají platit nová pravidla zejména pro poskytovatele obecně‑účelových modelů AI (GPAI – general‑purpose AI), jako jsou GPT, Gemini či Claude. Ti musí nově splňovat požadavky na transparentnost, dokumentaci, a v některých případech také registraci a řízení rizik.

Nové povinnosti pro GPAI modely zahrnují:

• Transparentnost – poskytovatelé musí zveřejnit informace o tréninkových datech, výpočetních prostředcích, schopnostech modelu a jeho rizicích. Musí být rovněž přiznáno použití autorsky chráněných dat.
• Technická dokumentace – modely musí být doprovázeny podrobnými podklady, které umožní jejich použití v souladu s AI Actem.
• Podpora při nasazení do vysoce rizikových systémů – např. ve zdravotnictví nebo v justici musí poskytovatel modelu zajistit spolupráci s vývojáři koncových aplikací.
• Zvláštní režim pro modely se systémovým rizikem – povinnost registrace u Evropské komise, řízení rizik, pravidelné testování odolnosti a hlášení incidentů.

Součástí nového rámce je také dobrovolný Kodex správné praxe GPAI, který podepsaly firmy jako OpenAI, Google, Microsoft či Anthropic. Podpis přináší výhodu v podobě zjednodušené kontroly ze strany regulatorních orgánů.

Sankční režim získává účinnost

Zásadní novinkou je i spuštění sankčního režimu. Od srpna 2025 může být za porušení povinností podle AI Actu udělena pokuta až:

• 35 milionů EUR nebo 7 % celosvětového obratu – za nejzávažnější porušení (např. využití zakázaných AI systémů),
• 15 milionů EUR nebo 3 % obratu – za běžná porušení (např. nedostatečná dokumentace či neoznačení AI výstupu).

Firmy, které implementují GPAI modely do vysoce regulovaných aplikací (např. ve zdravotnictví), nesou odpovědnost za dodržení povinností dle AI Actu. Využití nevyhovujícího modelu může vést k vysokým sankcím, ale i k dalším právním rizikům (např. podle GDPR či autorského práva).

Co dál?

Další, nejrozsáhlejší vlna regulace, vstoupí v platnost v srpnu 2026. Je proto klíčové, aby firmy a veřejné instituce již nyní přehodnotily své strategie v oblasti AI compliance a AI gramotnosti.