Evropská komise zveřejnila pokyny k zakázaným praktikám AI podle AI Act

Evropská komise zveřejnila dne 4. února na oficiálním webu pokyny k zakázaným praktikám umělé inteligence podle EU AI Act. I když nejsou přímo závazné, dávají jasnou představu o tom, co už v EU s AI dělat nesmíte.

Co se v EU s AI nesmí?

Podívejte se na výpis nejdůležitějších bodů z pokynů, které prakticky popisují zakázané praktiky.

AI nesmí manipulovat podprahovými technikami

Reklamy nebo chatboty nesmí ovlivňovat lidi skrytými signály, které obcházejí jejich vědomé rozhodování. Konec neuromarketingu, který „láme vůli“ bez vašeho vědomí!

Žádná AI nesmí zneužívat slabiny lidí

AI nesmí cílit na děti, seniory, osoby s postižením nebo lidi v tíživé finanční situaci a ovlivňovat jejich chování ve svůj prospěch.

Sociální skórování v EU? Zakázáno!

Pokud někdo chtěl zavést systém „hodnocení občanů“ podle jejich chování (jako v Číně), má smůlu. Sociální skórování s dopadem na přístup k běžným službám je v EU zcela zakázané.

AI nesmí předpovídat zločince jen na základě osobnosti

Představte si AI, která by určovala, zda někdo spáchá zločin, jen podle jeho chování na sociálních sítích nebo psychologického profilu. Takové prediktivní AI systémy jsou nyní zakázané.

Automatický sběr obličejů z internetu? Neprojde!

Firmy nesmí hromadně sbírat a analyzovat fotky obličejů z webu nebo bezpečnostních kamer k vytvoření databází pro rozpoznávání tváří.

Rozpoznávání emocí na pracovišti? Pouze pro lékařské účely

AI nesmí analyzovat emoce zaměstnanců v práci nebo studentů ve školách – s výjimkou zdravotních a bezpečnostních důvodů.

Biometrická kategorizace je omezená

AI nesmí analyzovat biometrické údaje a zařazovat lidi podle rasy, politických názorů, víry nebo sexuální orientace.

Policie nemůže sledovat lidi pomocí AI v reálném čase – až na výjimky

Systémy pro biometrickou identifikaci na veřejných místech v reálném čase jsou zakázané, s výjimkou hledání pohřešovaných osob, teroristických hrozeb nebo pátrání po nebezpečných pachatelích.

AI systémy porušující pravidla? Pokuta až 35 milionů EUR!

Firmy, které vyvinou nebo použijí AI v rozporu s AI Actem, můžou čelit pokutám až 7 % svého ročního obratu nebo 35 milionů EUR. Část AI aktu týkající se zakázaných praktik platí od 2. února 2025. Firmy nyní mají půl roku na přípravu – od srpna 2025 začne ostrý dohled a pokuty za porušení pravidel.