AI Act – Akt o umělé inteligenci

Artificial Intelligence Act

Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024 známé jako AI Act je první komplexní právní rámec na světě, který se zaměřuje na regulaci umělé inteligence. Jeho hlavním cílem je zajistit v celé Evropské unii bezpečný a důvěryhodný vývoj, uvedení na trh a používání.

Nařízení vstoupilo v platnost 1. 8. 2024 a dotčené subjekty mají 2 roky na přípravu na okamžik, kdy nařízení začne být přímo závazné v celém rozsahu. Některé části regulace budou vymahatelné dříve. Zákazy se uplatní 6 měsíců po vstupu v platnost, kodexy praxe 9 měsíců, obecná pravidla 12 měsíců a povinnosti pro vysoce rizikové systémy 36 měsíců po vstupu v platnost.

Co je AI

Artificial intelligece - Umělá inteligence

AI systém je strojový systém, který:

je navržen tak, aby pracoval s určitou mírou samostatnosti,
může se po uvedení do provozu přizpůsobovat (např. měnit svoje chování na základě nových dat),
přijímá vstupy (např. data, podněty) a na jejich základě vytváří výstupy — předpovědi, doporučení, obsah nebo rozhodnutí, která mohou ovlivnit fyzické i virtuální prostředí.

Účel regulace

AI Act má chránit lidstvo před riziky umělé inteligence (aby neohrožovala zdraví, bezpečnost ani základní práva lidí) a zároveň vytváří jasná pravidla, aby se AI mohla bezpečně, transparentně a eticky odpovědně rozvíjet.

Evropská regulace chce zabránit diskriminaci, zneužívání a nepřijatelným praktikám (podprahová manipulace, zneužívání zranitelných skupin, sociální skórování, biometrická identifikace na veřejných místech). Rozlišuje čtyři úrovně rizika. Systémy s nepřijatelným rizikem jsou zakázány, zatímco aplikace s vysokým rizikem – například ve zdravotnictví, finančním sektoru či kritické infrastruktuře – musí splňovat přísné bezpečnostní a etické požadavky.

AI systémy určené k interakci s lidmi musí být transparentní, aby bylo vždy jasné, že uživatel komunikuje s umělou inteligencí.

Společnosti vyvíjející AI se budou muset přizpůsobit novým pravidlům, což povede k vyšší důvěryhodnosti technologií a lepší ochraně koncových uživatelů.

Klíčové instituce ČR při implementaci AI Aktu

Ministerstvo průmyslu a obchodu (MPO): koordinátor implementace AI Aktu v České republice, připravil návrh zákona o umělé inteligenci (návrh z 25. 9. 2025 ) a zřídí Kompetenční centrum AI pro eGovernment.
Český telekomunikační úřad (ČTÚ): orgán dozoru nad trhem, bude zajišťovat dodržování pravidel AI Aktu v oblasti tržní regulace.
Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ): oznamující orgán, který bude jmenovat a oznamovat subjekty posuzování shody a monitorovat jejich činnost v souladu s požadavky AI Aktu.
Česká agentura pro standardizaci (ČAS): vytvoření a správa regulatorního sandboxu, který podpoří inovace a testování AI technologií

S implementací AI Act umíme pomoci

Našim zákazníkům nabízíme konzultace, audity i školení k AI Act. Pomůžeme integrovat nové požadavky do stávajících systémů řízení s doporučeným postupem:

Analýza využívaných AI systémů – zjistíme, kde a jakým způsobem se ve vaší organizaci AI používá.
Kategorizace podle rizika – určíme, zda spadáte do kategorie vysokého, omezeného nebo minimálního rizika.
Gap analýza – porovnáme současný stav s požadavky AI Act a identifikujeme nedostatky.
Návrh opatření – nastavíme procesy pro správu rizik, dokumentaci, testování a lidský dohled.
Školení – proškolíme vaše zaměstnance, kteří systémy AI vyvíjejí nebo používají.
Monitoring a audit – pravidelně vyhodnocujeme shodu, provádíme interní audity a připravujeme na možné kontroly dozorových orgánů.