Advokátní kancelář TMS

Evropský akt o umělé inteligenci (AI Act) představuje zásadní přelom v globálním nahlížení na digitální technologie. Vůbec poprvé v historii vznikl ucelený harmonizovaný právní rámec, který stanovuje jasná pravidla pro vývoj, uvádění na trh, do provozu a používání systémů umělé inteligence. Tento předpis se netýká pouze technologických gigantů a vývojářů, ale dopadá na prakticky každou společnost, která nástroje AI integruje do svých interních procesů, personalistiky, zákaznického servisu či marketingu.

Čtyři úrovně rizika: Kde končí inovace a začíná přísný zákaz?
Podstata evropské regulace spočívá v odstupňovaném přístupu podle míry rizika, které konkrétní AI systém představuje pro lidská práva, bezpečnost a zdraví člověka. Na samém vrcholu stojí zakázané praktiky AI představující nepřijatelné riziko. Mezi ně patří například klamavé a manipulativní techniky využívající podprahové signály nebo zneužívající zranitelnost osob, sociální bodování (social scoring), necílené stahování snímků z internetu pro tvorbu databází či biometrická identifikace v reálném čase ve veřejných prostorech. Provozování těchto nástrojů je v Evropské unii absolutně nepřípustné.

Vysoce rizikové systémy pod drobnohledem: Od náboru po úvěrové hodnocení
Speciální pozornost věnuje legislativa vysoce rizikovým systémům AI. Nejsou zakázány, ale podléhají velmi přísným regulatorním požadavkům. V běžné podnikatelské praxi jde o nástroje používané k automatizovanému náboru zaměstnanců, hodnocení uchazečů o práci, scoringu klientů při poskytování úvěrů nebo vyhodnocování rizik v pojišťovnictví. Pokud společnost tyto systémy zavádí, musí zajistit důsledný lidský dohled, vysokou kvalitu a správu trénovacích dat, technickou spolehlivost, bezpečnost a podrobnou dokumentaci o fungování celého algoritmu.

Pravidlo poctivé hry: Transparentnost a lidský prvek na prvním místě
Pro většinu běžných firem v roli zavádějících subjektů platí především rozsáhlá povinnost transparentnosti. Lidé musí být jasně informováni, pokud komunikují s automatizovaným systémem (např. chatbotem či hlasovým asistentem) nebo pokud konzumují synteticky vytvořený či upravený obsah (tzv. deepfakes). Zákon zároveň klade velký důraz na princip lidského dohledu – konečné rozhodnutí s právními či významnými dopady na jednotlivce by nemělo zůstávat výhradně na algoritmu, ale má podléhat přezkumu odpovědnou fyzickou osobou.

Vzdělaný tým jako zákonný požadavek: Povinná AI gramotnost zaměstnanců
Stěžejním součástí legislativy je povinnost budovat dostatečnou AI gramotnost napříč organizací. Zaměstnavatelé musí zajistit, aby všichni pracovníci, kteří s nástroji umělé inteligence přicházejí do styku, disponovali odpovídajícími znalostmi a rozuměli nejen fungování daného softwaru, ale i souvisejícím rizikům v oblasti ochrany osobních údajů, autorských práv a základních lidských práv.

Pokuty, které zabolí: Hrozba sankcí v desítkách milionů eur
Nedodržení nových pravidel přináší extrémní finanční rizika. Sankční mechanismus je odstupňovaný a v případě nejzávažnějších porušení, jako je provozování zakázaných AI praktik, dosahují pokuty výše až 35 milionů eur, případně 7 % z celosvětového ročního obratu společnosti podle toho, která částka je vyšší. Za neposkytnutí součinnosti nebo uvádění nepravdivých informací orgánům dohledu pak hrozí pokuty v řádu milionů eur.