PRAVIDLA POUŽITÍ AI

Nařízení EU o AI zavádí kategorizaci AI systémů. Podle toho se potom uplatňují různá pravidla a povinnosti při používání takových AI systémů.

Záleží vždy na individuálních okolnostech, do které kategorie bude vámi používaný AI systém spadat a které povinnosti tedy budete muset plnit. Obecně se nicméně lze řídit pravidlem přímé úměry – čím více je řešení automatizované, čím více rozhoduje AI za vás, čím více ovlivňuje svobodnou vůli osob a čím více osobních údajů zpracovává, tím rizikovější daný AI systém bude. Například často používaná AI řešení náboru tak mohou patřit mezi obecné AI systémy s poměrně volným režimem, ale i mezi vysoce rizikové AI systémy s velmi přísným režimem, a to právě v závislosti na funkcích a způsobu využití takového AI systému. AI systémy se proto podle AI Act dělí takto:

  1. Zakázaná AI – platí obecný zákaz používání;
  2. Vysoce riziková AI – pro její používání platí přísná pravidla, např. používat AI transparentně, zavést systém kvality a řízení rizik, systém vhodné správy dat, zajistit lidský dohled nad systémem apod.
  3. Obecná AI – platí pouze obecnější pravidla užívání, i u těchto je nutné např. používat AI transparentně a zajistit informovanost uživatelů a osob, které jsou použití AI vystaveny.

Bez ohledu na kategorii AI pro zaměstnavatele platí, že vždy musí zajistit (i) dostatečnou úroveň gramotnosti svých zaměstnanců v oblasti AI, (ii) dodržet obecná pravidla ochrany osobních údajů (zejména GDPR!) a (iii) dodržet obecná pravidla ochrany autorských práv.

Některé povinnosti navíc pak mají poskytovatelé AI systémů.

RIZIKA

V případě porušení povinností hrozí tato rizika:

  • sankce (pokuta) ve výši až 35 miliónů EUR či 7 % celkového celosvětového ročního obratu;
  • omezená možnost zprostit se odpovědnosti za případné přestupky či jiné delikty;
  • soukromoprávní nároky (např. zaměstnanců či uchazečů) např. na náhradu škody.

CO Z TOHO UŽ JE ÚČINNÉ

Nařízení o AI nabývá účinnosti postupně:

  • 2.2.2025 – pravidla o zakázané AI a povinnost zajistit AI gramotnost zaměstnanců;
  • 2.8.2025 – pravidla o obecné AI, zřízení příslušných orgánů EU a státního orgánu, sankce;
  • 2.8.2026 – pravidla o vysoce rizikové AI a zbývající pravidla dle nařízení;
  • 2.8.2027 – specifická pravidla o vysoce rizikových systémech v souvislosti s tzv. harmonizačními předpisy EU dle přílohy I nařízení o AI.

Jinými slovy již dnes musí zaměstnavatelé zjistit, jaká všechna AI řešení a jakým způsobem využívají a dle toho vhodným způsobem proškolit zaměstnance pracující s AI, a připravit se na aplikaci pravidel o obecné AI, která začnou platit již od poloviny léta letošního roku.

CO S TÍM

Co nejdříve

  • zjistěte, jaké AI systémy používáte a jakým způsobem;
  • přestaňte používat systémy spadající do zakázané AI, pokud je používáte (neboť zákaz platí již dnes);
  • zajistěte AI gramotnost svých zaměstnanců (neboť tato povinnost platí již dnes);
  • dejte pozor na řadu mýtů, které v této oblasti kolují po internetu (např. povinné souhlasy zaměstnanců ohledně zpracování jejich osobních údajů).

Následně

  • připravte se na plnění povinností ve vztahu k obecné AI, která budou platit již od 2.8.2025;
  • začněte s přípravou na plnění povinností ve vztahu k vysoce rizikové AI (pokud ji používáte také), které budou platit od 2.8.2026 – byť jde o pozdější datum, plnění povinností bude vyžadovat implementaci systémů kvality, řízení rizik, správy dat a bezpečnosti, může jít tedy o rozsáhlá technicko-organizační opatření vyžadující přípravu vnitřních směrnic, nastavení vnitřních procesů a proškolení zaměstnanců, takže ani s tímto není už příliš prostoru pro otálení.