Prohibited practices · Article 5
Co už je při použití AI zakázané
U zakázaných praktik nejde o to, že by systém byl „hodně rizikový“. Některé konkrétní způsoby použití AI zákon přímo zakazuje nebo dovoluje jen ve velmi úzkých podmínkách.
Praktická orientace
Zakázané praktiky jsou stopka, ne jen přísnější režim
Pokud konkrétní použití naplní zákaz podle článku 5 AI Actu, nestačí přidat dokumentaci, nebo školení. Základní problém je samotný způsob použití. U každého zákazu ale záleží na přesných podmínkách a zákonných výjimkách.
Pravidlo pro praxi
Nejdřív zjistěte, zda se způsob použití vůbec blíží některé zakázané kategorii. Pokud ano, ověřte podmínky před nasazením nebo nákupem.
Rychlá mapa zakázaných oblastí
Tohle není náhrada právního testu, ale seznam míst, kde je potřeba okamžitě zpozornět.
- Manipulativní nebo klamavé techniky s významnou újmouZákaz při splnění podmínek
- Zneužití zranitelnosti člověka nebo skupinyZákaz při splnění podmínek
- Sociální scoring lidíZákaz při splnění podmínek
- Predikce rizika spáchání trestného činu pouze z profilování nebo osobnostních rysůZákaz při splnění podmínek
- Necílené stahování fotografií obličejů pro databáze rozpoznáváníZákaz
- Rozpoznávání emocí v práci nebo ve školeZákaz s úzkou výjimkou
- Citlivá biometrická kategorizaceZákaz při splnění podmínek
- Real-time vzdálená biometrická identifikace policií ve veřejném prostoruVelmi úzce omezené
- Vybrané nové zákazy intimního obsahu / CSAMNové od 2. 12. 2026
Škodlivá manipulace a klamavé techniky
AI Act zakazuje určité subliminální, účelově manipulativní nebo klamavé techniky, pokud jsou splněny podmínky týkající se narušení chování a významné újmy. Ne každé přesvědčování, personalizace nebo doporučení je automaticky zakázaná manipulace.
Typicky ano
- Systém cíleně používá manipulační techniky způsobem, který významně narušuje schopnost člověka učinit informované rozhodnutí a vede nebo pravděpodobně vede k významné újmě.
Typicky ne
- Běžné doporučení produktu nebo personalizace bez splnění zákonných podmínek újmy a narušení chování.
Záleží na
- Rozhodující je technika, její účel, dopad na rozhodování člověka a významná újma.
Zneužití zranitelnosti
Zakázané může být AI použití, které zneužívá zranitelnost člověka nebo skupiny spojenou například s věkem, zdravotním postižením nebo specifickou sociální či ekonomickou situací a vede nebo pravděpodobně vede k významné újmě.
Nejde jen o cílovou skupinu
Samotný fakt, že systém používají děti, senioři nebo zranitelní lidé, zákaz nevytváří. Podstatné je zneužití zranitelnosti a zákonný test újmy.
Individuální predikce trestné činnosti
Zakázané je vybrané použití AI pro hodnocení nebo predikci rizika, že konkrétní člověk spáchá trestný čin, pokud je závěr založen pouze na nebo osobnostních rysech a charakteristikách. Zákon obsahuje přesně vymezenou hranici vůči podpůrnému posouzení založenému na objektivních a ověřitelných skutečnostech.
Rozhoduje základ predikce
„AI pomáhá policii“ není dostatečný popis. Je potřeba vědět, z čeho systém riziko konkrétní osoby odvozuje.
Necílené stahování obličejů pro databáze rozpoznávání
AI Act zakazuje vytváření nebo rozšiřování databází pro rozpoznávání obličeje necíleným stahováním obrázků obličejů z internetu nebo kamerových záznamů.
Typicky ano
- Automatické hromadné scrapingování fotografií obličejů z veřejného webu za účelem rozšíření databáze face recognition.
Typicky ne
- Tento konkrétní zákaz se netýká každého legitimního použití fotografie nebo každé databáze osob; míří na necílený scraping pro databáze rozpoznávání obličeje.
Pozor
Rozpoznávání emocí v práci nebo ve škole může být přímo zakázané
Použití AI k odvozování emocí lidí na pracovišti nebo ve vzdělávací instituci je v zásadě zakázané. Výjimka je úzká a týká se systémů určených pro zdravotní nebo bezpečnostní důvody. Komise mezi příklady zakázaného použití uvádí i odhadování emocí při náboru nebo ve zkušební době.
Typicky ano
- AI analyzuje obličej nebo hlas kandidáta a odhaduje jeho emoce při pohovoru.
- Systém sleduje emoce zaměstnanců za účelem hodnocení motivace nebo výkonu.
Záleží na
- Úzká zdravotní nebo bezpečnostní výjimka musí být skutečně opřená o takový účel; obecná „wellbeing“ nálepka nestačí.
Pokud use case odpovídá tomuto popisu, nepokračujte jen s běžným compliance checklistem. Ověřte zákaz před nasazením.
Citlivá biometrická kategorizace
AI Act zakazuje vybrané biometrické kategorizace, které z biometrických údajů odvozují nebo dedukují citlivé osobní charakteristiky. Zákaz má vlastní přesné hranice a výjimky; není totožný s každou biometrickou autentizací nebo kategorizací.
Nezaměňovat
Ověření identity otiskem prstu nebo Face ID není automaticky totéž jako odvozování citlivé charakteristiky člověka z biometrických dat.
Real-time vzdálená biometrická identifikace policií
Použití real-time vzdálené biometrické identifikace ve veřejně přístupných prostorách pro účely vymáhání práva je obecně zakázané s velmi úzce vymezenými zákonnými výjimkami, podmínkami a autorizačními safeguards.
Specifická oblast
Tahle pravidla jsou primárně relevantní pro orgány činné v trestním řízení a nelze je zobecnit na běžné firemní použití biometrie.
Nové zákazy kolem nevyžádaného intimního obsahu a CSAM
Digital Omnibus přidal do článek 5 AI Actu další související s vybraným nevyžádaným intimním obsahem a materiálem sexuálního zneužívání dětí. Tyto nové body mají vlastní rozsah, výjimky a pozdější datum použitelnosti než původní článek 5 AI Actu zákazy.
Nová část režimu
Tyto nově vložené zákazy se nezačaly uplatňovat 2. února 2025; jejich použitelnost je posunutá na 2. prosince 2026.
Kdy zákazy platí
Původní režim zakázaných praktik podle článek 5 AI Actu se uplatňuje od 2. února 2025. Nové body doplněné Digital Omnibus mají výslovně odloženou použitelnost do 2. prosince 2026.
- 2025-02-02 — Původní článek 5 AI Actu se uplatňují
- 2026-12-02 — Začínají se uplatňovat nové zakázané praktiky doplněné Digital Omnibus
Nejste si jistí, jak se tato oblast týká přímo vaší situace?
Otevřít NavigatorPotřebujete AI Act převést do praxe?
Pokud řešíte konkrétní AI use case, governance, AI literacy nebo zavedení pravidel do fungování organizace, napište mi pár vět. Podíváme se na vaši konkrétní situaci.
Probrat konkrétní situaci
Sociální hodnocení lidí (social scoring)
AI Act zakazuje vybrané formy hodnocení nebo klasifikace lidí podle jejich sociálního chování nebo známých či odvozených osobních charakteristik, pokud výsledné zacházení splní zákonné podmínky nepřiměřenosti nebo nesouvisejícího kontextu.
Typicky ano
Záleží na