Pokud vaše nizozemská firma používá umělou inteligenci, která zpracovává osobní údaje, platí pro vás v plném rozsahu GDPR (AVG), které vymáhá nizozemský Úřad pro ochranu osobních údajů (Autoriteit Persoonsgegevens, AP). Zákon EU o umělé inteligenci navíc ukládá povinnosti, které závisí na riziku systému: zákazy zakázaných praktik a povinnost gramotnosti v oblasti umělé inteligence platí od 2. února 2025, zatímco většina režimu s vysokým rizikem byla odložena.
Nejčastější chybou je zacházet s umělou inteligencí jako s budoucím problémem s dodržováním předpisů. Odklad v zákoně o umělé inteligenci nepozastavuje nic v GDPR. Tato stránka vysvětluje, která pravidla platí nyní, která přijdou později a co byste měli udělat jako první.
Obsah
Která pravidla GDPR platí při používání umělé inteligence?
Všechny, jakmile systém umělé inteligence zpracovává osobní údaje. Pro každou operaci zpracování potřebujete právní základ, konkrétní účel a ne více údajů, než tento účel vyžaduje.
Právní základy jsou obvyklé: souhlas, plnění smlouvy, právní povinnost nebo oprávněný zájem. U umělé inteligence je nejdůležitější omezení účelu. Údaje o zákaznících, které jste shromáždili za účelem spuštění chatbota, nelze jednoduše znovu použít k trénování jiného modelu. Pokud si koupíte nástroj umělé inteligence, zkontrolujte, zda dodavatel používá vaše vstupy k trénování vlastních modelů; pokud ano, může dodavatel zpracovávat údaje pro své vlastní účely a vy potřebujete jasné smluvní podmínky týkající se rolí správce a zpracovatele.
Agentura AP poukázala na to, že mnoho modelů umělé inteligence bylo trénováno na datech získaných z internetu bez platného právního základu. Jako uživatel zůstáváte zodpovědní za své vlastní zpracování, takže nemůžete své povinnosti týkající se GDPR přesouvat na poskytovatele umělé inteligence.
A co citlivá data?
Zvláštní kategorie osobních údajů, jako jsou údaje o zdravotním stavu, etnickém původu, náboženství a biometrické údaje používané k identifikaci osoby, v zásadě nesmí být zpracovávány. Umožňují to pouze omezené výjimky v GDPR a nizozemském zákoně o implementaci GDPR (UAVG).
Umělá inteligence používaná pro nábor, profilování zákazníků nebo zdravotnické služby se k takovým datům rychle dostane, někdy nepřímo, protože je model dokáže odvodit. Identifikujte, které systémy zpracovávají citlivá data, omezte vstup a zdokumentujte výjimku, na kterou se spoléháte. Pokud se žádná z nich nevztahuje, systém k danému účelu nepoužívejte.
Kdy může umělá inteligence rozhodovat o lidech?
GDPR zakazuje rozhodnutí založená výhradně na automatizovaném zpracování, která mají právní účinky nebo podobně významné dopady na osobu, jako je zamítnutí žádosti o úvěr nebo uchazeče o zaměstnání, pokud se neuplatní úzce vymezená výjimka.
V případech, kdy se uplatní výjimka, má daná osoba právo na lidský zásah, vyjádřit svůj názor a napadnout rozhodnutí. Musíte také lidem sdělit, že probíhá automatizované rozhodování, a poskytnout jim smysluplné informace o použité logice a jejích důsledcích. Nemusíte odhalovat obchodní tajemství, ale obecné prohlášení, že „je použita umělá inteligence“, nestačí. Skutečné lidské přezkoumání znamená, že kontrolor má pravomoc a informace ke změně výsledku.
Kdy potřebujete posouzení vlivu na ochranu osobních údajů (DPIA)?
Před zpracováním, které pravděpodobně povede k vysokému riziku pro dotčené osoby, je povinné provést posouzení vlivu na ochranu osobních údajů (DPIA). Umělá inteligence používaná pro profilování, hodnocení zaměstnanců nebo uchazečů nebo kombinování velkých datových sad tuto hranici často splňuje.
Posouzení vlivu na ochranu osobních údajů (DPIA) popisuje zpracování a jeho účel, testuje nezbytnost a přiměřenost, identifikuje rizika a stanoví vaše opatření. Pokud vysoké riziko přetrvává, musíte se před zahájením poradit s AP. Posouzení vlivu na ochranu osobních údajů opakujte, když změníte systém nebo data, která používá.
Co vyžaduje zákon o umělé inteligenci a kdy?
Zákon o umělé inteligenci (AI Act) rozděluje systémy do čtyř úrovní: zakázané praktiky, vysoce rizikové systémy, systémy s povinností transparentnosti a systémy s minimálním rizikem. Vztahuje se na poskytovatele a implementátory, tedy na podniky, které používají systém umělé inteligence z vlastní pravomoci.
| Datum | Co platí |
|---|---|
| 2 2025 února | Zákazy zakázané praktiky umělé inteligencePovinnost poskytovatelů a provozovatelů v oblasti gramotnosti v oblasti umělé inteligence |
| 2 2025 srpna | Pravidla pro poskytovatele univerzálních modelů umělé inteligence; ustanovení o správě a sankcích |
| 2 2026 srpna | Obecné datum použití, včetně povinností týkajících se transparentnosti |
| Odložený | Pravidla pro vysoce riziková odvětví, odložená souhrnným nařízením o umělé inteligenci (nařízení (EU) 2026/1744, platné od 27. července 2026) |
Odklad se týká pouze režimu s vysokým rizikem. V rámci souhrnného nařízení se od 2. prosince 2027 plánují pravidla pro vysoce rizikové oblasti uvedené v příloze zákona, jako je zaměstnanost a kreditní skóre, a od 2. srpna 2028 pravidla pro umělou inteligenci v produktech, na které se již vztahují právní předpisy EU o produktech.
Která použití umělé inteligence jsou vysoce riziková?
Mezi vysoce rizikové systémy patří umělá inteligence používaná v oblasti zaměstnanosti a lidských zdrojů (například k prověřování uchazečů nebo hodnocení zaměstnanců), v přístupu k základním službám, jako je kreditní skóre a stanovování cen pojištění, ve vzdělávání, kritické infrastruktuře, při vymáhání práva, migraci a výkonu spravedlnosti.
U těchto systémů je budou muset provozovatelé používat podle pokynů, zajistit lidský dohled vyškoleného personálu, monitorovat jejich provoz a vést protokoly. Někteří provozovatelé musí také provést posouzení dopadu na základní práva. Model pro všeobecné účely, jako je například model pro rozsáhlé jazyky, se může stát součástí vysoce rizikového systému, pokud jej používáte pro jeden z těchto účelů, například pro prověřování životopisů.
Jaké jsou povinnosti transparentnosti?
Lidé musí vědět, kdy mají co do činění s umělou inteligencí. Chatbot musí jasně uvést, že se nejedná o člověka, a obrázky, zvuk nebo video generované nebo manipulované umělou inteligencí (deepfakes) musí být jako takové zveřejněny.
Většina každodenních činností, jako je psaní e-mailů, shrnutí dokumentů, filtrování spamu nebo plánování zásob, představuje minimální riziko a nenese žádné specifické povinnosti vyplývající ze zákona o umělé inteligenci nad rámec gramotnosti v oblasti umělé inteligence. GDPR se stále uplatňuje, pokud se jedná o osobní údaje.
Kdo dohlíží na umělou inteligenci v Nizozemsku?
Pokud jde o osobní údaje, AP. V případě zákona o umělé inteligenci Nizozemsko staví na stávajících odvětvových dozorcích, přičemž AP dohlíží na oblasti bez odvětvového dozorce a koordinuje ho nizozemský Úřad pro digitální infrastrukturu (Rijksinspectie Digitale Infrastructuur, RDI).
Nizozemský zákon, který tuto strukturu zakotvuje (Uitvoeringswet AI-verordening), je stále návrhem zákona. Dokud nevstoupí v platnost, vymáhání porušení souvisejících s umělou inteligencí probíhá převážně prostřednictvím GDPR, pro které AP nepotřebuje žádné nové pravomoci. Pokud váš systém umělé inteligence podporuje základní nebo důležitou službu, může se na něj vztahovat i zákon o kybernetické bezpečnosti (Cyberbeveiligingswet), platný od 15. srpna 2026.
Co znamená gramotnost v oblasti umělé inteligence v praxi?
Od 2. února 2025 musí poskytovatelé a provozovatelé přijmout opatření k zajištění toho, aby zaměstnanci, kteří provozují nebo používají systémy umělé inteligence, měli dostatečnou úroveň gramotnosti v oblasti umělé inteligence. Tato povinnost je založena na riziku: to, co je dostatečné, závisí na systému a na tom, co s ním zaměstnanci dělají.
- Přijměte písemnou politiku pro umělou inteligenci, která stanoví, které nástroje jsou schváleny a jaká data lze zadávat.
- Školení zaměstnanců pro každou pozici: HR v oblasti náborových nástrojů a zaujatosti, marketing v oblasti profilování, zákaznický servis v oblasti chatbotů.
- Naučte zaměstnance kontrolovat výstupy a eskalaci chyb.
- Zaznamenejte si, kdo byl proškolen, kdy a na co.
Co byste si měli jako firma používající umělou inteligenci ověřit?
- Máte inventář všech používaných systémů umělé inteligence, jejich dodavatelů, vstupů a výstupů?
- Existuje pro každé zpracování osobních údajů právní základ a konkrétní účel?
- Používá dodavatel vaše data k trénování vlastních modelů a řeší to smlouva?
- Přijímá nějaký systém rozhodnutí o lidech bez skutečného lidského posouzení?
- Provedli jste posouzení vlivu na ochranu osobních údajů (DPIA) u vysoce rizikového zpracování?
- Jsou některé z vašich způsobů použití na seznamu zakázaných praktik nebo oblastí s vysokým rizikem?
Co byste si měli jako dodavatel umělé inteligence ověřit?
- Jste poskytovatelem podle zákona o umělé inteligenci a do jaké rizikové kategorie váš systém spadá?
- Byly vaše školicí údaje shromážděny na základě platného právního základu?
- Dostávají vaši zákazníci pokyny a informace, které potřebují k plnění svých povinností?
- Říká váš systém uživatelům, že interagují s umělou inteligencí, a označuje generovaný obsah?
- Jsou vaše smlouvy o zpracování jasně vymezeny role správce a zpracovatele?
Co pro vás můžeme udělat s umělou inteligencí a GDPR?
Naši IT a právníci v oblasti ochrany osobních údajů radí firmám v obou režimech najednou.
- Porovnáme vaše systémy umělé inteligence s rizikovými kategoriemi zákona o umělé inteligenci a s GDPR.
- Vypracujeme vaši interní politiku v oblasti umělé inteligence a rámec pro gramotnost v oblasti umělé inteligence.
- Kontrolujeme dodavatelské smlouvy a dohody o zpracování dat pro nástroje umělé inteligence.
- Provádíme nebo přezkoumáváme posouzení vlivu na ochranu osobních údajů a posouzení dopadů na základní práva.
- Pomáháme vám s dotazy a vyšetřováními ze strany AP.
Shrnutí
- GDPR se v plném rozsahu vztahuje na jakoukoli umělou inteligenci, která zpracovává osobní údaje; odklad zákona o umělé inteligenci na tom nic nemění.
- Zakázané praktiky a povinnost gramotnosti v oblasti umělé inteligence platí od 2. února 2025; většina ostatních pravidel zákona o umělé inteligenci od 2. srpna 2026.
- Režim s vysokým rizikem je odložen souhrnným nařízením o umělé inteligenci (nařízení (EU) 2026/1744).
- Výhradně automatizovaná rozhodnutí s významným dopadem na lidi jsou omezená a vyžadují ochranná opatření.
- Začněte s inventarizací vašich systémů umělé inteligence; ta určuje všechny další kroky.
Často kladené otázky
Znamená odklad zákona o umělé inteligenci, že můžu s dodržováním předpisů počkat?
Ne. Odklad se týká pouze pravidel pro vysoce riziková odvětví. Zákazy zakázaných praktik a povinnost gramotnosti v oblasti umělé inteligence platí od 2. února 2025 a GDPR se v plném rozsahu vztahuje na jakoukoli umělou inteligenci, která zpracovává osobní údaje.
Mohu zadat data zákazníků nebo zaměstnanců do veřejného chatbota s umělou inteligencí?
Pouze pokud máte právní základ, je účel slučitelný a podmínky dodavatele to umožňují. Pokud dodavatel použije vaše vstupy k trénování svých modelů, můžete zveřejňovat osobní údaje pro nový účel; mnoho firem to proto ve svých zásadách pro umělou inteligenci zakazuje.
Je povoleno screening životopisů založený na umělé inteligenci?
Je to povoleno, ale podle zákona o umělé inteligenci se jedná o vysoce rizikové použití a obvykle vyžaduje posouzení vlivu na ochranu osobních údajů podle GDPR. Zamítnutí nesmí být založeno pouze na automatizovaném zpracování bez záruk, které GDPR vyžaduje, jako je skutečné lidské přezkoumání.
Kdo v Nizozemsku vymáhá pravidla pro umělou inteligenci?
Nizozemský úřad pro ochranu osobních údajů (AP) vymáhá dodržování GDPR. V případě zákona o umělé inteligenci budou stávající odvětvové orgány dohledu jednat ve svých vlastních sektorech, přičemž AP bude koordinovat oblasti bez odvětvového orgánu dohledu a oddělení pro výzkum, vývoj a inovace; nizozemský prováděcí zákon je stále ve formě návrhu zákona.