Umělá inteligence se v nizozemském pracovním právu řídí čtyřmi soubory pravidel najednou: nařízením EU o umělé inteligenci, které klasifikuje většinu systémů pro nábor a řízení pracovní síly jako vysoce rizikové; GDPR, které omezuje automatizované rozhodování o jednotlivcích; nizozemskou legislativou o rovném zacházení, která činí zaměstnavatele odpovědným za diskriminační důsledky bez ohledu na to, kdo nástroj vytvořil; a zákonem o radách zaměstnanců, který dává radě zaměstnanců slovo před zavedením takového systému. Za výsledek odpovídá zaměstnavatel, nikoli dodavatel softwaru. Tento článek uvádí, co každý z těchto režimů vyžaduje, kdy se povinnosti vztahují a co je třeba zavést, než se nástroj umělé inteligence dotkne rozhodnutí o náboru nebo výkonu.
Jak nizozemští zaměstnavatelé ve skutečnosti využívají umělou inteligenci
Zavádění probíhá rychle. Podle nizozemského statistického úřadu (CBS) používal v roce 2025 umělou inteligenci každý šestý nizozemský podnik, což je zhruba sedmnáct procent, což je dvojnásobek podílu zaznamenaného v roce 2023. Mezi podniky, které ji používají, ji třicet pět procent aplikuje na marketing nebo prodej, třicet dva procent na administrativní nebo manažerské úkoly a čtvrtina na výzkum, vývoj a inovace. Využívání je soustředěno v oblasti informací a komunikace, finančních služeb a specializovaných obchodních služeb a u nejmenších firem je výrazně nižší.
V samotném pracovním poměru se žádosti o zaměstnání dělí do malého počtu skupin. Systémy sledování uchazečů prověřují a hodnotí životopisy podle předem stanovených kritérií a některé platformy jdou ještě dále a hodnotí video pohovory na základě řečových a jazykových vzorců. Systémy pro hodnocení výkonu agregují data o produktivitě, míru dokončení a zpětnou vazbu od zákazníků do hodnocení, která se podpoří v odměňování a povýšení. Nástroje pro plánování pracovní síly předpovídají poptávku a přidělují směny. Řízení přístupu a evidence času se stále více spoléhají na biometrické technologie. A generativní nástroje se nyní používají pro tvorbu návrhů, interní komunikaci a odpovědi na otázky zaměstnanců ohledně obchodních podmínek v první linii.
Právní situace nezávisí na tom, jak je technologie popsána. Důležité je, zda systém vytváří nebo podstatně ovlivňuje rozhodnutí o identifikovatelné osobě a kolik prostoru má lidská bytost skutečně k tomu, aby dospěla k jinému závěru. Tato otázka se prolíná každou níže uvedenou částí a naším širším materiálem o umělé inteligenci na pracovišti a algoritmickém rozhodování.
Co vyžaduje nařízení o umělé inteligenci a od kdy
Nařízení EU o umělé inteligenci vstoupilo v platnost v srpnu 2024 a uplatňuje se postupně. Dva body jsou často chybně uvedeny a oba jsou důležité pro plánování.
Zaprvé, zákazy již platí. Systémy umělé inteligence, které na pracovišti odvozují emoce, jsou zakázány s výjimkou lékařských nebo bezpečnostních účelů, což zahrnuje velkou část toho, co se prodává jako analýza sentimentu a monitorování zapojení. Sociální bodování, biometrická kategorizace, která odvozuje citlivé charakteristiky, jako je rasa, politické názory, členství v odborech nebo zdravotní stav, a manipulativní techniky, které podstatně zkreslují chování, jsou rovněž zcela zakázány. Povinnosti pro modely umělé inteligence pro všeobecné použití a povinnosti transparentnosti podle článku 50, včetně povinnosti zveřejňovat, že obsah je uměle generován a že osoba interaguje se strojem, jsou rovněž již v platnosti.
Za druhé, režim s vysokým rizikem byl odložen. Souhrnný digitální balíček odložil pouze tu část harmonogramu: povinnosti pro systémy v příloze III, kde se nachází nábor, přidělování úkolů, povyšování, ukončení pracovního poměru a sledování výkonu, se přesouvají na 2. prosince 2027 a povinnosti pro produkty v příloze I se přesouvají na 2. srpna 2028. To je čas na přípravu, nikoli důvod k čekání, protože GDPR, zákon o rovném zacházení a zákon o radách zaměstnanců platí nyní a pokrývají většinu stejné oblasti.
Pokud se vysoce rizikové povinnosti skutečně projeví, zaměstnavatel je obvykle spíše provozovatelem než poskytovatelem a povinnosti provozovatele jsou praktické: používat systém v souladu s pokyny, pověřit lidským dohledem osoby, které mají kompetence, školení a oprávnění k zásahu, zajistit, aby vstupní data byla relevantní a dostatečně reprezentativní, uchovávat automaticky generované protokoly, informovat pracovníky a jejich zástupce před uvedením systému do provozu a informovat jednotlivce, že se na ně systém vztahuje. Zaměstnavatel, který na systém uvede své vlastní jméno nebo jej podstatně upraví, se může stát poskytovatelem a převzít plnou povinnost posuzování shody a dokumentace. Všimněte si také, že navrhovaná směrnice o odpovědnosti za umělou inteligenci byla stažena, takže škody způsobené systémem umělé inteligence se řeší podle běžných nizozemských pravidel o odpovědnosti a podle režimu odpovědnosti za vadný výrobek. Náš přehled právní stránky umělé inteligence v EU podrobněji sleduje harmonogram.
Diskriminace: nizozemská pravidla, která platí pro algoritmický výběr
Rovné zacházení v nizozemském zaměstnání se řídí vnitrostátními zákony, které provádějí směrnice EU o rovnosti, a vztahují se na rozhodnutí vydaná algoritmem přesně stejně jako na rozhodnutí přijatá manažerem. Obecný zákon o rovném zacházení zakazuje rozlišování na základě náboženství, přesvědčení, politického názoru, rasy, pohlaví, národnosti, sexuální orientace a rodinného stavu. Samostatné zákony se vztahují na věk a zdravotní postižení nebo chronické onemocnění. Občanský zákoník zakazuje rozlišování mezi muži a ženami v zaměstnání a při povyšování a samostatně zakazuje rozlišování na základě pracovní doby a na základě smlouvy na dobu určitou oproti smlouvě na dobu neurčitou. Diskriminace je za definovaných okolností také trestným činem.
Případy umělé inteligence rozhodují dva rysy tohoto rámce. Prvním je, že se týká jak přímého, tak nepřímého rozlišování. Přímé rozlišování, kdy se jako kritérium používá chráněná charakteristika, je nezákonné, s výjimkou úzkých zákonných výjimek. Nepřímé rozlišování, kdy zdánlivě neutrální kritérium neúměrně znevýhodňuje chráněnou skupinu, je nezákonné, pokud není objektivně odůvodněno legitimním cílem a prostředky nejsou vhodné a nezbytné. Téměř každý problém algoritmické diskriminace je druhého druhu: model trénovaný na historických datech o náboru reprodukuje vzorec v těchto datech a zástupné ukazatele, jako je PSČ, rok kvalifikace, mezera v kariérní historii nebo jazyk použitý v životopise, vykonávají práci, kterou by vykonalo zakázané kritérium.
Druhým je důkazní břemeno. Jakmile osoba prokáže skutečnosti, z nichž lze předpokládat rozdíl, je na zaměstnavateli, aby prokázal, že k němu nedošlo. Uchazeč, který prokáže statistickou nerovnost ve výsledcích automatizovaného výběrového řízení, udělal dostatek pro to, aby toto břemeno přesunul, a zaměstnavatel, který nedokáže vysvětlit kritéria, která systém použil, není v pozici, aby se ho zbavil. Nákup nástroje od dodavatele nepomůže: zaměstnavatel nese odpovědnost uchazeči nebo zaměstnanci. Stížnosti lze podat k Nizozemskému institutu pro lidská práva, jehož stanoviska nejsou závazná, ale mají váhu, nebo k občanskoprávním soudům.
Je vhodné si ujasnit, co se nevztahuje. V Nizozemsku neexistuje žádná zákonná povinnost používat zdokumentovanou pracovní metodu pro nábor a výběr zaměstnanců: návrh zákona, který by ji zavedl a dal Úřadu práce dozorčí roli, byl Senátem dne 26. března 2024 zamítnut a pozdější iniciativa soukromého poslance na stejnou věc nebyla přijata. Absence tohoto zákona nic nemění na odpovědnosti za výsledek. Znamená to jednoduše, že si zaměstnavatel zvolí vlastní metodu a nese její riziko, což je spíše důvodem k dokumentování a testování výběrových kritérií než důvodem k jejich neprovádění.
V praxi to znamená tři věci. Předem se rozhodnout, která kritéria jsou pro danou roli relevantní a lze je odůvodnit, a nakonfigurovat nástroj podle těchto kritérií, spíše než podle obecné představy o dobrém kandidátovi. Výsledky testovat napříč chráněnými skupinami v pravidelných intervalech, nejen při implementaci, a výsledky uchovávat. A vstupy a váhy modelu uchovávat ve formě, kterou lze vysvětlit soudu nebo institutu, protože systém, který nikdo nedokáže vysvětlit, je systém, který nikdo nemůže obhájit. Pokud nástroj pochází zvenčí, zakomponovat do smlouvy s dodavatelem právo na tyto informace a na audit.
Ochrana osobních údajů: automatizovaná rozhodnutí, posouzení dopadů a monitorování
GDPR je režim, který platí v současnosti, a je to ten, jehož vymáhání je v krátkodobém horizontu nejpravděpodobnější. V pracovním kontextu vykonávají většinu práce tři z jeho pravidel.
Prvním je pravidlo o automatizovaném individuálním rozhodování. Osoba má právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, které má právní účinky nebo se jí podobně významně dotýká, pokud se neuplatní jedna z úzkých výjimek, a i tehdy musí být zavedena vhodná ochranná opatření, včetně lidského zásahu, možnosti vyjádřit svůj názor a práva napadnout rozhodnutí. Automatické odmítnutí uchazeče nebo stanovení výkonnostního hodnocení, které určuje mzdu bez lidského posouzení, spadá přímo do tohoto pravidla. Nominální lidská účast neznamená přijetí rozhodnutí mimo něj: osoba provádějící přezkum musí mít pravomoc a informace k dosažení jiného závěru, a to v praxi, nikoli v teorii.
Druhým je transparentnost. V případech automatizovaného rozhodování tohoto druhu musí správce poskytnout smysluplné informace o použité logice a o významu a předpokládaných důsledcích zpracování. Nejde o požadavek na zdrojový kód, ale vyžaduje to, aby zaměstnavatel mohl sdělit, které faktory systém zvažuje a jak. Zaměstnanci a uchazeči o práci si rovněž zachovávají běžná práva na přístup, opravu a vznesení námitky. Náš přehled nizozemského práva na ochranu osobních údajů a naše poznámka k obecnému rámci ochrany osobních údajů tato práva v plném rozsahu stanoví.
Třetím je posouzení vlivu na ochranu osobních údajů. Posouzení vlivu na ochranu osobních údajů je vyžadováno v případech, kdy zpracování pravděpodobně povede k vysokému riziku pro jednotlivce, a systematické a rozsáhlé hodnocení osobních aspektů automatizovanými prostředky, jakož i systematické sledování lidí v práci, jsou přesně ty případy, které nařízení uvádí. Proveďte ho před spuštěním systému, zapojte pověřence pro ochranu osobních údajů a zaznamenejte zvažované alternativy a zvolená zmírňující opatření; nizozemský úřad pro ochranu osobních údajů si o něj může kdykoli vyžádat a jeho absence je sama o sobě porušením práva.
Dva další body se týkají specifických aspektů pracovního poměru. Souhlas je zřídka platným základem pro zpracování údajů zaměstnanců, protože nerovnováha mezi zaměstnavatelem a zaměstnancem znamená, že je zřídka udělen svobodně; zaměstnavatel se obvykle musí spoléhat na nezbytnost zpracování pro plnění smlouvy, na zákonnou povinnost nebo na oprávněný zájem a oprávněný zájem vyžaduje zdokumentované vyvážení soukromí dotčených osob, v tomto ohledu může před spuštěním systému poradit právník specializující se na ochranu osobních údajů . Monitorování musí být přiměřené a co nejomezenější: skryté nebo plošné sledování všech zaměstnanců tento test neobstojí, účel musí být definován předem, doba uchovávání musí být krátká a zaměstnanci musí být informováni. Pokud poskytovatel umělé inteligence zpracovává data na základě vašich pokynů, je povinná dohoda o zpracování a rozdělení rolí správce a zpracovatele by mělo být vyřešeno před podpisem smlouvy. Pokud jsou údaje zaměstnanců použity k trénování modelu nebo sdíleny s dodavatelem za tímto účelem, je nutné zásadu omezení účelu a pravidla pro sdílení údajů propracovat samostatně; viz také náš materiál o ochraně osobních údajů, umělé inteligenci a velkých datech.
Rada zaměstnanců je na prvním místě
V organizaci s radou zaměstnanců není rada formalitou, kterou je třeba vyřídit po podpisu smlouvy s dodavatelem. Zákon o radách zaměstnanců jí dává dvě odlišné pravomoci a obě jsou realizovány umělou inteligencí na pracovišti.
Rada má poradní právo k důležitým zamýšleným rozhodnutím, mezi něž patří zavedení nebo úprava důležitého technologického zařízení a důležité změny v organizaci práce. O radu je nutné se obrátit v okamžiku, kdy ještě může rozhodnutí ovlivnit, a pokud se zaměstnavatel od rady odchýlí, musí pozastavit její provádění na jeden měsíc, během kterého může rada předložit rozhodnutí Podnikatelské komoře (Ondernemingskamer) z důvodu, že k němu zaměstnavatel nemohl rozumně dospět.
Rada má silnější pravomoc, právo souhlasu, nad pravidly upravujícími hodnocení zaměstnanců a nad zařízeními určenými k pozorování nebo monitorování přítomnosti, chování nebo výkonu zaměstnanců. Téměř každý nástroj pro sledování výkonu nebo výkonu umělé inteligence spadá do jedné z těchto kategorií. Bez souhlasu rady je ujednání neplatné a zaměstnavatel se na něj nemůže odvolávat; rada se může této neplatnosti dovolávat a zaměstnavatel, který chce v řízení pokračovat, musí požádat okresní soud o náhradní souhlas.
V praxi zapojte radu do fáze výběru, poskytněte jí dokumentaci, nikoli shrnutí, umožněte jí získat nezávislé technické poradenství na náklady zaměstnavatele a zaznamenejte, co bylo dohodnuto ohledně testování, hodnocení a okamžiku, kdy bude ujednání přezkoumáno. Naše stránky o nizozemském pracovním právu a o povinnostech zaměstnavatele podle nizozemského pracovního práva stanoví související konzultační povinnosti.
Algoritmické řízení a práce na platformě
Nejintenzivnější forma algoritmického řízení se nachází na digitálních platformách práce, kde software přiděluje práci, stanovuje sazbu a rozhoduje, kdo si ponechá přístup k aplikaci. Právo EU to nyní přímo reguluje. Směrnice o práci na platformách byla přijata v říjnu 2024 a členské státy ji musí provést do 2. prosince 2026. Zavazuje platformy informovat pracovníky a jejich zástupce o automatizovaných monitorovacích a rozhodovacích systémech, které významně ovlivňují pracovní podmínky, zajistit lidský dohled nad těmito systémy a posoudit jejich vliv na zdraví a bezpečnost a dát pracovníkům právo na vysvětlení a lidský přezkum důležitých rozhodnutí, jako je omezení nebo pozastavení účtu. Zakazuje také zpracování určitých kategorií údajů, včetně údajů o emocionálních a psychických stavech a o soukromých rozhovorech.
Pro zaměstnavatele, kteří nejsou platformami, z toho plynou dva důsledky. Normy v této směrnici popisují to, co regulační orgány a soudy stále častěji považují za normální pro každého zaměstnavatele používajícího algoritmické řízení, a jejich zabudování nyní stojí málo. Stejný faktický vzorec vyvolává otázku o statusu zaměstnání. Pokud je osoba řízena algoritmem stejně striktně jako zaměstnanec řízen manažerem, lze tento vztah kvalifikovat jako pracovní smlouvu bez ohledu na označení, s následnou ochranou proti dani ze mzdy, příspěvkům a propuštění. Nizozemské daňové úřady ukončily moratorium na vymáhání falešné samostatné výdělečné činnosti k 1. lednu 2025 a byla přijata zákonná presumpce zaměstnání založená na hodinové sazbě, jejíž vstup v platnost bude stanoven královským dekretem. Přeshraniční ujednání přidávají další vrstvu, kterou se zabýváme v naší poznámce o práci přes hranice v digitálním světě.
Umělá inteligence v řízení výkonu a propouštění
Nizozemské zákony o propouštění jsou uzavřeným systémem a žádný automatizovaný výstup je nezkracuje. Zaměstnavatel, který chce ukončit smlouvu na dobu neurčitou z osobních důvodů, musí přesvědčit okresní soud, že zákonný důvod je plně splněn, a v případě nedostatečného výkonu to znamená, že zaměstnanci bylo jasně řečeno, co je špatně, že mu byla dána skutečná příležitost ke zlepšení s podporou a že byl zvážen jeho přeřazení na jiné pracovní místo. Skóre produktivity vygenerované softwarem je důkazem, a pouze důkazem. Neprokazuje, že byl zaměstnanec informován, že proces zlepšování byl spravedlivý nebo že měření odráželo skutečnou práci, a je napadnutelné ve všech třech bodech.
Opakují se tři selhání. Měření výstupu bez úpravy kontextu, takže zaměstnanec s upravenými pracovními povinnostmi, se zkrácenou pracovní dobou nebo se vracející z dlouhodobé nemoci je hodnocen podle standardu, který se na něj nevztahuje, což uvádí do hry pravidla rovného zacházení a zákaz propouštění během nemoci. Spoléhání se na systém, jehož kritéria nelze vysvětlit, což ztěžuje testování důkazů a ztěžuje jejich napadení zaměstnancem. A zacházení s lidskou kontrolou jako s podpisem na závěru algoritmu, což je přesně to, čemu má GDPR a nařízení o umělé inteligenci zabránit.
Odpovídající disciplína je přímočará. Používejte automatizovaný výstup jako vstup pro zdokumentované lidské hodnocení, zaznamenávejte zdůvodnění osoby, která rozhodnutí učinila, uchovávejte proces zlepšování na papíře a buďte schopni prokázat, co systém měřil a po jaké období. Zaměstnavatelé, kteří se v tomto mýlí, mají tendenci ztrácet na procesu spíše než na obsahu; náš přehled nejčastějších chyb v dodržování pracovního práva se zabývá tímto vzorcem a nedávné změny pracovního práva a povinnosti informovat zaměstnance o jejich podmínkách jsou stanoveny samostatně. V případech, kdy automatizace skutečně ruší pracovní pozice, vede cesta k propouštění přes UWV a uplatňuje se povinnost zvážit rekvalifikaci a přeřazení, jak je vysvětleno v našem průvodci pracovním právem v Nizozemsku.
Komu patří to, co umělá inteligence produkuje
Generativní nástroje vyvolávají samostatnou otázku, se kterou se zaměstnavatelé setkávají, jakmile je zaměstnanci používají pro skutečnou práci. Nizozemské autorské právo chrání dílo pouze tehdy, pokud se jedná o vlastní duševní výtvor autora, který vyžaduje, aby lidská bytost činila kreativní rozhodnutí. Výstup vytvořený s okamžitou akcí a bez podstatného lidského autorství proto pravděpodobně nebude vůbec předmětem autorského práva, což znamená, že konkurenti jej mohou volně kopírovat. Pokud zaměstnanec učiní skutečná kreativní rozhodnutí s pomocí nástroje, může být dílo chráněno a autorská práva k dílům vytvořeným zaměstnancem při výkonu pracovního poměru přecházejí ze zákona na zaměstnavatele. Toto pravidlo se nevztahuje na dodavatele, jejichž práva musí být postoupena listinou.
Z toho plynou dva praktické důsledky. Materiál, který má být chráněn, jako například prvek značky nebo dokumentace k produktu, by měl nést prokazatelný lidský přínos a celý proces by měl být zaznamenán. A je třeba si přečíst podmínky samotné platformy umělé inteligence, protože určují, jaká práva si poskytovatel nárokuje nad vstupy a výstupy a zda je předložený materiál používán pro školení; vkládání důvěrného materiálu nebo osobních údajů do veřejného nástroje může porušovat jak povinnost mlčenlivosti, tak GDPR. Patenty nastolují související otázku: systém umělé inteligence nelze označit za vynálezce, takže v žádosti musí být identifikován lidský vynálezce. Tyto otázky dále rozebíráme v našich článcích o chatbotech, autorských právech a dodržování předpisů a o vývoji tvůrčích práv a v našem průvodci právem duševního vlastnictví v Nizozemsku . Možnosti vymáhání v případech, kdy třetí strany kopírují materiál chráněný proti kopírování, jsou uvedeny na naší stránce o vymáhání práv duševního vlastnictví.
Odpovědnost, dohled a vymáhání
Expozice přichází z několika směrů najednou a jsou spíše kumulativní než alternativní.
Podle nařízení o umělé inteligenci jsou pokuty odstupňované: až do výše třiceti pěti milionů eur nebo sedmi procent celosvětového ročního obratu, podle toho, která částka je vyšší, za zakázané praktiky a až do výše patnácti milionů eur nebo tří procent za porušení povinností s vysokým rizikem. Dohled v Nizozemsku je sdílený, přičemž nizozemský Úřad pro ochranu osobních údajů a Úřad pro digitální infrastrukturu koordinují národní rámec a odvětvové regulační orgány pokrývají jejich vlastní oblasti; před plným zavedením je k dispozici testovací regulační prostředí. Podle GDPR jsou stropy pro nejzávažnější porušení dvacet milionů eur nebo čtyři procenta celosvětového obratu a jednotlivci mohou požadovat náhradu majetkové i nemajetkové újmy.
Vedle regulačních orgánů zůstávají nejpravděpodobnějším zdrojem nároků běžné pracovní cesty. Zaměstnanec může napadnout propuštění nebo rozhodnutí o výkonu u okresního soudu. Žadatel nebo zaměstnanec může podat stížnost na diskriminaci u Nizozemského institutu pro lidská práva nebo u občanskoprávních soudů s obráceným důkazním břemenem. Rada zaměstnanců může napadnout rozhodnutí přijaté bez požadovaného poradenství nebo souhlasu. A smlouva s dodavatelem, která zaměstnavateli ponechává bez dokumentace, práv na audit nebo odškodnění, přeměňuje selhání dodavatele na ztrátu zaměstnavatele. Řízení dodavatelů je proto součástí právní práce, nikoli detailu zadávání veřejných zakázek: požadujte technickou dokumentaci, důkazy o testování zaujatosti, dohodu o zpracování, okamžité oznámení incidentů, práva na audit a spolupráci s regulačními orgány a s dodavatelem, který nedokáže vysvětlit, jak jeho systém funguje, zacházejte jako s nepřijatelným rizikem. Naše stránka o typech právního souladu stanoví, jak to organizovat spolu s vašimi dalšími povinnostmi, a naše poznámka o odpovědnosti za chyby způsobené umělou inteligencí se zabývá občanskoprávním postojem.
Co nyní zavést
Začněte inventarizací. Uveďte všechny používané nebo zvažované systémy, které se týkají rozhodování o zaměstnání, včetně nástrojů zavedených jednotlivými odděleními bez formálního zadávání veřejných zakázek, a u každého z nich zaznamenejte, co dělá, jaká data používá, která rozhodnutí ovlivňuje a kdo kontroluje výstupy. Většina organizací zjistí více, než očekávala, a inventarizace je dokument, na kterém závisí každý další krok.
Poté proveďte klasifikaci. U každého systému rozhodněte, zda spadá pod zákazy, zda je pravděpodobné, že bude vysoce rizikový podle přílohy III, zda zahrnuje automatizované rozhodování ve smyslu GDPR a zda aktivuje poradní právo nebo právo rady zaměstnanců na souhlas. Tato klasifikace určuje pořadí: nejprve rada zaměstnanců, posouzení dopadů před zavedením a dokumentace od samého začátku, spíše než její následná rekonstrukce.
Popište řízení v rámci jednotných zásad, které stanoví, která rozhodnutí vždy vyžadují lidské posouzení, kdo je oprávněn systém přepsat a na jakém základě, jak jsou zaměstnanci školeni, co se testuje a jak často, jak jsou zaměstnanci a uchazeči informováni a jak mohou napadnout rozhodnutí a co se stane, když systém nefunguje správně. Udržujte zásady v souladu se zbytkem pracovní dokumentace, nikoli jako samostatný dokument o shodě, a přezkoumejte je, jakmile vstoupí v platnost postupné povinnosti vyplývající z nařízení o umělé inteligenci.
A konečně, testování a zaznamenávání. Provádějte testování výsledků napříč chráněnými skupinami, uchovávejte protokoly vyžadované nařízením, informujte radu zaměstnanců o výsledcích a každou stížnost na automatizované rozhodnutí považujte za signál týkající se systému, nikoli pouze za signál týkající se jednotlivého případu. Zaměstnavatel, který je schopen předložit inventuru, posouzení dopadů, spis rady zaměstnanců, výsledky testování a odůvodněné lidské rozhodnutí, je v silné pozici, ať už se námitka vydá jakýmkoli směrem.
Law and More radí zaměstnavatelům v oblasti zavádění umělé inteligence a automatizace na pracovišti: klasifikace podle nařízení o umělé inteligenci, posouzení dopadů na ochranu osobních údajů a dohody o zpracování, postupy zaměstnaneckých rad, riziko rovného zacházení při náboru a hodnocení, smlouvy s dodavateli a obhajoba rozhodnutí, která jsou napadena u okresního soudu nebo Nizozemského institutu pro lidská práva. Pokud takový systém zavádíte nebo jej zaměstnanec napadl, kontaktujte naši kancelář.
Často kladené otázky
Zavádění umělé inteligence a automatizace na nizozemských pracovištích vyžaduje pečlivou pozornost věnovanou právům zaměstnaneckých rad , pravidlům na ochranu osobních údajů a nově vznikajícím předpisům EU.
Zaměstnavatelé musí vyvážit technologický pokrok s právními povinnostmi týkajícími se ochrany zaměstnanců, monitorovacích postupů a změn v pracovní síle.
Jaké jsou hlavní právní aspekty implementace umělé inteligence a automatizace na nizozemském pracovišti?
Před zavedením jakéhokoli systému umělé inteligence nebo automatizace, který má dopad na zaměstnance, se musíte poradit se svou radou zaměstnanců. Podle zákona o radách zaměstnanců má rada poradní právo k zavedení důležitého technologického zařízení a právo souhlasit s pravidly pro hodnocení zaměstnanců a se zařízeními používanými ke sledování přítomnosti, chování nebo výkonu.
To se týká systémů umělé inteligence používaných při náboru, hodnocení výkonu nebo plánování pracovní síly. Nařízení EU o umělé inteligenci vstoupilo v platnost v srpnu 2024 a klasifikuje většinu systémů umělé inteligence na pracovišti jako vysoce rizikové, ačkoli tyto povinnosti jsou zaváděny později než zákazy, které již platí.
Musíte zajistit, aby vaše systémy umělé inteligence splňovaly přísné požadavky na řízení rizik, kvalitu dat, transparentnost a lidský dohled. Systémy používané ke škodlivé manipulaci, nespravedlivému sociálnímu bodování nebo rozpoznávání emocí v pracovním prostředí jsou zcela zakázány.
Vaše systémy umělé inteligence musí splňovat pravidla GDPR pro automatizované rozhodování. Nemůžete činit významná rozhodnutí o zaměstnání pouze na základě algoritmů bez lidského zapojení.
To zahrnuje propouštění, povýšení a hodnocení výkonu.
Jak mohou nizozemští zaměstnavatelé zajistit dodržování pracovních zákonů při zavádění automatizace?
Měli byste začít tím, že informujete svou zaměstnaneckou radu o jakékoli plánované automatizaci nebo implementaci umělé inteligence. Zaměstnanecká rada má právo obdržet podrobné informace o tom, jak technologie funguje, jaká data shromažďuje a jak ovlivňuje zaměstnance.
Bez jejich rady nemůžete pokračovat. Pokud váš systém umělé inteligence zpracovává osobní údaje zaměstnanců ve velkém měřítku, musíte provést posouzení vlivu na ochranu osobních údajů.
Toto posouzení by mělo identifikovat rizika pro soukromí zaměstnanců a nastínit opatření ke snížení těchto rizik. Nizozemský úřad pro ochranu osobních údajů si může tuto dokumentaci kdykoli vyžádat.
Veďte si podrobné záznamy o tom, jak vaše systémy umělé inteligence činí rozhodnutí. Zákon o umělé inteligenci vyžaduje, abyste vedli protokoly, které ukazují, jak algoritmy dospívají k závěrům o zaměstnancích.
Musíte být schopni tato rozhodnutí vysvětlit zaměstnancům a regulačním orgánům, když se vás na to zeptáte.
Jaká práva mají zaměstnanci v Nizozemsku, kteří čelí propouštění v důsledku umělé inteligence a automatizace?
Vaši zaměstnanci mají právo na informace o technologických změnách , které ovlivňují jejich pracovní podmínky. V rámci zákonné povinnosti informovat zaměstnance o podstatných aspektech jejich práce je musíte informovat o změnách, které významně ovlivňují jejich pracovní podmínky.
Zaměstnanci si mohou vyžádat vysvětlení automatizovaných rozhodnutí, která se jich týkají. Pokud váš systém umělé inteligence doporučuje propuštění, přeřazení nebo změny pracovních podmínek, musíte poskytnout jasné vysvětlení, jak bylo toto rozhodnutí učiněno.
Rozhodnutí nemůže být založeno pouze na algoritmických výstupech. Členové rady zaměstnanců mohou jménem všech zaměstnanců požadovat technické podrobnosti o systémech umělé inteligence.
Mají právo přizvat externí odborníky, aby posoudili, zda technologie je v souladu s nizozemským právem a chrání zájmy zaměstnanců.
Jaké jsou povinnosti zaměstnavatelů v Nizozemsku ohledně rekvalifikace nebo přeřazení pracovníků postižených umělou inteligencí a automatizací?
Před propuštěním zaměstnanců, jejichž role se automatizují, máte povinnost prozkoumat alternativy. Nizozemské pracovní právo vyžaduje, abyste prověřili, zda lze dotčené zaměstnance rekvalifikovat na jiné pozice ve vaší organizaci.
To platí i v případě, že automatizace způsobí, že určité role budou zastaralé. Zaměstnancům, kterým hrozí propuštění, musíte nabídnout přiměřené možnosti rekvalifikace .
Důraz by měl být kladen na dovednosti, které pracovníkům umožní přizpůsobit se technologickým změnám nebo přejít na jiné role. Pouhé uvádění automatizace jako důvodu propuštění bez prozkoumání těchto možností může propuštění učinit nezákonným.
Vaše rada zaměstnanců musí poskytovat poradenství ohledně všech restrukturalizačních plánů souvisejících s automatizací. To zahrnuje rozhodnutí o tom, kteří zaměstnanci absolvují rekvalifikaci, jak probíhá přeřazení a jakou podporu poskytujete během přechodného období.
Jak se nizozemský úřad pro ochranu osobních údajů (autoriteit persoonsgegevens) dívá na používání umělé inteligence a monitorování zaměstnanců?
Úřad považuje monitorování zaměstnanců prostřednictvím umělé inteligence za vysoce rizikovou činnost zpracování podle GDPR. Pro jakékoli monitorování je potřeba jasný právní základ, který je v pracovním poměru obvykle oprávněným zájmem, který převažuje nad soukromím zaměstnanců, spíše než souhlasem, protože souhlas udělený zaměstnancem je zřídkakdy dobrovolný.
Umělou inteligenci nelze použít ke zpracování citlivých údajů o zaměstnancích bez splnění přísných podmínek. Zákon EU o umělé inteligenci výslovně zakazuje platformám zpracovávat osobní údaje o emocionálních stavech, přesvědčeních nebo psychologických datech pracovníků.
Tento zákaz se vztahuje i na systémy monitorování pracoviště, které se pokoušejí tyto charakteristiky odvodit. Úřad očekává, že ve všech systémech umělé inteligence zavedete zásady ochrany soukromí již v návrhu.
To znamená, že ochranu soukromí je třeba zabudovat do technologie hned od začátku, a ne ji přidávat později. K dosažení svých obchodních cílů musíte používat co nejméně rušivé metody monitorování.
Jaké potenciální závazky by mohli nizozemští zaměstnavatelé čelit zneužití umělé inteligence a automatizace v pracovních rozhodnutích?
Za nedodržení zákona o umělé inteligenci vám hrozí značné finanční sankce. Zakázané praktiky umělé inteligence mohou vést k pokutám až do výše 35 milionů EUR nebo 7 % celosvětového ročního obratu, podle toho, která částka je vyšší.
Vysoce rizikové systémy umělé inteligence, které nesplňují požadavky, mohou vést k pokutám až do výše 15 milionů eur nebo 3 % celosvětového obratu.
Zaměstnanci se mohou odvolat proti nespravedlivému propuštění v důsledku automatizovaných rozhodnutí. Soudy rozhodly, že ředitelé a zaměstnavatelé musí zachovávat lidský dohled nad rozhodnutími v oblasti bezpečnosti na pracovišti a zaměstnání.
Spoléhání se výhradně na automatizovaný výstup bez skutečného lidského posouzení značně ztěžuje odůvodnění zamítnutí před okresním soudem.
Pokud zneužíváte umělou inteligenci při určování statusu pracovníka, riskujete problémy s retroaktivní klasifikací. Od ledna 2025 nizozemský daňový úřad obnovil vymáhání práva proti fingované samostatné výdělečné činnosti.
Pokud vaše systémy umělé inteligence klasifikují pracovníky nesprávně, můžete čelit opravám sahajícím i několik let zpět. Mohou být uplatněny i sankce za úmyslné nesprávné zařazení.
Porušení ochrany osobních údajů může vést k žalobám ze strany jednotlivých zaměstnanců a vyšetřování ze strany nizozemského úřadu pro ochranu osobních údajů.
Zaměstnanci, s jejichž osobními údaji bylo zneužito systémy umělé inteligence, mohou požadovat náhradu škody. Úřad může uložit nápravná opatření a pokuty na základě závažnosti a rozsahu porušení.
