Firmy v Nizozemsku stále častěji využívají nástroje umělé inteligence ke zlepšení svého provozu. Mnohé z nich čelí nejasnostem ohledně toho, co zákon vyžaduje.

Pokud vyvíjíte, nakupujete nebo používáte systémy umělé inteligence v Nizozemsku, musíte dodržovat evropský zákon o umělé inteligenci, který stanoví přísná pravidla pro to, jak lze umělou inteligenci používat v podnikání. Předpisy, které vstoupily v platnost v roce 2024, se týkají téměř všech společností používajících umělou inteligenci, od malých podniků nasazujících chatboty až po velké organizace vytvářející systémy na míru.

Pochopení vašeho právní závazky Podle nizozemského a evropského práva je nezbytné před integrací umělé inteligence do vašeho podnikání. Pravidla se liší v závislosti na typu systému umělé inteligence, který používáte, a na tom, jak jej používáte.

Některé aplikace umělé inteligence jsou zcela zakázány, zatímco jiné vyžadují pečlivou dokumentaci a dohled. Vaše povinnosti v oblasti dodržování předpisů závisí také na tom, zda systémy umělé inteligence vyvíjíte, nebo je pouze používáte.

Tato příručka vysvětluje právní požadavky pro používání nástrojů umělé inteligence ve vaší firmě v nizozemském… zákonNaučíte se, jak identifikovat své závazky, porozumět kategoriím rizik, chránit se dat a soukromí, orientovat se v otázkách duševního vlastnictví a vytvářet praktické strategie pro dodržování předpisů.

Porozumění nástrojům umělé inteligence a nizozemské právní krajině

Nizozemsko se v Evropě etablovalo jako lídr v oblasti regulace umělé inteligence a několik dozorčích orgánů monitoruje vše od ochrany údajů až po finanční služby. Vaše firma se setká s technologiemi umělé inteligence od jednoduchých chatbotů až po komplexní systémy strojového učení, přičemž každý z nich podléhá různým regulačním požadavkům v závislosti na úrovni rizika a aplikaci.

Definice a typy technologií umělé inteligence

Umělá inteligence označuje počítačové systémy, které vykonávají úkoly obvykle vyžadující lidskou inteligenci. V obchodním kontextu se setkáte s několika odlišnými typy.

Generativní umělá inteligence vytváří nový obsah, jako je text, obrázky nebo kód. Nástroje jako ChatGPT od OpenAI spadají do této kategorie a běžně se používají pro zákaznický servis, tvorbu obsahu a kreslení dokumentů.

Systémy strojového učení analyzují datové vzorce za účelem vytváření predikcí nebo rozhodování. Tyto systémy podporují detekci podvodů, správu zásob a analýzu chování zákazníků.

Prediktivní umělá inteligence využívá historická data k předpovídání výsledků, jako jsou trendy prodeje nebo potřeby údržby. Chatboti zvládají interakce se zákazníky prostřednictvím automatizovaných konverzací.

Tyto nástroje sahají od jednoduchých systémů založených na pravidlech až po sofistikované asistenty s umělou inteligencí. Umělou inteligenci můžete také využít pro analýzu dokumentů, hodnocení rizik nebo personalizované marketingové kampaně.

Každý typ s sebou nese různé povinnosti dodržování předpisů Nizozemské právo.

Trendy v zavádění umělé inteligence v nizozemském podnikání

Nizozemské firmy rychle integrují umělou inteligenci napříč odvětvími. Polovodičový průmysl je celosvětově lídrem a společnosti vyvíjejí špičkové technologie, které pohánějí AI systémy po celém světě.

Ve finančních službách se umělá inteligence používá k odhalování podvodů a zlepšování zákaznických služeb. Zdravotnické organizace používají umělou inteligenci pro diagnostickou podporu a plánování léčby.

Maloobchodní podniky nasazují umělou inteligenci pro optimalizaci zásob a personalizované nákupní zážitky. Výrobní závody zavádějí systémy prediktivní údržby ke zkrácení prostojů.

Nizozemská vláda aktivně podporuje zavádění umělé inteligence prostřednictvím různých iniciativ. Nizozemská koalice pro umělou inteligenci sdružuje podniky, výzkumné instituce a vládní orgány s cílem prosazovat zodpovědný rozvoj umělé inteligence.

Vládní subjekty poskytují inovační centra a regulační sandboxy, zejména pro finanční technologie. Tato podpora odráží obecně pozitivní výhled na ekonomický potenciál umělé inteligence, vyvážený pečlivou pozorností věnovanou rizikům spojeným s transparentností a odpovědností.

Klíčové regulační orgány v Nizozemsku

váš Povinnosti v oblasti dodržování předpisů pro umělou inteligenci zapojit několik nizozemských orgánů. Nizozemský úřad pro ochranu osobních údajů (Osobní údaje úřadu) slouží jako národní koordinační orgán pro Dohled umělé inteligence.

Zřídila Ředitelství pro koordinaci algoritmů, jehož cílem je dohlížet na systémy umělé inteligence a prosazovat jejich dodržování. Zákon EU o umělé inteligenciTento orgán se v průběhu roku 2025 zaměřuje na transparentní algoritmy, audity, správu a dodržování zákona EU o umělé inteligenci.

Pokud podnikáte ve finančních službách, budete se muset zabývat dvěma dalšími regulačními orgány. Úřad pro finanční trhy (AFM) se zabývá dohledem nad chováním spotřebitelů a zaměřuje se na ochranu spotřebitelů před manipulativním digitálním marketingem a temnými vzory.

De Nederlandsche Bank (nizozemská centrální banka) dohlíží na obezřetnostní záležitosti, včetně spolehlivosti systémů umělé inteligence, odpovědnosti a spravedlnosti. Úřad pro ochranu spotřebitele a trhu (Spotřebitelská autorita a trh) prosazuje pravidla spravedlivé hospodářské soutěže a zákony na ochranu spotřebitele.

Reguluje dodržování zákona o digitálních službách (Digital Services Act), zákona o správě dat (Data Governance Act) a zákona o datech (Data Act). Každý regulátor zintenzivnil dohled zaměřený na umělou inteligenci a zveřejnil pokyny pro podniky ve svých příslušných odvětvích.

Základní regulační rámec pro dodržování předpisů v oblasti umělé inteligence

Zákon EU o umělé inteligenci stanoví primární evropský právní rámec pro umělou inteligenci, který je podpořen stávajícími zákony na ochranu osobních údajů, jako je GDPR, a novějšími nařízeními, včetně zákona o ochraně osobních údajů a zákona o správě dat. Implementace se řídí postupným harmonogramem s konkrétními lhůtami, které určují, kdy jednotlivé požadavky vstoupí v platnost.

Přehled zákona EU o umělé inteligenci a jeho implementace v Nizozemsku

Zákon EU o umělé inteligenci, dříve známý jako zákon o umělé inteligenci, vytváří regulační systém založený na riziku pro systémy umělé inteligence v celé Evropské unii. Kategorizuje aplikace umělé inteligence do čtyř úrovní rizika: nepřijatelné, vysoké, omezené a minimální riziko.

Nizozemská vláda vydala Průvodce zákonem o umělé inteligenci (verze 1.1), aby pomohla organizacím pochopit, jak se tato pravidla uplatňují v praxi. Tento průvodce nabízí čtyřkrokový přístup: identifikace rizika, které váš systém představuje, potvrzení, že splňuje definici umělé inteligence v EU, určení, zda jste poskytovatel nebo implementátor, a zmapování vašich specifických povinností.

Zakázané použití umělé inteligence Patří mezi ně systémy sociálního bodování, prediktivní policejní nástroje a aplikace, které manipulují s lidským chováním škodlivým způsobem. Vysoce rizikové systémy umělé inteligence fungují v kritických oblastech, jako je zdravotnictví, vzdělávání, zaměstnanost a vymáhání práva.

Modely univerzální a generativní umělé inteligence mají oddělené povinnosti týkající se transparentnosti a zmírňování rizik. Předpisy zahrnují výjimky pro určité modely s otevřeným zdrojovým kódem, které splňují specifická kritéria.

Vztah k existujícím předpisům (GDPR, zákon o ochraně osobních údajů, zákon o správě osobních údajů)

Zákon o umělé inteligenci funguje souběžně s obecným nařízením o ochraně osobních údajů, nikoli jej nahrazuje. Pokud váš systém umělé inteligence zpracovává osobní údaje, musíte dodržovat oba rámce současně.

Požadavky GDPR se stále vztahují na shromažďování a zpracování údajů a individuální práva. Potřebujete právní základ pro zpracování dat, musí provádět posouzení vlivu na ochranu osobních údajů u vysoce rizikového zpracování a vést záznamy o činnostech zpracování.

Jedno datový zákon upravuje sdílení dat a přístupová práva mezi podniky a uživateli. Ovlivňuje systémy umělé inteligence, které generují nebo používají průmyslová nebo komerční data.

Jedno Zákon o správě dat stanoví pravidla pro zprostředkovatele dat a podporuje sdílení dat pro účely veřejného zájmu. Zákon o kybernetické odolnosti přidává bezpečnostní požadavky pro produkty umělé inteligence s digitálními prvky.

To vytváří překrývající se povinnosti, kdy váš systém umělé inteligence musí splňovat standardy kybernetické bezpečnosti spolu s pravidly specifickými pro umělou inteligenci.

Postupná implementace a klíčové termíny pro splnění požadavků

Zákon EU o umělé inteligenci se řídí postupným časovým harmonogramem prosazování. Různé požadavky se stávají povinnými v různá data.

Zakázané praktiky umělé inteligence nabylo účinnosti 2. února 2025. Musíte okamžitě přestat používat veškeré systémy umělé inteligence, které spadají do této kategorie.

Požadavky na univerzální modely umělé inteligence nabývají účinnosti 2. srpna 2025. Vysoce rizikové systémy umělé inteligence musí splňovat požadavky do 2. srpna 2027, což poskytovatelům a implementátorům poskytne více času na implementaci nezbytných kontrol.

Povinnosti pro provozovatele vysoce rizikových systémů se řídí stejným termínem, který je 2. srpna 2027. Vládní subjekty čelí dalším požadavkům, včetně posouzení dopadů na základní práva a registrace systémů v databázích EU před jejich nasazením.

Řádné provedení hodnocení rizik, dokumentace a implementace kontrol vyžaduje značný čas a zdroje.

Právní povinnosti v oblasti ochrany osobních údajů a soukromí

Nizozemské firmy používající nástroje umělé inteligence musí dodržovat přísné požadavky na ochranu osobních údajů podle GDPR, která jednotlivcům poskytuje silná práva na ochranu soukromí v souvislosti s jejich osobními údaji. Nizozemský úřad pro ochranu osobních údajů aktivně vymáhá tato pravidla a očekává, že společnosti prokáží zákonné zpracování, provádět řádná posouzení rizik a rychle reagovat na bezpečnostní incidenty.

Zpracování osobních údajů a souhlas

Před zpracováním jakýchkoli osobních údajů prostřednictvím systémů umělé inteligence potřebujete právní základ podle GDPR. Nizozemský úřad pro ochranu osobních údajů jasně uvedl, že trénování modelů umělé inteligence na datech získaných z internetu často nesplňuje zákonné požadavky, zejména pokud se jedná o zvláštní kategorie osobních údajů.

Do speciální kategorie údajů patří informace o rasovém původu, politických názorech, náboženském vyznání, zdravotních záznamech a biometrické informacePro zpracování těchto citlivých údajů musíte splňovat přísnější podmínky.

Souhlas je jedním z právních základů pro zpracování, ale vyžaduje specifické podmínky. Vaše žádost o souhlas musí být jasná, oddělená od ostatních podmínek a svobodně udělená.

Uživatelé musí mít možnost odvolat souhlas stejně snadno, jako jej udělili. Mezi další právní základy patří plnění smlouvy, právní povinnosti, životně důležité zájmy, veřejné úkoly nebo oprávněné zájmy.

Měli byste zdokumentovat, který právní základ se vztahuje na každou činnost zpracování. Nizozemský úřad pro ochranu osobních údajů vyžaduje, aby školicí data byla získána zákonným způsobem a řádně upravena tak, aby byly odstraněny nežádoucí osobní údaje.

Nemůžete se spoléhat na argument, že data již byla online veřejně dostupná.

Posouzení dopadů na ochranu osobních údajů a ochrana soukromí již v návrhu

Pokud je pravděpodobné, že zpracování dat pomocí umělé inteligence povede k vysokému riziku pro práva jednotlivců, musíte provést posouzení vlivu na ochranu osobních údajů (DPIA). Nizozemský úřad pro ochranu osobních údajů očekává posouzení vlivu na ochranu osobních údajů u většiny generativních aplikací umělé inteligence, které zpracovávají osobní údaje.

Vaše posouzení vlivu na ochranu osobních údajů (DPIA) by mělo identifikovat, jaké osobní údaje zpracováváte, popsat operace zpracování, posoudit nezbytnost a přiměřenost a vyhodnotit rizika pro jednotlivce. Musíte také nastínit opatření k řešení těchto rizik.

Ochrana osobních údajů již od začátku znamená, že do svých systémů umělé inteligence zabudujete ochranu dat. Měli byste implementovat minimalizaci dat a omezit shromažďování na to, co je nezbytně nutné pro vámi uvedený účel.

Technická opatření mají velký význam. Technologie jako generování s rozšířeným vyhledáváním (RAG) mohou pomoci omezit reprodukci nesprávných nebo nežádoucích osobních údajů ve výstupech umělé inteligence.

Pro všechny činnosti zpracování prováděné umělou inteligencí potřebujete jasné popisy účelů. GDPR zakazuje používání osobních údajů k účelům, které nejsou slučitelné s důvodem, proč jste je původně shromáždili.

Pokud vaše zpracování zahrnuje rozsáhlé systematické monitorování nebo údaje zvláštní kategorie, musíte jmenovat pověřence pro ochranu osobních údajů. Tato osoba dohlíží na dodržování předpisů a slouží jako kontaktní osoba pro nizozemský úřad pro ochranu údajů.

Řízení úniků dat a rizik kybernetické bezpečnosti

Nizozemský úřad pro ochranu osobních údajů musíte do 72 hodin od zjištění narušení bezpečnosti osobních údajů informovat. To zahrnuje neoprávněný přístup, náhodnou ztrátu nebo nevhodné zveřejnění prostřednictvím systémů umělé inteligence.

Pokud porušení představuje vysoké riziko pro práva a svobody jednotlivců, musíte o tom bez zbytečného odkladu informovat i dotčené osoby. Vaše oznámení by mělo jasně vysvětlit porušení a popsat kroky, které mohou lidé podniknout k vlastní ochraně.

Kybernetické útoky zaměřené na systémy umělé inteligence vytvářejí jedinečná rizika. Modely umělé inteligence lze manipulovat útoky typu „poison“ na trénovací data nebo na vstupy nepřátelských subjektů, jejichž cílem je produkovat škodlivé výstupy.

Zákon o kybernetické odolnosti, který vstupuje v platnost v celé EU, zavede bezpečnostní požadavky pro produkty umělé inteligence. Měli byste se na to připravit již nyní zavedením silných kontrol přístupu a rámců správy a řízení.

Zdokumentujte svá bezpečnostní opatření a postupy pro reakci na incidenty. Nizozemský úřad pro ochranu osobních údajů očekává, že prokážete vhodná technická a organizační opatření na ochranu osobních údajů.

Musíte zavést systémy, které jednotlivcům umožní uplatňovat svá práva na ochranu soukromí, včetně přístupu, opravy, výmazu a námitek. Technická architektura modelů umělé inteligence to ztěžuje, ale nizozemský úřad pro ochranu osobních údajů to považuje za povinné bez ohledu na technickou obtížnost.

Kategorie rizik a povinnosti pro používání umělé inteligence

Zákon EU o umělé inteligenci stanoví odlišné úrovně rizika, které určují vaše dodržování povinností... od úplných zákazů určitých praktik až po pravidla transparentnosti pro univerzální umělou inteligenci. Pochopení toho, kam váš systém spadá do těchto kategorií, ovlivňuje vše od požadavků na dokumentaci až po... lidský dohled protokoly.

Identifikace zakázaných praktik umělé inteligence

Některé aplikace umělé inteligence jsou podle zákona EU o umělé inteligenci zcela zakázány, protože ohrožují základní práva. Nelze zavádět systémy, které manipulují s lidským chováním pomocí podprahových technik nebo zneužívají zranitelnosti založené na věku, postižení nebo socioekonomickém statusu.

Sociální bodování vládami nebo jejich jménem je zakázáno. To zahrnuje systémy, jako je nizozemský SySteem Risico Indicatie (SyRI), který byl v roce 2020 zrušen pro porušování práv na ochranu soukromí.

Biometrická identifikace v reálném čase ve veřejných prostorách je také zakázána, s několika málo výjimkami pro orgány činné v trestním řízení za specifických okolností. Rozpoznávání emocí na pracovištích a ve vzdělávacích zařízeních čelí omezením.

Pokud se vaše algoritmy umělé inteligence v těchto kontextech pokoušejí odvodit emoce nebo kategorizovat lidi na základě biometrických údajů, pravděpodobně porušujete nařízení. Tyto zákazy nabývají účinnosti okamžitě po účinnosti zákona a neponechávají žádnou lhůtu na úpravu.

Systémy umělé inteligence s vysokým a omezeným rizikem

Vysoce rizikové systémy umělé inteligence čelí nejpřísnějším regulačním požadavkům. Patří mezi ně aplikace v kritické infrastruktuře, rozhodování o zaměstnání, přístup ke vzdělávání, vymáhání práva, hraniční kontrole a výkonu spravedlnosti.

Pokud váš systém ovlivňuje bonitu, reakci na mimořádné události nebo řízení pracovníků, pravděpodobně se kvalifikuje jako vysoce rizikový.

Pro vysoce rizikové aplikace umělé inteligence musíte vést podrobnou technickou dokumentaci. Ta zahrnuje zdroje dat pro školení, architekturu modelu, výsledky testování a zamýšlené případy použití.

Pravidelné posuzování shody se stává povinným spolu s registrací v databázi EU.

Spouštěč systémů s omezeným rizikem povinnosti transparentnostiChatboti a generátoři obsahu musí uživatelům odhalit svou povahu umělé inteligence.

Pokud váš systém produkuje deepfakes nebo syntetický obsah, musíte jej jasně označit. Univerzální modely umělé inteligence vyžadují transparentnost ohledně trénovacích dat, spotřeby energie a dodržování autorských práv.

Postupná implementace znamená, že se v závislosti na úrovni rizika vašeho systému uplatňují různé termíny.

Požadavky na transparentnost a lidský dohled

Lidský dohled je podle nařízení základním principem důvěryhodné umělé inteligence. U vysoce rizikových systémů musíte zajistit, aby lidé mohli v případě potřeby zasáhnout, potlačit rozhodnutí nebo zastavit provoz.

Toto je právní požadavek spojený s ochranou základních práv. Vaše mechanismy dohledu musí být účinné, nikoli symbolické.

Navrhněte rozhraní, která operátorům umožní porozumět výstupům umělé inteligence a smysluplně zasahovat. Zdokumentujte, kdo je za co odpovědný. konečná rozhodnutí a stanovit jasné postupy eskalace, když systém produkuje sporné výsledky.

Transparentnost přesahuje rámec pouhých zveřejňovacích štítků. Musíte poskytnout jasné informace o možnostech, omezeních a úrovni přesnosti vašeho systému umělé inteligence.

U systémů, které přímo ovlivňují jednotlivce, je nezbytné vysvětlovat automatizovaná rozhodnutí. To je v souladu se stávajícími pravidly ochrany osobních údajů a zároveň přidává specifické povinnosti umělé inteligence týkající se interpretovatelnosti a odpovědnosti.

Duševní vlastnictví, autorská práva a práva k datům

Nástroje umělé inteligence vytvářejí podle nizozemského a unijního práva složité otázky týkající se vlastnictví, zejména pokud jde o to, kdo vlastní obsah generovaný umělou inteligencí a zda vaše firma může legálně používat materiály chráněné autorským právem k trénování modelů.

Nizozemský autorský zákon vyžaduje lidská kreativita pro ochranu, zatímco práva k databázím a patentová pravidla přidávají další vrstvy, které je třeba zvážit.

Ochrana autorských práv k dílům generovaným umělou inteligencí

Nizozemský zákon o autorských právech (Auteurswet) uděluje pouze ochrana autorských práv k dílům vytvořeným lidským intelektuálním úsilím.

Obsah generovaný výhradně systémy umělé inteligence bez smysluplného lidského zásahu nemůže být v Nizozemsku chráněn autorským právem. To je v souladu s autorským právem EU a nedávnými pokyny úřadů, jako je Úřad pro autorská práva USA.

Vaše firma si může nárokovat autorská práva, pokud při používání nástrojů umělé inteligence učiníte podstatná kreativní rozhodnutí. Mezi příklady patří výběr konkrétních podnětů, kurátorování výstupů nebo kombinování prvků generovaných umělou inteligencí s vaší vlastní originální prací.

Nizozemský občanský zákoník tento přístup podporuje v případech, kdy dominantním faktorem zůstává lidská kreativita. Dokumentujte svůj tvůrčí proces při práci s nástroji umělé inteligence.

Veďte si záznamy o výzvách, úpravách a rozhodnutích, která učiníte. Tyto důkazy posilují vaši pozici, pokud spory o vlastnictví vzniknout.

Bez důkazu o lidském zásahu se váš obsah generovaný umělou inteligencí dostane do veřejné domény, kde jej může kdokoli volně používat.

Patentové právo a práva k databázím

Evropský patentový úřad (EPO) neuznává systémy umělé inteligence jako vynálezce podle patentového práva. Vaše patentové přihlášky musí jmenovat lidské vynálezce, kteří významně přispěli k vynálezům s pomocí umělé inteligence.

Nizozemské patentové právo se tímto požadavkem striktně řídí. Práva k databázím podle nizozemského práva chrání značné investice do získávání, ověřování nebo prezentace datových souborů.

Vaše firma si může nárokovat zvláštní práva k databázi pro datové sady, které sestavujete, a to i v případě, že ke zpracování používáte nástroje umělé inteligence. Ochrana trvá 15 let od dokončení a vyžaduje prokázání značných investic do vytvoření nebo údržby databáze.

Tato majetková práva existují odděleně od autorských práv. Své trénovací datové sady můžete chránit prostřednictvím databázových práv, zatímco samotné výstupy umělé inteligence nemusí být chráněny autorským právem.

Úvahy o textu a dolování dat

Autorské právo EU povoluje dolování textu a dat (TDM) pro určité účely podle článků 3 a 4 směrnice o jednotném digitálním trhu.

Článek 3 umožňuje TDM pro vědecký výzkum prováděný výzkumnými organizacemi a institucemi kulturního dědictví. Článek 4 poskytuje širší práva TDM pro jakýkoli účel, ale držitelé autorských práv se mohou odhlásit tím, že si svá práva vyhradí.

Zkontrolujte, zda vaši poskytovatelé nástrojů umělé inteligence respektují mechanismy pro odhlášení. Mnoho generativních systémů umělé inteligence získává veřejně dostupný obsah bez ověření licenčních podmínek.

To vytváří právní rizika pro vaši firmu, pokud školicí data obsahují díla chráněná autorským právem, u nichž držitelé práv vznesli námitky proti použití TDM. Nizozemská implementace těchto výjimek TDM vám dává omezenou volnost při analýze materiálů chráněných autorským právem.

Komerční využití modelů umělé inteligence trénovaných na obsahu chráněném autorskými právy zůstává právně nejisté. Zvažte použití licencovaných datových sad nebo obsahu výslovně uvolněného pro školení umělé inteligence, abyste snížili riziko porušení autorských práv.

Umělá inteligence v citlivých obchodních kontextech

Nizozemské regulační orgány očekávají, že finanční instituce vyváží inovace s ochranou základních práv. Žádosti o zaměstnanost a veřejný sektor čelí zvýšeným kontrolám v důsledku algoritmických selhání ve vládních systémech.

Tyto citlivé kontexty vyžadují specifická ochranná opatření nad rámec obecných opatření pro dodržování předpisů v oblasti umělé inteligence.

Proti praní špinavých peněz a odhalování podvodů

Finanční instituce v Nizozemsku mohou využívat umělou inteligenci a analýzu dat pro proti praní špinavých peněz (AML kontroly a detekce podvodů.

Významné rozhodnutí Odvolacího tribunálu pro obchod a průmysl z roku 2022 potvrdilo, že online banka Bunq měla svá práva prověřovat zákazníky používající technologie umělé inteligence v rámci svých postupů „Know Your Customer“.

Toto rozhodnutí vyřešilo spor sahající až do roku 2018, kdy DNB (De Nederlandsche Bank) zpočátku zpochybňovala, zda přístup Bunq založený na umělé inteligenci splňuje regulační požadavky pro dodržování předpisů proti praní špinavých peněz.

Rozhodnutí soudu stanovilo, že nové technologie, jako je analýza dat a umělá inteligence, jsou přijatelnými nástroji pro plnění funkcí strážce v postupech proti praní špinavých peněz.

Vaše implementace musí i nadále splňovat základní regulační standardy proti praní špinavých peněz. Rozhodnutí tribunálu sice neruší požadavky na dohled, ale potvrzuje, že technologické metody je mohou splňovat, pokud jsou správně navrženy.

Pojišťovny, s nimiž DNB v roce 2021 hovořila, uvedly, že ve svých systémech pro odhalování podvodů udržují lidský dohled. Žádná pojišťovna nepoužívala plně automatizovaná rozhodnutí na základě umělé inteligence bez lidského zásahu.

Tento přístup odráží ponaučení ze skandálu s dávkami na péči o děti v Nizozemsku, kde automatizované systémy nesprávně určily podvod. Pojišťovny důsledně uváděly, že lidé kontrolují všechny žádosti o plnění označené algoritmy jako potenciálně podvodné.

Žádosti o zaměstnání a personalistiku

Systémy umělé inteligence používané při rozhodování o zaměstnání nesou podle nizozemského práva značné právní riziko. Vládní přístup k umělé inteligenci zaměřený na člověka zdůrazňuje, že při návrhu a zavádění umělé inteligence se musí řídit respektováním veřejných hodnot a lidských práv.

Tento princip přímo ovlivňuje, jak můžete umělou inteligenci využít při náboru, hodnocení výkonu a řízení zaměstnanosti.

Vaše žádosti o HR se musí vyhýbat diskriminaci a zajišťovat právní rovnost. Nizozemská vláda konkrétně zdůrazňuje autonomii a soukromí jako veřejné hodnoty, které mohou systémy umělé inteligence ovlivnit.

Tyto obavy jsou obzvláště naléhavé v kontextu zaměstnání, kde algoritmická rozhodnutí ovlivňují živobytí lidí. Měli byste zavést procesy lidské kontroly doporučení ohledně zaměstnání generovaných umělou inteligencí.

Tento požadavek je v souladu s širším nizozemským důrazem na lidský dohled nad citlivými automatizovanými rozhodnutími. Dokumentujte svůj rozhodovací proces a zachovejte transparentnost ohledně toho, jak umělá inteligence ovlivňuje výsledky zaměstnání.

Sada nástrojů pro eticky odpovědné inovace, kterou vypracovalo Ministerstvo vnitra a vztahů s královstvím, poskytuje praktické rady. Mezi její sedm základních principů patří zajištění kvality dat, udržování transparentnosti a odpovědnosti a monitorování systémů pro provedení nezbytných úprav.

Umělá inteligence ve vzdělávání a veřejném sektoru

Aplikace umělé inteligence ve veřejném sektoru v Nizozemsku čelí přísné kontrole po skandálu s dávkami na péči o děti. V tomto případě nizozemské daňové úřady falešně obvinily tisíce rodičů z podvodu kvůli diskriminačním algoritmům samoučení používaným k regulaci rozdělování dávek na péči o děti.

Tento skandál zásadně změnil nizozemskou politiku v oblasti umělé inteligence. Vláda nyní vyžaduje přístup zaměřený na člověka, který posiluje, a nikoli oslabuje veřejné hodnoty a lidská práva.

Pokud poskytujete služby umělé inteligence organizacím veřejného sektoru, musí vaše systémy splňovat tyto zvýšené standardy. Ministerstvo financí v červenci 2023 vytvořilo rámec pro výzkum algoritmů, který má zmapovat algoritmické řízení ve vládních organizacích.

Tento rámec zahrnuje čtyři témata: správu a odpovědnost, soukromí, kvalitu dat a modelů a bezpečnost informací. Nizozemský registr algoritmů nyní obsahuje více než 700 algoritmů od různých vládních orgánů, včetně obce... Amsterdam a Nizozemská banka sociálního pojištění.

Umělá inteligence ve veřejném sektoru musí být transparentní a odpovědná. Sada nástrojů pro eticky odpovědné inovace vyžaduje zapojení občanů a zúčastněných stran, dodržování příslušných zákonů a monitorování systémů s potřebnými úpravami.

Vzdělávací instituce a vládní agentury očekávají, že dodavatelé před zadáním zakázky prokáží dodržování těchto zásad.

Finanční instituce a regulační očekávání

DNB a nizozemský úřad pro finanční trhy (AFM) zveřejnily v dubnu 2024 společné pokyny k dopadu umělé inteligence na finanční sektor. Tito regulátoři uznávají, že stávající právní ustanovení, která konkrétně nařizují zodpovědné používání umělé inteligence, jsou omezená, ale očekávají, že se tento regulační rámec s rostoucím dopadem umělé inteligence rozšíří.

Vaše finanční instituce se musí při zavádění umělé inteligence zaměřit na šest klíčových aspektů: spolehlivost, odpovědnost, spravedlnost, etiku, dovednosti a transparentnost. Pokyny DNB z roku 2019 stanoví tyto aspekty jako předběžné názory na zodpovědné používání umělé inteligence ve finančních službách.

Finanční instituce používají umělou inteligenci pro chatboty, ověřování identity, analýzu transakčních dat, odhalování podvodů, analýzu právních dokumentů a obchodní operace.

Regulační orgány přizpůsobují své metody dohledu, aby posoudily postupy řízení rizik, provozní modality a výsledky systémů umělé inteligence. DNB zdůrazňuje, že to může vyžadovat posílení jejich vlastních znalostí o umělé inteligenci a vyhodnocení toho, jak instituce řídí algoritmické rozhodování.

Projev DNB z října 2024 s názvem „2024: Odysea umělé inteligence“ potvrdil závazek regulačního orgánu vytvořit regulační jistotu v oblasti dohledu nad umělou inteligencí v rámci evropského zákona o umělé inteligenci.

V projevu byla konkrétně zdůrazněna základní práva, včetně soukromí a nediskriminace, jako ústřední bod dohledu nad umělou inteligencí ve financích. Strategie AFM na období 2023–2026 označuje digitalizaci za klíčový trend.

Regulátor prosazuje rámce pro zodpovědné rozhodování v oblasti aplikací umělé inteligence a očekává transparentnost ve využívání zákaznických dat a algoritmickém rozhodování během akceptace zákazníky, stanovování cen finančních produktů, výběrových prostředí a aktivit online cílení.

Platforma pro spolupráci v oblasti digitální regulace (SDT), kterou v říjnu 2021 spustilo několik regulačních orgánů, včetně Autoriteit Consument en Markt (ACM), AFM a nizozemského úřadu pro ochranu osobních údajů, koordinuje vymáhání práva v digitálním sektoru.

Tato platforma zřídila specifické komory pro dohled nad aplikacemi umělé inteligence napříč odvětvími.

Provozní strategie pro dodržování předpisů a správu a řízení

Efektivní správa umělé inteligence vyžaduje konkrétní systémy dohledu, jasné postupy dokumentace a průběžné vzdělávání zaměstnanců. dodržování předpisů standardy podle nizozemského práva.

Vytvoření rámce pro správu a řízení umělé inteligence

váš Rámec pro správu a řízení umělé inteligence by měly stanovit jasné role a odpovědnosti za zavádění a dohled nad umělou inteligencí.

Začněte vytvořením výboru pro řízení umělé inteligence, který bude zahrnovat právní, technické a obchodní zainteresované strany. Tento výbor dohlíží na vaši strategii v oblasti umělé inteligence a zajišťuje soulad s požadavky nizozemského Úřadu pro digitální infrastrukturu.

Zdokumentujte proces hodnocení rizik pro každý systém umělé inteligence. Klasifikujte systémy podle úrovně rizika a používejte vhodné kontroly.

Vysoce rizikové aplikace vyžadují přísnější dohled než nástroje s nízkým rizikem. Vytvořte jasné zásady pro sdílení dat a používání digitální infrastruktury.

Váš rámec by měl specifikovat, kdo má přístup k systémům umělé inteligence, jaká data mohou používat a jak jsou rozhodnutí přezkoumávána. Před nasazením nastavte schvalovací procesy pro nové nástroje umělé inteligence.

Zahrňte technická ochranná opatření, jako je řízení přístupu, šifrování dat a pravidelné bezpečnostní hodnocení. Váš rámec musí řešit, jak budete řešit selhání umělé inteligence nebo neočekávané výstupy.

Gramotnost a školení zaměstnanců v oblasti umělé inteligence

Školení v oblasti gramotnosti v oblasti umělé inteligence pomáhá vašim zaměstnancům pochopit jak možnosti, tak i omezení nástrojů umělé inteligence. Zaměstnanci potřebují vědět, kdy výstupy umělé inteligence vyžadují lidskou kontrolu a kdy je třeba eskalaovat obavy.

Zajistěte školení specifické pro danou roli. Právní týmy potřebují jiné znalosti než provozní personál.

Zaměřte se na praktické scénáře, se kterými se zaměstnanci setkají ve své každodenní práci. Proberte základy toho, jak systémy umělé inteligence činí rozhodnutí, běžné zkreslení a problémy s kvalitou dat.

Proškolte zaměstnance v zásadách vaší organizace pro umělou inteligenci, včetně požadavků na nakládání s daty a zakázaných způsobů použití. Naplánujte si pravidelné opakovací kurzy s tím, jak se vaše strategie umělé inteligence vyvíjí.

Nové nástroje a regulační požadavky znamenají, že školení nemůže být jednorázovou událostí. Sledujte míru dokončení a ověřujte porozumění prostřednictvím praktických cvičení.

Postupy dokumentace, monitorování a auditu

Veďte podrobné záznamy o vašich systémech umělé inteligence, včetně jejich účelu, zdrojů dat a logiky rozhodování. Dokumentujte veškeré změny modelů nebo trénovacích dat.

Tyto záznamy prokazují soulad s předpisy během inspekcí. Neustále sledujte výkon umělé inteligence.

Sledujte míru přesnosti, vzorce chyb a zpětnou vazbu od uživatelů. Nastavte si upozornění na neobvyklé chování nebo pokles výkonu.

Klíčové požadavky na dokumentaci:

• Systémové inventáře s klasifikací rizik
• Záznamy o zpracování dat a dokumentace souhlasu
• Posouzení dopadů pro vysoce rizikové aplikace
• Záznamy o incidentech a nápravná opatření
• Auditní záznamy rozhodnutí AI

Provádějte pravidelné interní audity vašich systémů umělé inteligence. Zkontrolujte, zda stále splňují svůj zamýšlený účel a jsou v souladu s platnými předpisy.

Externí audity poskytují nezávislé ověření vašich úsilí o dodržování předpisůNaplánujte si je alespoň jednou ročně nebo při implementaci významných změn ve vaší infrastruktuře umělé inteligence.

Etické a základní práva

Systémy umělé inteligence ve vaší firmě musí respektovat základní práva chráněná nizozemským právem a Evropskou úmluvou o lidských právech, zejména pokud jde o zákaz diskriminace a spravedlivé zacházení.

Pochopení toho, jak algoritmické zkreslení ovlivňuje výsledky, a zachování lidského dohledu v automatizovaných procesech jsou základními požadavky na dodržování předpisů.

Zajištění základních práv a nediskriminace

Vaše nástroje umělé inteligence musí být v souladu s ochranou základních práv zakotvenou v nizozemském ústavním právu a Evropské úmluvě o lidských právech.

Tato práva zahrnují soukromí, rovnost a ochranu před diskriminací na základě chráněných znaků, jako je rasa, pohlaví, věk nebo zdravotní postižení.

Nizozemské soudy stále častěji zkoumají systémy umělé inteligence, které mají dopad individuální právaMusíte posoudit, zda vaše aplikace umělé inteligence ovlivňují rozhodnutí o zaměstnání, bydlení, úvěrech nebo veřejných službách.

Tyto oblasti se těší zvýšené právní ochraně. Zákon o umělé inteligenci vyžaduje, abyste zdokumentovali, jak vaše systémy chrání základní práva.

To zahrnuje provádění posouzení dopadů před nasazením vysoce rizikových aplikací umělé inteligence. Měli byste také stanovit jasné postupy, jak mohou jednotlivci napadnout rozhodnutí ovlivněná umělou inteligencí, která ovlivňují jejich práva.

Modely umělé inteligence pro všeobecné použití představují jedinečné výzvy, protože jejich široké možnosti lze aplikovat způsoby, které mají nepředvídatelný dopad na základní práva.

Musíte vyhodnotit, jak tyto modely fungují ve vašem konkrétním případě použití, spíše než se spoléhat pouze na obecná hodnocení poskytovatele.

Algoritmické zkreslení a lidské rozhodování

K algoritmickému zkreslení dochází, když systémy umělé inteligence systematicky produkují nespravedlivé výsledky pro určité skupiny. Vaše trénovací data, návrh modelu a kontext nasazení mohou zavést zkreslení, které porušuje principy nediskriminace podle nizozemského práva.

Musíte pravidelně testovat své systémy umělé inteligence, zda nedochází k zkreslení napříč chráněnými charakteristikami. To znamená zkoumat, zda se výsledky mezi demografickými skupinami významně liší bez oprávněného odůvodnění.

Mezi běžné zdroje zkreslení patří historická data odrážející minulou diskriminaci a nereprezentativní trénovací datové sady. Zkreslení může být také způsobeno chybným výběrem atributů.

Lidský dohled je v mnoha kontextech i nadále ze zákona vyžadován. Nelze delegovat konečnou rozhodovací pravomoc výhradně na systémy umělé inteligence, pokud jsou ohrožena základní práva.

Vaši zaměstnanci musí mít školení, informace a pravomoc smysluplně kontrolovat a rušit doporučení umělé inteligence. Nizozemské soudy očekávají, že prokážete, že lidští kontroloři aktivně pracují s výstupy umělé inteligence, a ne jen schvalují automatizované návrhy.

Zdokumentujte své procesy kontroly a zajistěte, aby osoby s rozhodovací pravomocí chápaly omezení a potenciální zkreslení systému umělé inteligence.

Zodpovědné zacházení s automatizovaným rozhodováním

Automatizované rozhodování (ADM) označuje rozhodnutí učiněná systémy umělé inteligence s omezeným nebo žádným lidským zapojením. Podle GDPR mají jednotlivci práva týkající se ADM, která mají právní účinky nebo podobně významné dopady na ně.

Musíte informovat lidi, kdy se jich ADM dotýká, a poskytnout jim smysluplné informace o logice, která s tím souvisí. To nevyžaduje odhalení obchodního tajemství, ale jednotlivci potřebují dostatek podrobností, aby pochopili a mohli rozhodnutí zpochybnit.

Měli byste také nabídnout jasný postup pro podání žádosti o lidské posouzení. Podle nizozemského práva se některá rozhodnutí nemohou spoléhat výhradně na ADM.

Patří sem rozhodnutí s významnými důsledky pro zaměstnání, úvěruschopnost nebo přístup k základním službám. Potřebujete lidskou angažovanost, která přesahuje pouhé použití automatizovaného výstupu.

Veďte záznamy o vašich ADM procesech, včetně toho, jak jste určili vhodnou úroveň lidského dohledu. Nizozemské regulační orgány a soudy prověří, zda vaše struktury správy a řízení dostatečně chrání individuální práva.

Často kladené dotazy

Nizozemské firmy používající nástroje umělé inteligence se musí orientovat v požadavcích na transparentnost rozhodování a ochranu údajů podle GDPR. Standardy nediskriminace, úvahy o duševním vlastnictví, a rámce odpovědnosti jsou stanoveny jak zákonem o umělé inteligenci, tak i stávajícím nizozemským právem.

Jaké jsou právní důsledky nasazení umělé inteligence pro rozhodovací procesy v nizozemských podnicích?

Zákon o umělé inteligenci (AI Act) klasifikuje systémy umělé inteligence používané při rozhodování na základě jejich úrovně rizika. Vysoce rizikové systémy používané v zaměstnání, řízení lidských zdrojů nebo přístupu k základním službám čelí od srpna 2026 přísným požadavkům.

U vysoce rizikových rozhodovacích systémů s využitím umělé inteligence musíte zavést lidský dohled. To znamená, že určitá osoba musí být schopna kontrolovat a přepisovat rozhodnutí generovaná umělou inteligencí.

Vaše firma nemůže používat systémy umělé inteligence, které činí rozhodnutí prostřednictvím sociálního bodování. To zahrnuje odměňování nebo trestání lidí na základě chování nebo osobních charakteristik.

Pokud váš systém umělé inteligence ovlivňuje rozhodnutí o náboru, povýšení nebo propuštění, musíte informovat zaměstnance a uchazeče o zaměstnání. Nizozemské pracovní právo to vyžaduje transparentnost ohledně automatizovaného rozhodování procesy.

Jak by měly společnosti v Nizozemsku nakládat s osobními údaji při využívání nástrojů umělé inteligence v souladu s GDPR?

Před nasazením musíte určit právní základ pro zpracování osobních údajů prostřednictvím systémů umělé inteligence. Mezi běžné právní základy patří souhlas, smluvní nutnost nebo oprávněné zájmy.

Článek 22 GDPR poskytuje jednotlivcům právo nebýt předmětem výhradně automatizovaného rozhodování s právními nebo významnými účinky. Musíte poskytnout smysluplné informace o použité logice a významu zpracování.

Váš systém umělé inteligence musí implementovat principy minimalizace dat. Shromažďujte pouze osobní údaje nezbytné pro daný účel.

Pokud váš systém umělé inteligence zpracovává osobní údaje způsobem, který představuje vysoké riziko pro práva jednotlivců, musíte provést posouzení vlivu na ochranu osobních údajů (DPIA). Vysoce rizikové systémy umělé inteligence podle zákona o umělé inteligenci obvykle vyžadují posouzení vlivu na ochranu osobních údajů (DPIA).

Na tréninková data se vztahují pravidla pro omezení úložiště. Osobní údaje nelze uchovávat déle, než je nezbytné pro účely systému umělé inteligence.

Jaké kroky jsou nutné k zajištění toho, aby systémy umělé inteligence nebyly diskriminační a splňovaly nizozemské zákony o rovnosti?

Před nasazením musíte otestovat své systémy umělé inteligence na zkreslení. To zahrnuje kontrolu diskriminace na základě chráněných charakteristik, jako je rasa, pohlaví, věk, postižení a sexuální orientace.

Zákon o umělé inteligenci zakazuje systémy, které klasifikují jednotlivce do citlivých kategorií pomocí biometrických údajů. Umělou inteligenci nelze použít ke kategorizaci osob na základě původu, zdraví nebo sexuální orientace prostřednictvím rozpoznávání obličeje nebo podobných technologií.

Vaše tréninková data musí být reprezentativní a rozmanitá. Zaujaté nebo nereprezentativní datové soubory mohou vést k diskriminačním výsledkům, které porušují nizozemské zákony o rovnosti.

Potřebujete dokumentaci prokazující, jak jste posoudili a zmírnili rizika diskriminace. Ta se stává součástí vaší technické dokumentace pro vysoce rizikové systémy umělé inteligence.

Pravidelné monitorování po nasazení pomáhá identifikovat diskriminační vzorce, které se časem objevují. Veškeré problémy s diskriminací musíte řešit neprodleně.

Můžete nastínit odpovědnosti nizozemských podniků, pokud jde o transparentnost a vysvětlitelnost operací s umělou inteligencí?

Musíte informovat uživatele, když interagují se systémy umělé inteligence, jako jsou chatboti. Lidé mají právo vědět, že komunikují s umělou inteligencí, nikoli s člověkem.

Vysoce rizikové systémy umělé inteligence vyžadují komplexní technickou dokumentaci. Ta zahrnuje informace o možnostech, omezeních a zamýšleném použití systému.

Pokud používáte umělou inteligenci ke klasifikaci biometrických údajů, musíte jednotlivcům vysvětlit, jak systém funguje. Tato povinnost transparentnosti se vztahuje i na systémy, které nepředstavují vysoké riziko.

Obsah vytvořený nebo upravený umělou inteligencí musí být jasně označen. Pro automatickou detekci je nutné označit text, obrázky a další obsah generovaný umělou inteligencí.

Vaši zaměstnanci potřebují dostatečnou gramotnost v oblasti umělé inteligence, aby pochopili a dohlíželi na systémy umělé inteligence, se kterými pracují. Školicí programy pomáhají tento požadavek na transparentnost splnit.

Musíte poskytnout provozovatelům vašich systémů umělé inteligence pokyny k jejich správnému používání. Tyto pokyny by měly zahrnovat účel, možnosti a omezení systému.

Jaké jsou klíčové aspekty práv duševního vlastnictví při začleňování obsahu nebo dat generovaných umělou inteligencí do obchodního prostředí?

Nizozemský zákon o autorských právech v současné době neuznává systémy umělé inteligence jako autory. Podle stávající legislativy mohou být držiteli autorských práv pouze lidští tvůrci.

V pracovních smlouvách a dohodách se smluvními stranami je třeba vyjasnit vlastnická práva k obsahu generovanému umělou inteligencí. Standardní doložky o duševním vlastnictví nemusí dostatečně upravovat díla generovaná umělou inteligencí.

Trénování systémů umělé inteligence na materiálu chráněném autorským právem vyvolává právní otázky. Měli byste posoudit, zda vaše použití splňuje podmínky pro zákonnou výjimku podle nizozemského autorského zákona.

Práva k databázím chrání sbírky dat v Nizozemsku. Používání databází k trénování systémů umělé inteligence může vyžadovat licence od držitele práv k databázi.

Vynálezy generované umělou inteligencí představují patentové výzvy. Nizozemské patentové právo vyžaduje lidské vynálezce, ačkoli se tato oblast neustále vyvíjí.

Při nasazování nástrojů umělé inteligence musíte respektovat práva duševního vlastnictví třetích stran. To zahrnuje zajištění toho, aby váš systém umělé inteligence nereprodukoval chráněná díla bez povolení.

Jak nizozemské předpisy řeší otázky odpovědnosti vyplývající z používání umělé inteligence v obchodních operacích?

Zůstáváte odpovědní za škody způsobené systémy umělé inteligence, které nasadíte. Nizozemské právo občanskoprávních deliktů činí podniky odpovědnými za škody vzniklé v důsledku jejich činnosti, včetně procesů řízených umělou inteligencí.

Zákon o umělé inteligenci zavádí pokuty za nedodržování předpisů. Uvedení zakázaných systémů umělé inteligence na trh může vést k sankcím a právním krokům ze strany dotčených stran.

Pravidla odpovědnosti za vadný výrobek se vztahují na systémy umělé inteligence zabudované do fyzických produktů. Pokud váš produkt s umělou inteligencí způsobí újmu, určují vaši odpovědnost stávající právní předpisy o odpovědnosti za vadný výrobek.

Musíte mít pojištění odpovídající rizikům, která vaše systémy umělé inteligence představují. To je obzvláště důležité pro vysoce rizikové aplikace umělé inteligence.

Smluvní ujednání s poskytovateli umělé inteligence by měla jasně vymezit odpovědnost. Dohody by měly specifikovat, kdo nese odpovědnost v případě poruchy systémů umělé inteligence nebo způsobení škody.

Požadavky na dokumentaci podle zákona o umělé inteligenci pomáhají stanovit odpovědnost. Řádné záznamy prokazují vaše úsilí o dodržování předpisů a náležitou péči ve sporech o odpovědnost.