Evropský zákon o umělé inteligenci zavedl 2. února 2025 zásadní změny, které zajistily Praktiky umělé inteligence nelegální v celé EU. Nizozemské firmy nyní musí dodržovat přísná pravidla ohledně toho, které systémy umělé inteligence mohou používat.

Společnosti, které neodstraní zakázané nástroje umělé inteligence, čelí vysokým pokutám a potenciálním právním krokům ze strany kohokoli, kdo utrpí újmu.

Od února 2025 jsou v Nizozemsku zakázány systémy umělé inteligence, které manipulují s lidmi, používají sociální skóre, kategorizují jednotlivce na základě biometrických údajů nebo využívají rozpoznávání obličeje v reálném čase ve veřejných prostorách. Tyto zákazy se týkají i technologií rozpoznávání emocí na pracovištích a ve školách, spolu s necíleným sběrem obrázků obličejů z internetu za účelem vytváření databází rozpoznávání.

Pravidla platí okamžitě a nedávají firmám žádnou lhůtu na postupné vyřazení těchto systémů. Abyste se vyhnuli sankcím, je nezbytné porozumět tomu, které praktiky umělé inteligence jsou zakázány a jaké kroky musí vaše organizace podniknout.

Tato příručka vysvětluje konkrétní zákazy a nastiňuje vaše povinnosti v oblasti dodržování předpisů jako nizozemská firma a pokrývá požadavky na školení potřebné k tomu, aby vaše operace byly v souladu s novým zákonem legální.

Přehled zákazů z února 2025

Nařízení (EU) 2024/1689, známé jako Zákon EU o umělé inteligenci, zavedla specifické zákazy týkající se určitých praktik umělé inteligence, které vstoupily v platnost 2. února 2025. Tato pravidla se vztahují na vaši nizozemskou firmu, pokud vyvíjíte, nasazujete nebo používáte systém AIv Nizozemsku nebo v širší Evropské unii.

Rozsah zakázaných praktik umělé inteligence

Zákon o umělé inteligenci zakazuje specifické praktiky umělé inteligence, které představují nepřijatelná rizika pro základní práva a evropské hodnoty. Článek 5 nařízení (EU) 2024/1689 identifikuje tyto zakázané praktiky na základě jejich potenciální škodlivosti, nikoli na základě samotné technologie.

Mezi hlavní zakázané kategorie patří:

• Manipulativní systémy umělé inteligence které zneužívají zranitelnosti konkrétních skupin
• Systémy sociálního bodování veřejnými orgány
• Vzdálená biometrická identifikace v reálném čase ve veřejně přístupných prostorách pro zákon vymáhání (s omezenými výjimkami)
• Biometrické kategorizační systémy které odvozují citlivé atributy
• Necílené scrapingování snímků obličejů z internetu nebo záznamů z bezpečnostních kamer

Vaše podnikání spadá pod tato omezení, ať už působíte jako poskytovatel, implementátor nebo distributor umělé inteligence v Nizozemsku. Nizozemský úřad pro ochranu osobních údajů spolupracuje s dalšími donucovacími orgány Evropské unie, aby zajistil dodržování předpisů.

Nedodržení předpisů s sebou nese pokuty až do výše 7 % vašeho celosvětového ročního obratu.

Data účinnosti a přechodná období

Zákazy podle článku 5 vstoupily v platnost 2. února 2025. To znamená, že vaše firma musí tato pravidla okamžitě dodržovat, pokud používá nebo vyvíjí relevantní systémy umělé inteligence.

Rámec pro vymáhání se řídí postupným časovým harmonogramem. Úplné sankce, struktury řízení a ustanovení o důvěrnosti nabývají účinnosti od 2. srpna 2025.

Díky tomu má vaše organizace šestiměsíční období, během kterého platí pravidla, ale kompletní mechanismy jejich vymáhání se stále zavádějí. Evropská komise zveřejnila 4. února 2025 oficiální pokyny, které objasňují, jak tyto zákazy fungují v praxi.

Orgány dozoru nad trhem, včetně nizozemského úřadu pro ochranu osobních údajů, získaly od února odpovědnost za sledování a vymáhání těchto pravidel.

Klíčové definice: Systémy a postupy umělé inteligence

Podle zákona o umělé inteligenci systém AI znamená software, který využívá strojové učení, logické přístupy nebo statistické metody ke generování výstupů, jako jsou předpovědi, doporučení nebo rozhodnutí. Tato definice je záměrně široká, aby zahrnovala současné i nově vznikající technologie.

A zakázaná praxe umělé inteligence označuje konkrétní způsoby nasazení nebo použití umělé inteligence, které Evropská unie považuje za nepřijatelné. Zákaz se vztahuje na samotnou praxi, nikoli na technologii, na které je založena.

To znamená, že můžete používat stejný systém umělé inteligence k povoleným účelům, ale zároveň vám bude zakázáno používat určité aplikace. Vaše firma musí rozlišovat mezi systémem umělé inteligence (technologií) a jeho praxí (způsobem, jakým jej používáte).

Systém umělé inteligence pro rozpoznávání obličeje může být legální pro kontrolu přístupu do budov, ale zakázaný pro sledování veřejných prostor v reálném čase. Kontext a použití určují legalitu podle nařízení (EU) 2024/1689.

Podrobný seznam zakázaných praktik umělé inteligence

Zákon EU o umělé inteligenci zakazuje specifické aplikace umělé inteligence, které představují nepřijatelná rizika pro základní práva a bezpečnost. Tyto zakázané praktiky spadají do tří hlavních kategorií: systémy, které manipulují s lidským chováním, systémy, které… zneužívat zranitelné skupinya mechanismy, které umožňují hromadný dohled prostřednictvím sociálního bodování.

Manipulativní a klamné systémy

Zákon o umělé inteligenci zakazuje jakýkoli systém umělé inteligence, který využívá podprahové techniky k podstatnému zkreslení lidského chování způsoby, které způsobují újmu. Jedná se o metody, které fungují mimo vaše vědomé vědomí a ovlivňují vaše rozhodnutí nebo činy.

Mezi zakázané manipulativní praktiky patří:

• Systémy umělé inteligence, které nasazují podprahové komponenty, které nedokážete detekovat
• Systémy určené k zneužívání zranitelností dětí souvisejících s věkem
• Technologie, které manipulují s chováním a způsobují fyzickou nebo psychickou újmu

Umělou inteligenci nelze použít k úmyslnému klamat lidi způsoby, které vedou k značná újmaTo znamená, že vaše firma nemůže nasazovat chatboty ani virtuální asistenty, kteří uživatele uvádějí v omyl ohledně jejich umělé inteligence, pokud by tento klam mohl vést k poškození.

Zákaz se vztahuje i na systémy umělé inteligence, které využívají temné vzorce nebo psychologickou manipulaci k tomu, aby uživatele tlačily ke škodlivým rozhodnutím. zákon chrání jednotlivce před praktikami umělé inteligence, které obcházejí racionální rozhodování.

Pokud váš systém umělé inteligence ovlivňuje chování prostřednictvím skryté manipulace, nikoli transparentních informací, porušuje zákon.

Vykořisťování zranitelných osob

Systémy umělé inteligence, které zneužívají zranitelnosti související s věkem, postižením nebo sociálními či ekonomickými okolnostmi, jsou přísně zakázány. Umělou inteligenci nelze používat k zneužívání lidí, kteří nemají schopnost porozumět manipulaci nebo jí odolat.

Tento zákaz se vztahuje na umělou inteligenci, která cílí na nezkušenost dětí nebo kognitivní pokles starších osob. Vaše firma nesmí nasazovat systémy, které zneužívají fyzické nebo duševní postižení k manipulaci s chováním.

Umělá inteligence, která těží z ekonomického zoufalství nebo sociální izolace, také spadá pod tento zákaz.

Mezi chráněné zranitelné skupiny patří:

• Děti a nezletilí
• Starší osoby s kognitivním postižením
• Lidé s fyzickým nebo mentálním postižením
• Jednotlivci čelící ekonomickým potížím

Zákaz platí, pokud váš systém umělé inteligence způsobuje nebo pravděpodobně způsobí značnou škodu zneužitím. Musíte posoudit, zda by vaše aplikace umělé inteligence mohly nespravedlivě cílit na zranitelné skupiny obyvatelstva.

Sociální skóre a behaviorální profilování

Zákon o umělé inteligenci zakazuje systémy umělé inteligence, které hodnotí nebo klasifikují lidi na základě jejich sociální chování nebo osobní vlastnosti. Nemůžete používat mechanismy sociálního bodování, které vedou k nespravedlivému zacházení nebo újmě.

Sociální bodování zahrnuje hodnocení jednotlivců na základě jejich chování, vztahů nebo předpokládaného chování. Vytváří profily, které určují přístup ke službám, příležitostem nebo právům.

Mezi zakázané aktivity sociálního bodování patří:

• Hodnocení občanů na základě sociálního nebo profesního chování
• Vytváření skóre důvěryhodnosti z osobních údajů
• Predikce kriminálního chování na základě profilování
• Odmítnutí služeb na základě behaviorálního posouzení

Nelze implementovat systémy umělé inteligence, které přiřazují skóre určující, zda někdo obdrží zdravotní péči, vzdělání, zaměstnání nebo finanční služby. Zákaz platí bez ohledu na to, zda tyto systémy provozujete jako veřejný orgán nebo soukromý podnik.

Dálkové ovládání v reálném čase biometrická identifikace na veřejných prostranstvích rovněž podléhá přísným zákazům s omezenými výjimkami pro orgány činné v trestním řízení.

Zákazy biometrických údajů, rozpoznávání obličeje a emoční umělé inteligence

Zákon EU o umělé inteligenci zakazuje několik typů biometrických systémů a systémů rozpoznávání obličeje, které představují riziko pro základní právaTyto zákazy ovlivňují, jak mohou nizozemské podniky používat biometrická data, databáze pro rozpoznávání obličejů, nástroje pro rozpoznávání emocí a systémy identifikace v reálném čase ve veřejných prostorách.

Biometrická kategorizace a využití dat

Nemůžete používat systémy umělé inteligence, které kategorizují lidi na základě jejich biometrických údajů, k odvození jejich rasy, politických názorů, členství v odborech, náboženského vyznání nebo sexuální orientace. Tento zákaz platí, když tyto systémy uvádíte na trh, do provozu nebo je používáte pro tento konkrétní účel.

Zákaz se zaměřuje na systémy, které citlivé závěry o jednotlivcích prostřednictvím biometrické analýzy. Vaše firma čelí pokutám až do výše 7 % celosvětového ročního obratu za nedodržení předpisů.

Z tohoto pravidla existuje jedna výjimka. V kontextu vymáhání práva můžete na základě biometrických údajů označit nebo filtrovat legálně získané biometrické soubory dat, jako jsou obrázky.

Mimo vymáhání práva jsou tyto kategorizační praktiky nadále zcela zakázány.

Omezení technologií rozpoznávání obličeje

Databáze pro rozpoznávání obličejů nelze vytvářet ani rozšiřovat necíleným scrapingem obrázků obličejů z internetu nebo záznamů z bezpečnostních kamer. Tento zákaz vstoupil v platnost 2. února 2025.

Pro uplatnění tohoto zákazu musí být splněny čtyři podmínky:

• Tato praxe zahrnuje umístění, servis nebo používání systému umělé inteligence
• Účelem je vytvořit nebo rozšířit databáze pro rozpoznávání obličejů
• Metoda využívá necílené sběry snímků obličeje
• Zdroji dat jsou internet nebo záznamy z kamerových systémů.

Klíčové slovo je „necílené“. Snímky obličejů nelze shromažďovat širokým a neselektivním způsobem.

To znamená, že v supermarketech nebo veřejných prostorách nemůžete bez specifických kritérií cílení nasadit kamery, které automaticky sbírají tváře za účelem vytváření databází rozpoznávání.

Rozpoznávání emocí v zaměstnání a vzdělávání

Systémy umělé inteligence nelze používat k odvozování emocí lidí na pracovištích a ve vzdělávacích institucích. Tento zákaz se přímo týká personálních oddělení, škol a školicích zařízení, která by mohla zvážit nástroje pro detekci emocí.

Zákaz se vztahuje na jakýkoli systém umělé inteligence určený ke čtení nebo interpretaci emočních stavů v těchto specifických prostředích. Zda používáte analýzu obličeje, rozpoznávání hlasových vzorců nebo jiné biometrické indikátory, nehraje na tom roli.

Existuje jedna úzká výjimka. Umělou inteligenci pro rozpoznávání emocí můžete použít, pokud slouží lékařským nebo bezpečnostním účelům.

Například sledování bdělosti řidiče z bezpečnostních důvodů nebo zjišťování tísně pacientů ve zdravotnických zařízeních může spadat pod tuto výjimku.

Omezení vzdálené biometrické identifikace

Systémy biometrické identifikace na dálku v reálném čase nelze používat ve veřejně přístupných prostorách pro účely vymáhání práva, s výjimkou přísně vymezených okolností. Mezi tyto výjimky patří vyhledávání obětí únosu nebo obchodování s lidmi, předcházení bezprostřednímu ohrožení života nebo teroristickým útokům a vyhledávání osob podezřelých ze závažných trestných činů, za které lze uložit trest odnětí svobody v rozsahu nejméně čtyř let.

Každé použití vyžaduje předchozí povolení z soudní orgán nebo nezávislý správní orgán. V naléhavých situacích můžete začít používat bez povolení, ale musíte o schválení požádat do 24 hodin.

Pokud úřady zamítnou povolení, musíte okamžitě přestat systém používat a smazat veškerá data. Nizozemsko si může pro tyto výjimky stanovit vlastní podrobná pravidla v rámci vnitrostátního práva.

Vaše firma musí o každém použití informovat příslušný orgán dozoru nad trhem a vnitrostátní orgán pro ochranu osobních údajů. Členské státy předkládají Evropské komisi výroční zprávy o používání biometrické identifikace na dálku v reálném čase.

Povinnosti dodržování předpisů pro nizozemské podniky

Nizozemské firmy musí podniknout konkrétní kroky k dosažení souladu s předpisy v oblasti umělé inteligence, a to identifikací zakázaných systémů, jejich vyřazením z provozu a vedením řádné dokumentace. Nizozemská agentura pro ochranu osobních údajů (DPA) a nizozemský Úřad pro digitální infrastrukturu bude tyto požadavky vymáhat a za porušení uvalovat značné sankce.

Identifikace zakázané umělé inteligence v rámci provozu

V celé organizaci musíte provést důkladné posouzení rizik, abyste odhalili systémy umělé inteligence, které by mohly porušovat nová pravidla. To znamená prozkoumat jakoukoli technologii, která používá manipulační techniky, zneužívá zranitelnosti, implementuje sociální bodování nebo provádí biometrickou identifikaci v reálném čase ve veřejných prostorách.

Začněte vytvořením inventáře všech systémů umělé inteligence, které se aktuálně používají. Zdokumentujte, co každý systém dělá, jak zpracovává data a koho ovlivňuje.

Věnujte zvláštní pozornost systémům, které interagují se zákazníky, zaměstnanci nebo veřejností. Vaše posouzení rizik by mělo vyhodnotit, zda by některý systém mohl ohrozit základní práva.

To zahrnuje kontrolu, zda systémy umělé inteligence rozhodují o lidech na základě jejich chování, osobních charakteristik nebo sociálních vazeb. Systémy, které sledují nebo profilují jednotlivce bez transparentnosti, vyžadují okamžitou kontrolu.

Spolupracujte se svými technickými týmy, abyste pochopili, jak jednotlivé systémy umělé inteligence fungují. Nemůžete se spoléhat pouze na popisy dodavatelů.

Nizozemský úřad pro ochranu osobních údajů jasně uvedl, že za dodržování předpisů nesete odpovědnost bez ohledu na to, zda jste systém postavili, nebo zda jste jej zakoupili od třetí strany.

Postupné vyřazování nebo odstraňování zakázaných systémů umělé inteligence

Musíte okamžitě přestat používat zakázané praktiky umělé inteligence. Zákon pro zakázané systémy nepovoluje žádnou lhůtu.

Pokud vaše posouzení rizik identifikuje zakázanou praktiku, musíte ji okamžitě deaktivovat. Vytvořte plán odstranění, který bude řešit technické i provozní dopady.

Některé systémy mohou být integrovány do větších platforem nebo propojeny s více procesy. Budete muset zajistit, aby odstranění zakázaných prvků nenarušilo základní obchodní funkce.

Než systém vypnete, zjistěte, jak budete zpracovávat úkoly, které dříve prováděl. To může znamenat návrat k manuálním procesům, implementaci jiných technologií nebo úplné přepracování pracovních postupů.

Zdokumentujte každý krok procesu odstraňování. Zaznamenejte si, kdy jste zakázanou praktiku objevili, jaké kroky jste podnikli a kdy byl systém zcela deaktivován.

Regulační orgány budou očekávat jasné důkazy o tom, že jste jednali neprodleně po zjištění porušení.

Vedení záznamů a dokumentace

Musíte uchovávat technickou dokumentaci, která prokazuje soulad s pravidly zákazu. To zahrnuje záznamy o vašich posouzeních rizik, rozhodnutích o systémech umělé inteligence a všech změnách, které jste provedli k dosažení souladu s předpisy.

Vaše dokumentace by měla obsahovat:

• Systémové inventáře s popisy jednotlivých aplikací umělé inteligence
• Zprávy o posouzení rizik uvedete svou analýzu potenciálních porušení
• Záznamy o stěhování s podrobnostmi o tom, kdy a jak jste deaktivovali zakázané systémy
• Posouzení dopadů na základní práva pro jakékoli hraniční případy

Tyto záznamy uchovávejte po dobu nejméně pěti let. Nizozemský orgán pro ochranu osobních údajů si je může vyžádat během inspekcí nebo vyšetřování.

Chybějící nebo neúplná dokumentace může vést k pokutám až do výše 7 500 000 EUR nebo 1 % ročního celosvětového obratu. Vaše technická dokumentace musí být dostatečně podrobná, aby regulační orgány pochopily, co vaše systémy umělé inteligence dělají a proč jsou v souladu se zákonem.

Obecné popisy nebo marketingové materiály tento požadavek nesplňují. Uveďte technické specifikace, datové toky a rozhodovací procesy.

Aktualizujte svou dokumentaci vždy, když upravujete systémy umělé inteligence nebo nasazujete nové. Potřebujete průběžné procesy, které zajistí, že budoucí systémy nezavedou zakázané praktiky.

Požadavky na gramotnost v oblasti umělé inteligence a školení zaměstnanců

Od 2. února 2025 musí nizozemské podniky, které poskytují nebo nasazují systémy umělé inteligence, zajistit, aby jejich zaměstnanci měli odpovídající znalosti v oblasti umělé inteligence. Tato povinnost platí bez ohledu na to, zda používají systémy umělé inteligence s vysokým nebo nízkým rizikem.

Zdokumentované školicí programy musí být přizpůsobeny rolím a technickým znalostem vašich zaměstnanců.

Vysvětlení povinnosti gramotnosti v oblasti umělé inteligence

Článek 4 zákona EU o umělé inteligenci ukládá právní požadavek na všechny poskytovatele a provozovatele umělé inteligence, aby byla zajištěna dostatečná gramotnost jejich zaměstnanců v oblasti umělé inteligence. Musíte přijmout opatření, která zaručí, že zaměstnanci a dodavatelé, kteří se zabývají systémy umělé inteligence, rozumí technologii, se kterou pracují.

Povinnost gramotnosti v oblasti umělé inteligence se vztahuje na každého, kdo provozuje, používá nebo rozhoduje o systémech umělé inteligence vaším jménem. To zahrnuje technický personál, který systémy umělé inteligence vytváří nebo udržuje, i netechnické zaměstnance, kteří nástroje umělé inteligence používají ve své každodenní práci.

Školení v oblasti gramotnosti v oblasti umělé inteligence musíte přizpůsobit roli každého jednotlivce, jeho technickým znalostem, zkušenostem, vzdělání a specifickému kontextu, ve kterém používá systémy umělé inteligence. Softwarový vývojář implementující modely umělé inteligence potřebuje jiné školení než zástupce zákaznického servisu používající chatboty s umělou inteligencí.

Tato povinnost vyžaduje, abyste vynaložili „maximální úsilí“ k zajištění odpovídající úrovně gramotnosti. Nemůžete jen nabízet symbolické školení a tvrdit, že splňujete požadavky.

Rozvoj efektivních školicích programů

Váš program gramotnosti v oblasti umělé inteligence by se měl zaměřit na konkrétní systémy umělé inteligence, které vaše organizace používá, a neměl by poskytovat obecné informace. Zaměstnanci musí rozumět tomu, jak konkrétní nástroje umělé inteligence, se kterými pracují, fungují, jaká jsou jejich omezení a potenciální rizika.

Obsah školení by měl zahrnovat:

• Základní koncepty umělé inteligence relevantní pro vaše systémy
• Jak správně ovládat nástroje umělé inteligence
• Potenciální zkreslení a chyby ve výstupech umělé inteligence
• Když je nutný lidský dohled
• Zásady a postupy vaší organizace v oblasti umělé inteligence

Musíte zvážit výchozí úroveň znalostí každého zaměstnance. Technický personál může potřebovat pokročilé školení v oblasti vývoje a testování modelů, zatímco běžní uživatelé potřebují praktické rady s interpretací výstupů umělé inteligence a rozpoznáním, kdy se výsledky zdají být nesprávné.

Školení může mít různé formy, včetně workshopů, online kurzů, koučování na pracovišti nebo externích programů. Formát je méně důležitý než to, aby zaměstnanci skutečně získali potřebné znalosti a dovednosti.

Dokumentování aktivit v oblasti gramotnosti v oblasti umělé inteligence

Musíte vést záznamy o svých aktivitách v oblasti školení v oblasti umělé inteligence, abyste prokázali soulad se zákonem EU o umělé inteligenci. Tato dokumentace slouží jako důkaz, že jste splnili své povinnosti. právní závazky.

Vaše záznamy by měly obsahovat:

• Obsah a materiály školicího programu
• Seznamy zaměstnanců, kteří absolvovali školení
• Termíny a délka školení
• Výsledky hodnocení (pokud je to relevantní)
• Jak jste určili vhodnou úroveň gramotnosti pro různé role

Zdokumentujte svůj proces identifikace potřeb v oblasti gramotnosti v oblasti umělé inteligence v celé organizaci. To zahrnuje i to, jak jste na základě interakce se systémy umělé inteligence posoudili, kteří zaměstnanci potřebují školení a jaké specifické znalosti potřebují.

Veďte si záznamy o tom, jak aktualizujete školení s ohledem na změny ve vašich systémech umělé inteligence nebo s nástupem nových zaměstnanců do vaší organizace. Gramotnost v oblasti umělé inteligence není jednorázový požadavek, ale trvalá povinnost, která se musí přizpůsobovat vašemu vyvíjejícímu se využívání technologií umělé inteligence.

Dohled, vymáhání a sankce

Zákon EU o umělé inteligenci zavádí vícevrstvou strukturu vymáhání s významným finanční postihy za nedodržování předpisů. Nizozemské podniky čelí dohledu ze strany národních i evropských orgánů, přičemž pokuty za zakázané praktiky umělé inteligence dosahují až 7 % celosvětového ročního obratu.

Nizozemské a evropské orgány dohledu

Nizozemský úřad pro ochranu osobních údajů slouží jako hlavní národní dozorčí orgán pro vymáhání zákona o umělé inteligenci v Nizozemsku. Tento orgán spolupracuje s dalšími určenými nizozemskými orgány dozoru nad trhem při sledování dodržování nařízení.

Na evropské úrovni dohlíží Evropská komise na implementaci zákona o umělé inteligenci ve všech členských státech. Evropský úřad pro umělou inteligenci, zřízený v rámci Komise, koordinuje činnosti v oblasti vymáhání práva a poskytuje technické znalosti.

Evropský sbor pro ochranu osobních údajů podporuje jednotné uplatňování zákona, zejména v případech, kdy systémy umělé inteligence zahrnují zpracování osobních údajů. Tyto orgány spolupracují na zajištění jednotného vymáhání v celé Evropské unii.

Pokud provozujete systémy umělé inteligence ve více zemích EU, můžete čelit kontrole ze strany dozorových orgánů v každé jurisdikci, kde jsou vaše systémy nasazeny nebo kde mají vliv.

Sankce a občanskoprávní odpovědnost

Porušení zakázaných praktik podle článku 5 se pokutuje až do výše 35 milionů EUR nebo 7 % vašeho celkového celosvětového ročního obratu, podle toho, která částka je vyšší. Tyto pokuty platí od 2. února 2025.

Soudní dvůr EU (SDEU) má konečnou pravomoc vykládat ustanovení zákona o umělé inteligenci. Vnitrostátní soudy se mohou obrátit na SDEU s otázkami, pokud vzniknou spory o tom, co představuje zakázanou praktiku.

Kromě správních pokut můžete čelit nárokům na občanskoprávní odpovědnost od jednotlivců nebo organizací poškozených systémy umělé inteligence, které nejsou v souladu s předpisy. Členské státy mohou ve svém vnitrostátním právu stanovit další sankce.

Pokyny od evropských a národních orgánů

Evropská komise zveřejnila pokyny k zakázaným Postupy umělé inteligence k 4. únoru 2025. Tyto dokumenty vysvětlují, jak budou úřady interpretovat zákazy uvedené v článku 5, a poskytují praktické příklady pro dodržování předpisů.

Ačkoli tyto pokyny nejsou závazné, nabízejí cenný vhled do priorit v oblasti vymáhání práva. Pouze Soudní dvůr EU může poskytovat směrodatné právní výklady.

Nizozemské orgány dohledu mohou vydat další národní pokyny přizpůsobené místnímu obchodnímu kontextu. Měli byste sledovat aktualizace od evropských i nizozemských orgánů s tím, jak se vyvíjejí přístupy k vymáhání práva.

Pokyny jsou k dispozici ve všech jazycích EU, aby podpořily přeshraniční porozumění.

Často kladené dotazy

Evropský zákon o umělé inteligenci (AI Act) přináší specifické požadavky a omezení, která se od února 2025 dotýkají nizozemských podniků. Tato nařízení zakazují určité praktiky umělé inteligence, vyžadují opatření shodya stanovit sankce za porušení.

Jaká jsou nová nařízení týkající se používání umělé inteligence v nizozemských společnostech od února 2025?

Evropský zákon o umělé inteligenci (AI Act) vstoupil v platnost 1. srpna 2024, přičemž první sada zákazů nabyla účinnosti 2. února 2025. Tato nařízení se vztahují na všechny nizozemské podniky, které vyvíjejí, nasazují nebo používají systémy umělé inteligence v Evropské unii.

Zákon zakazuje manipulativní systémy umělé inteligence, které využívají podprahové techniky k ovlivňování rozhodnutí, která by lidé normálně neučinili. Zakázány jsou také systémy umělé inteligence, které zneužívají zranitelnosti založené na věku, postižení nebo socioekonomickém statusu.

Systémy sociálního hodnocení, které posuzují jednotlivce na základě jejich sociálního chování nebo osobních charakteristik, čelí úplnému zákazu. Předpisy rovněž zakazují hodnocení rizik založená na umělé inteligenci, která předpovídají trestné činy pouze na základě profilování nebo analýzy osobnostních rysů, spíše než na základě faktů souvisejících s trestnou činností.

Biometrické kategorizační systémy, které odvozují rasu, politické názory, členství v odborech, náboženské vyznání nebo sexuální orientaci z obrázků obličeje nebo otisků prstů, nejsou povoleny. Dálková biometrická identifikace v reálném čase ve veřejných prostorách je zakázána s výjimkou přísně definovaných situací se specifickými požadavky. právní povolení.

Jaký dopad mají nizozemské směrnice pro umělou inteligenci z února 2025 na ochranu soukromí a osobních údajů spotřebitelů?

Zákon o umělé inteligenci funguje souběžně se stávajícími předpisy o ochraně osobních údajů, včetně GDPR. Nizozemský úřad pro ochranu osobních údajů poskytuje pokyny k tomu, jak musí systémy umělé inteligence splňovat pravidla ochrany osobních údajů, zejména pokud jde o automatizované rozhodování.

Neúčelné scrapingování snímků obličeje z internetu nebo záznamů z kamer za účelem vytváření nebo rozšiřování databází pro rozpoznávání obličejů je zakázáno. Toto omezení chrání práva jednotlivců na soukromí a zabraňuje neoprávněnému shromažďování biometrických údajů.

Systémy umělé inteligence musí respektovat základní práva po celou dobu svého životního cyklu. Veřejné orgány a subjekty poskytující veřejné služby musí při používání vysoce rizikových systémů umělé inteligence provádět posouzení dopadu na základní práva.

Které činnosti založené na umělé inteligenci již nizozemské podniky nesmějí provozovat kvůli nedávným legislativním změnám?

Vaše firma nesmí používat systémy rozpoznávání emocí na pracovišti ani ve vzdělávacím prostředí. Tyto systémy jsou zakázány bez ohledu na uváděné výhody nebo případy použití.

Nelze nasazovat systémy umělé inteligence, které manipulují s lidmi pomocí podprahových technik nebo zneužívají jejich zranitelnosti. To zahrnuje i systémy, které cílí na jednotlivce na základě jejich postižení, sociálního postavení nebo věku s cílem ovlivnit jejich chování.

Biometrické kategorizační systémy, které klasifikují lidi na základě citlivých charakteristik, jsou zakázány. Umělou inteligenci nelze použít k odvození rasy, politických názorů, náboženského vyznání nebo sexuální orientace z biometrických údajů dané osoby.

Systémy sociálního hodnocení jsou zcela zakázány. Nelze implementovat umělou inteligenci, která hodnotí nebo klasifikuje lidi na základě jejich sociálního chování nebo osobních charakteristik.

Dálková biometrická identifikace v reálném čase ve veřejně přístupných prostorách je pro komerční účely zakázána. Orgány činné v trestním řízení mohou takové systémy používat pouze za úzce vymezených okolností s řádným zákonným povolením.

Jaké kroky musí nizozemské korporace podniknout, aby sladily své systémy umělé inteligence s normami pro dodržování předpisů stanovenými v únoru 2025?

Musíte identifikovat všechny systémy umělé inteligence, které vaše organizace v současné době používá nebo nasazuje. Tento inventář by měl každý systém kategorizovat podle klasifikace rizik definované v zákoně o umělé inteligenci.

Zkontrolujte své systémy umělé inteligence podle seznamu zakázaných praktik. Pokud používáte jakékoli zakázané systémy, musíte je okamžitě vyřadit, abyste se vyhnuli regulačním sankcím.

Zdokumentujte účely, zdroje dat a rozhodovací procesy vašich systémů umělé inteligence. Tato dokumentace pomáhá prokázat shodu s předpisy a podporuje veškerá požadovaná posouzení dopadů.

U vysoce rizikových systémů umělé inteligence jsou potřeba další opatření pro zajištění souladu s předpisy. Orgány veřejné moci musí zaregistrovat vysoce rizikové systémy v evropské databázi do 2. srpna 2026 a provést posouzení dopadu na základní práva.

Proškolte své zaměstnance v nových požadavcích a zaveďte interní procesy pro průběžné sledování souladu s předpisy. Váš program dodržování předpisů by měl zahrnovat pravidelné kontroly systémů umělé inteligence, aby se zajistilo, že zůstávají v rámci regulačních limitů.

Existují nějaká odvětvová zákazy týkající se umělé inteligence, kterých by si měly být nizozemské firmy vědomy v návaznosti na nová nařízení?

Organizace ve vzdělávacím sektoru čelí specifickým omezením. Nelze používat systémy rozpoznávání emocí k monitorování studentů nebo k posouzení jejich emočního stavu, bez ohledu na zamýšlený vzdělávací přínos.

Podobná omezení má i pracovní prostředí. Zaměstnavatelé nemohou nasadit umělou inteligenci pro rozpoznávání emocí ke sledování emočních stavů nebo reakcí zaměstnanců během pracovních činností.

Orgány činné v trestním řízení mají omezené výjimky pro biometrické identifikační systémy. Tyto výjimky vyžadují přísné právní povolení a vztahují se pouze na specifické situace, jako je vyhledávání obětí únosů, předcházení bezprostředním hrozbám nebo sledování podezřelých ze závažných trestných činů.

Veřejné orgány poskytující veřejné služby čelí dalším požadavkům nad rámec obecných zákazů. U všech vysoce rizikových systémů umělé inteligence musíte provést posouzení dopadu na základní práva a tyto systémy zaregistrovat v evropské databázi.

Jaké jsou sankce za nedodržování omezení umělé inteligence zavedených v Nizozemsku v únoru 2025?

Regulační orgány mohou ukládat značné pokuty za nedodržování zákona o umělé inteligenci. Struktura sankcí se řídí stupňovitým přístupem založeným na závažnosti porušení.

Používání zakázaných systémů umělé inteligence představuje nejzávažnější kategorii porušení. Vaše organizace riskuje značné finanční pokuty, pokud bude v provozování zakázaných systémů pokračovat i po lhůtě v únoru 2025.

Přesná výše pokut závisí na tom, zda se vaše organizace kvalifikuje jako malý a střední podnik nebo větší společnost. Regulační orgány zohledňují faktory, jako je povaha porušení, jeho doba trvání a případná způsobená škoda.

Kromě finančních sankcí může nedodržení předpisů poškodit pověst vaší organizace. Jednotlivci poškození zakázanými systémy umělé inteligence se mohou domáhat dalších nápravných opatření v občanskoprávním řízení.

Nizozemský úřad pro ochranu osobních údajů a další regulační orgány mají donucovací pravomoci. Mohou vyšetřovat stížnosti, provádět audity a požadovat okamžité ukončení zakázaných praktik.