Obsah generovaný umělou inteligencí a odpovědnost: klíčové problémy
Definice a typy obsahu generovaného umělou inteligencí
Obsah generovaný umělou inteligencí označuje materiál vytvořený systémy umělé inteligence trénovanými na velkých datových sadách. Tyto systémy produkují výstupy na základě uživatelských pokynů nebo instrukcí. Využívají strojové učení ke generování odpovědí bez lidského zásahu do samotného procesu tvorby. Obsah má několik podob.Generování textu zahrnuje články, zprávy a písemnou komunikaci vytvořenou pomocí velkých jazykových modelů. Vizuální obsah zahrnuje obrázky, grafiku a videa vytvořená pomocí generativních nástrojů umělé inteligence.Audio výstupy zahrnují syntetickou řeč, hudbu a zvukové efekty. Vaše interakce se systémy umělé inteligence obvykle zahrnuje poskytnutí výzvy nebo instrukce, po níž umělá inteligence autonomně generuje obsah. Systém umělé inteligence zpracovává vzory naučené z trénovacích dat a vytváří nový materiál, který dříve neexistoval. To se liší od tradičního softwaru, který se řídí explicitními programovacími instrukcemi. Tradiční nástroje provádějí vaše specifické příkazy, zatímco systémy umělé inteligence činí nezávislá rozhodnutí na základě pravděpodobnostních modelů. Můžete si vyžádat „právní shrnutí smluvního práva“ a obdržet obsah, který se jeví jako směrodatný, ale obsahuje chyby, které systém umělé inteligence vygeneroval bez vašeho vědomí nebo přímého zásahu.Základní principy odpovědnosti Nizozemska a EU
Nizozemské právo zakládá odpovědnost na několika základních principech v případě, že systémy umělé inteligence způsobí škodu. Objektivní odpovědnost vás činí odpovědnými za škody způsobené vadnými výrobky nebo nebezpečnými činnostmi bez ohledu na zavinění.Odpovědnost za delikt vyžaduje prokázání protiprávního jednání, škody a příčinné souvislosti mezi těmito dvěma. EU se v tomto ohledu pokusila o harmonizovaný postup, ale poté jej opustila. Navrhovaná směrnice o odpovědnosti za škodu způsobenou umělou inteligencí, která by zavedla presumpce příčinné souvislosti a informační povinnosti ve prospěch žalobců, byla Evropskou komisí stažena, takže neexistuje žádný celounijní režim odpovědnosti za škodu způsobenou umělou inteligencí založený na zavinění a žádný ani není na cestě. Žalobcům zbývá jen nizozemské občanskoprávní delikty, smluvní pravidla a pravidla odpovědnosti za vadný výrobek. Jako provozovatel čelíte riziku, pokud systém umělé inteligence použijete k účelu, pro který nebyl vhodný.Odpovědnost za výrobek podle práva EU platí, když jsou systémy umělé inteligence uváděny na trh jako produkty. Výrobci nesou odpovědnost objektivní odpovědnost za vady, které způsobují škodu. Pokud systém umělé inteligence nasadíte profesionálně, můžete být považováni za profesionálního uživatele se zvýšenou odpovědností. Nizozemské právo uznává výjimku založenou na nepřiměřenosti. Objektivní odpovědnosti se můžete vyhnout, pokud by vaše odpovědnost byla vzhledem k okolnostem nepřiměřená. Tato výjimka vyžaduje posouzení faktorů, včetně vašeho vztahu k systému umělé inteligence, vaší schopnosti zabránit újmě a rozložení rizika.Rozsah a kontext chyb ve výstupech umělé inteligence
Chyby ve výstupech umělé inteligence mají různé podoby s různými právními důsledky. Faktické nepřesnosti dochází, když systémy umělé inteligence generují falešné informace prezentované jako pravda.Porušení autorských práv dochází, když výstupy reprodukují chráněná díla bez povolení. Porušení soukromí vznikají, když systémy umělé inteligence neoprávněně zveřejňují osobní údaje. Předvídatelnost systémů umělé inteligence ovlivňuje posouzení odpovědnostiNemůžete vždy předvídat, jaký obsah systém umělé inteligence vygeneruje, protože tyto systémy fungují prostřednictvím složitých neuronových sítí, nikoli transparentních pravidel. Tato nepředvídatelnost komplikuje tradiční rámce odpovědnosti, které předpokládají, že můžete výsledky kontrolovat nebo předvídat. Profesionální kontexty značně zvyšují sázky. Pokud používáte obsah generovaný umělou inteligencí v právním poradenství, lékařských informacích nebo finančním poradenství, chyby mohou způsobit značnou újmu příjemcům, kteří se na přesnost spoléhají. Vaše povinnost péče se zvyšuje, když nasazujete systémy umělé inteligence v profesionálním prostředí. Načasování chyb je podle nizozemského a unijního práva důležité. Testování před nasazením může prokázat přiměřenou péči, zatímco monitorování po nasazení ukazuje průběžnou odpovědnost. Nesete větší riziko odpovědnosti, pokud nasadíte systém umělé inteligence s vědomím, že v určitých kontextech produkuje chyby, ale nevarujete uživatele nebo neimplementujete ochranná opatření.Právní rámec pro obsah generovaný umělou inteligencí
Příslušná nizozemská právní ustanovení
Jedno Nizozemský občanský zákoník tvoří základ pro nároky z odpovědnosti související s chybami obsahu generovanými umělou inteligencí. Článek 6:162 stanoví deliktní odpovědnost za protiprávní činy, což platí, když obsah umělé inteligence způsobí újmu pomluvou, porušením soukromí nebo zavádějícími informacemi. Můžete požadovat náhradu škody, pokud něčí nedbalost při nasazení systémů umělé inteligence vede ke vzniku škodlivého obsahu. Nizozemský zákon o autorských právech (Auteurswet) se řídí tradičními principy autorského práva. Pro ochranu autorských práv vyžaduje lidské autorství, což znamená, že obsah generovaný čistě umělou inteligencí bez podstatného lidského tvůrčího vkladu nelze v Nizozemsku chránit autorským právem. Můžete však vlastnit autorská práva, pokud významně tvůrčím způsobem přispějete k uspořádání nebo úpravě výstupů umělé inteligence. Zde se často zaměňují dva odlišné režimy. Odpovědnost za výrobek je zakotven v článcích 6:185 a násl. občanského zákoníku, které implementují evropská pravidla odpovědnosti za vadný výrobek a činí výrobce objektivně odpovědným za vadný výrobek. Článek 6:173 je něco jiného: obecná odpovědnost za riziko držitele vadné movité věci s podmínkou, že držitel nenese odpovědnost, pokud by se vyhnul odpovědnosti i podle článku 6:162, kdyby o vadě věděl. Který z těchto dvou bodů se použije na systém umělé inteligence, závisí na tom, zda byl systém uveden na trh jako výrobek a na tom, kdo je žalován. Nizozemský úřad pro ochranu osobních údajů (Autoriteit Persoonsgegevens) prosazuje GDPR compliance pro systémy umělé inteligence zpracovávající osobní údaje. To ovlivňuje, jak můžete legálně používat a vytvářet obsah.Právní předpisy EU upravující umělou inteligenci a obsah
Jedno Zákon EU o umělé inteligenci Zákon vstoupil v platnost 1. srpna 2024 a uplatňuje se postupně: zákazy a povinnost gramotnosti v oblasti umělé inteligence od 2. února 2025, pravidla pro obecnou umělou inteligenci od 2. srpna 2025 a povinnosti transparentnosti podle článku 50 od 2. srpna 2026. Režim s vysokým rizikem byl balíčkem digitálních souhrnných předpisů odložen na 2. prosince 2027 pro případy použití podle přílohy III a na 2. srpna 2028 pro umělou inteligenci, která je bezpečnostní součástí regulovaného produktu podle přílohy I. Zákon klasifikuje systémy umělé inteligence podle úrovně rizika. Vysoce rizikové aplikace umělé inteligence čelí přísným požadavkům, včetně transparentnosti, lidského dohledu a standardů přesnosti. Musíte zajistit, aby vaše systémy obsahu umělé inteligence splňovaly tyto povinnosti, pokud spadají do kategorií s vysokým rizikem, jako jsou ty, které ovlivňují základní práva. Směrnice 2009 / 24 / ES chrání počítačové programy, včetně samotného softwaru umělé inteligence. Směrnice uděluje autorská práva lidským vývojářům a zároveň stanoví pravidla pro zákonné užívání softwaru. Jednotný digitální trh Strategie harmonizuje pravidla pro obsah v členských státech a ovlivňuje způsob distribuce materiálů generovaných umělou inteligencí přes hranice. Směrnice EU o autorském právu vyžadují, aby členské státy chránily originální díla lidského autorství. Soudní dvůr Evropské unie (Soudní dvůr EU) interpretuje tyto zákony a vytváří precedenty, kterými se řídí národní soudy. Nedávná rozhodnutí Soudního dvora EU zdůrazňují lidskou tvůrčí volbu jako nezbytnou pro ochranu autorských práv.Důsledky pro lidská práva a základní svobody
Jedno Listina základních práv Evropské unie Článek 11 chrání vaše Svoboda projevu, které se vztahuje i na obsah generovaný umělou inteligencí. Toto právo je však v rovnováze s jinými ochranami, jako je soukromí (článek 7) a ochrana údajů (článek 8). Nelze použít svobodu projevu k ospravedlnění škodlivého obsahu umělé inteligence, který porušuje základní práva ostatních. Článek 1 chrání lidskou důstojnost a omezuje způsob, jakým nasazujete systémy umělé inteligence, které generují obsah ovlivňující jednotlivce. Soudní dvůr EU rozhodl, že automatizované rozhodování musí respektovat lidskou důstojnost a autonomii. Musíte zavést ochranná opatření, pokud obsah umělé inteligence ovlivňuje významná rozhodnutí o lidech. Článek 47 zaručuje účinné právní prostředky a spravedlivé soudní procesy. To znamená, že osoby poškozené chybami v obsahu generovaném umělou inteligencí musí mít přístup ke spravedlnosti. Měli byste zavést jasné mechanismy odpovědnosti, aby dotčené strany mohly identifikovat odpovědné strany a domáhat se nápravy u nizozemských nebo unijních soudů.Uvedení zdroje a vlastnictví děl vytvořených umělou inteligencí
Pod holandskou a EU zákon o duševním vlastnictvíOchrana autorských práv vyžaduje lidské autorství a originalitu. To vytváří značné výzvy, když systémy umělé inteligence generují obsah s minimálním lidským zásahem. Vaše vlastnická práva závisí na prokazatelné duševní tvorbě a úrovni tvůrčího vkladu, kterým do konečného díla přispějete.Kritéria pro ochranu autorských práv
Autorské právo EU, jak je implementováno v nizozemské legislativě, stanoví přísné požadavky na ochranu. Vaše dílo musí pocházet od lidského autora, který uplatňuje tvůrčí volby. Soudní dvůr Evropské unie v několika rozhodnutích potvrdil, že díla chráněná autorským právem vyžadují lidského tvůrce, který materiálu vtiskne svůj „osobní pečlivost“. Díla generovaná umělou inteligencí představují v tomto rámci specifické obtíže. Pokud jednoduše zadáte výzvu do systému umělé inteligence a použijete výstup bez úprav, pravděpodobně nemáte žádnou autorskoprávní ochranu. Samotná umělá inteligence nemůže… Práva k duševnímu vlastnictví protože postrádá právní subjektivitu.Klíčové požadavky, které musíte splňovat:- Lidské autorství musí být prokazatelné
- Práce musí odrážet vaše tvůrčí volby
- Musíte přispět originálním intelektuálním vkladem
- Výstup nemůže být čistě mechanický nebo automatizovaný
Požadavky na originalitu a duševní tvorbu
Aby vaše dílo mohlo být chráněno autorským právem podle nizozemského a unijního práva, musí představovat „intelektuální výtvor“ odrážející vaši osobnost. Tato hranice jde nad rámec pouhé novosti. Musíte prokázat, že konečný výstup formovala kreativní rozhodnutí. Při používání nástrojů umělé inteligence je obtížné stanovit originalitu. Systém provádí statistické předpovědi na základě trénovacích dat, nikoli kreativních úsudků. Vaše role při výběru podnětů, kurátorování výstupů nebo úpravě výsledků určuje, zda splňujete standard duševního výtvoru. Svou vlastnickou pozici můžete posílit tím, že:- Dokumentování vašeho tvůrčího procesu a rozhodnutí
- Provádění podstatných úprav výstupů umělé inteligence
- Kombinace prvků generovaných umělou inteligencí s originálním obsahem vytvořeným lidmi
- Smysluplná kontrola nad kreativním směrem
Problémy s autorstvím a lidským vstupem
Při nárokování autorství děl vytvořených s pomocí umělé inteligence čelíte značným problémům s dokazováním. Nizozemské právo duševního vlastnictví předpokládá, že autorská práva vlastní osoba, která dílo vytvořila, ale prokazování tvorby se s účastí umělé inteligence stává složitým. Vaše úroveň lidského zásahu přímo ovlivňuje vaše nároky na autorství. Pokud rozsáhle upravujete, uspořádáváte nebo transformujete výstupy umělé inteligence prostřednictvím tvůrčích rozhodnutí, posilujete si postavení autora. Soudy posuzují, zda vaše intelektuální úsilí představuje dominantní tvůrčí sílu. Běžné scénáře a jejich důsledky:| Tvá role | Pravděpodobný výsledek |
|---|---|
| Pouze minimální výzva k zadání | Žádná ochrana autorských práv |
| Rychlé upřesnění a výběr výstupu | Nejistá ochrana |
| Významné úpravy a aranžmá | Možná ochrana |
| Umělá inteligence jako nástroj s lidskou kreativní kontrolou | Silné tvrzení o ochraně |
Odpovědnost za chyby a porušení práv v obsahu generovaném umělou inteligencí
Když systémy umělé inteligence produkují chyby nebo obsah porušující autorská práva, odpovědnost obvykle padá na uživatele, vývojáře nebo obě strany v závislosti na jejich rolích a povinnostech. Zákon EU o umělé inteligenci a navrhované směrnice o odpovědnosti stanoví různé standardy pro vysoce rizikové systémy umělé inteligence a univerzální modely umělé inteligence a v určitých scénářích přesouvají důkazní břemeno.Odpovědnost uživatelů a implementátorů
Ty neseš primární odpovědnost když nasazujete systémy umělé inteligence pro obchodní účely nebo je integrujete do svých služeb. Pokud používáte ChatGPT nebo podobné nástroje k generování obsahu pro webové stránky vaší společnosti a tento obsah obsahuje nepravdivé informace, můžete čelit odpovědnosti za nedbalost. Vaše odpovědnost se vztahuje i na situace, kdy před zveřejněním neověříte výstupy umělé inteligence. Soudy rozhodly, že společnosti používající chatboty k interakci se zákazníky zůstávají odpovědné za všechny poskytnuté informace, a to i v případě, že umělá inteligence generuje odpovědi samostatně.Mezi klíčové povinnosti uživatele patří:- Ověření faktické správnosti před zveřejněním obsahu generovaného umělou inteligencí
- Implementace lidského dohledu u vysoce rizikových aplikací
- Zachování jasných prohlášení o vyloučení odpovědnosti ohledně informací generovaných umělou inteligencí
- Pravidelné sledování výstupů, zda neobsahují chyby nebo škodlivý obsah
Povinnosti vývojářů a poskytovatelů
Vývojáři umělé inteligence čelí odpovědnosti, pokud jejich systémy obsahují zásadní konstrukční nedostatky nebo postrádají odpovídající bezpečnostní opatření. Společnosti jako OpenAI musí zajistit, aby jejich modely splňovaly technické standardy a poskytovaly jasná varování o omezeních. Nemůžete se zcela chránit pouze podmínkami služby. I když tvrzení, že výstupy „nemusí být vždy přesné“, nabízí určitou ochranu, soudy zkoumají, zda jste podnikli přiměřené kroky k zabránění předvídatelné újmy. Pokud vyvinete chatbota pro lékařské poradenství bez řádného testování, prohlášení o vyloučení odpovědnosti vás nemusí před odpovědností ochránit.Povinnosti vývojářů podle pravidel EU:| Typ systému | Základní požadavky |
|---|---|
| Vysoce rizikové systémy umělé inteligence | Posuzování shody, řízení rizik, správa dat, dokumentace transparentnosti |
| Modely umělé inteligence pro všeobecné použití | Technická dokumentace, dodržování autorských práv, zveřejňování informací o energetické účinnosti |
| Všechny systémy | Normy přesnosti, zkušební protokoly, uživatelské pokyny |
Společná a nerozdílná odpovědnost
Pokud více aktérů přispívá ke škodě způsobené obsahem generovaným umělou inteligencí, můžete se podílet na odpovědnosti s jinými stranami. Pokud nasadíte systém umělé inteligence vyvinutý jinou společností a tento systém produkuje hanlivý obsah, můžete čelit nárokům vy i vývojář. Společná odpovědnost obvykle vzniká, když si smluvní strany nevyjasní odpovědnosti. Můžete nést společnou odpovědnost se svým poskytovatelem umělé inteligence, pokud upravíte jeho systém způsobem, který zvyšuje riziko, nebo pokud ignorujete známá omezení při nasazení. Výchozí bod v nizozemském právu je pro nasazující firmu neúprosný: pokud na své webové stránky umístíte chatbota, to, co říká vašim zákazníkům, je přičitatelné vám. Nemůžete zákazníkovi odpovědět tím, že model vytvořil odpověď sám. Zda pak můžete tuto ztrátu přenést na svého dodavatele, je smluvní otázkou, na kterou odpovídá smlouva, kterou jste podepsali, a nikoli architektura systému.Běžné scénáře společné odpovědnosti:- Přizpůsobování systémů umělé inteligence bez adekvátního testování
- Nasazení systémů mimo jejich zamýšlené případy použití
- Nedodržení doporučených bezpečnostních opatření
- Sdílení kontroly nad generováním a publikováním obsahu
Rozdělení důkazního břemene a povinnosti péče
Neexistuje žádné obrácení důkazního břemene v celé EU v případě škod způsobených umělou inteligencí: směrnice, která by takové obrácení zavedla, byla stažena. Podle nizozemského práva nese důkazní břemeno žalobce podle článku 150 občanského soudního řádu, ačkoli se soud od něj může odchýlit, pokud to vyžadují standardy přiměřenosti a spravedlnosti, což je realistický argument, pokud má protokoly a dokumentaci pouze žalovaný. Stále musíte prokázat, že došlo ke skutečné újmě a prokázat věrohodnou souvislost mezi výstupem umělé inteligence a vašimi škodami. Vaše povinnosti péče závisí na vaší roli. Pokud nasadíte umělou inteligenci, musíte:- Udržujte systémy dle pokynů poskytovatele
- Sledování výkonu a identifikace zhoršení
- Omezit přístup pouze oprávněným osobám
- Dokumentace incidentů a neobvyklých výstupů
Porušení autorských práv a školicí data
Trénování generativních modelů umělé inteligence na materiály chráněné autorským právem vytváří odlišné expozice vůči odpovědnosti podle autorského práva EU, zejména prostřednictvím rámců směrnice o informační společnosti a směrnice o digitálních a digitálních platformách pro správu dat (DSM). Reprodukce děl chráněných autorským právem během vzdělávání zahrnuje výhradní práva, zatímco výjimky pro dolování textu a dat poskytují omezená bezpečná útočiště za určitých podmínek.Porušení během fáze školení a výstupu
Fáze trénování generativních modelů umělé inteligence obvykle zahrnuje kopírování celých děl chráněných autorským právem do datových sad, což představuje reprodukci podle článku 2 směrnice o informační společnosti. To platí bez ohledu na to, zda kopie přetrvávají i po dokončení trénování, nebo zda existují pouze jako dočasné soubory během předzpracování. Vaše odpovědnost přesahuje rámec přímého kopírování. Pokud používáte datové sady třetích stran sestavené neoprávněným scrapingem, můžete čelit sekundární odpovědnosti za porušení práv spáchané během vytváření datové sady. Výstupní fáze vytváří další rizika, když generativní umělá inteligence vytváří obsah v podstatě podobný trénovacím datům. Vlastníci autorských práv mohou porušení nároku Pokud váš model generuje díla, která reprodukují nebo věrně napodobují chráněný projev. Soudy posuzují porušení autorských práv zkoumáním jak kopírování, tak podstatné podobnosti. Vaše použití trénovacích dat chráněných autorským právem prokazuje prvek kopírování, zatímco podobnost výstupu s konkrétními chráněnými díly dokončuje analýzu porušení.Výjimky pro dolování textu a dat (TDM)
Směrnice o digitálních a digitálních softwarových řešeních (DSM) zavedla dvě výjimky pro TDM, které mohou za určitých podmínek povolit školení o materiálech chráněných autorským právem. Článek 3 umožňuje výzkumným organizacím a institucím kulturního dědictví provádět TDM pro účely vědeckého výzkumu. Článek 4 stanoví širší výjimku pro jakýkoli subjekt provádějící TDM, včetně komerčních vývojářů umělé inteligence. Článek 4 však obsahuje kritická omezení. Držitelé práv se mohou odhlásit tím, že si svá práva vyhradí „vhodným způsobem, například strojově čitelnými prostředky“. Tento mechanismus odhlášení výrazně omezuje praktický rozsah výjimky, protože velcí vydavatelé a platformy obsahu stále častěji zavádějí technická opatření blokující školení v oblasti umělé inteligence. Na výjimky pro TDM se nemůžete spoléhat, pokud:- Držitelé práv si svá práva výslovně vyhradili technickými nebo smluvními prostředky
- Získali jste přístup k dílům neoprávněnými prostředky nebo v rozporu s podmínkami služby
- Vaše použití překračuje rámec toho, co je nezbytné pro účely TDM, například uchovávání kompletních kopií nad rámec požadavků na školení.
Záruky podle směrnic DSM a InfoSoc
Směrnice o digitálních a digitálních softwarových produktech (DSM) vyžaduje, aby členské státy zavedly ochranná opatření chránící držitele práv a zároveň umožňovaly legitimní činnosti v oblasti TDM. Tato ochranná opatření vyvažují zájmy v oblasti inovací a ochranu autorských práv prostřednictvím specifických požadavků na dodržování předpisů. Musíte zajistit, aby vaše činnosti v oblasti TDM splňovaly požadavky proporcionality. To znamená uchovávat kopie pouze po dobu nezbytnou pro účely školení a zavádět bezpečnostní opatření zabraňující neoprávněnému přístupu k materiálům chráněným autorským právem ve vašich datových sadách. Trvalé ukládání kompletních děl chráněných autorským právem může překročit rámec povolený výjimkou. Práva k databázím podle směrnice 96/9/ES vytvářejí dodatečnou odpovědnost. Školení na podstatných částech chráněných databází může porušovat zvláštní právo k databázi, které funguje nezávisle na ochraně autorských práv. Právo k databázi brání extrakci a opětovnému využití obsahu databáze a potenciálně zahrnuje i rozsáhlé sestavování datových sad pro školení v oblasti umělé inteligence. Implementace v členských státech se liší v tom, jak tato ochranná opatření interpretují a uplatňují. Některé jurisdikce uplatňují přísnější požadavky na komerční činnosti v oblasti TDM ve srovnání s nekomerčním výzkumem, zatímco jiné poskytují jednotnější zacházení v různých případech použití.Klasifikace rizik a dodržování předpisů podle zákona EU o umělé inteligenci
Zákon EU o umělé inteligenci používá čtyřstupňový systém rizik k regulaci systémů umělé inteligence na základě jejich potenciální škodlivosti. Různé úrovně rizika spouštějí různé požadavky na shodu, od úplných zákazů až po mírnější povinnosti transparentnosti.Kategorie rizik pro systémy umělé inteligence
Zákon EU o umělé inteligenci rozděluje systémy umělé inteligence do čtyř odlišných kategorií rizik. Každá kategorie určuje, jaká pravidla musíte dodržovat při vývoji nebo nasazování umělé inteligence.Nepřijatelné riziko Systémy jsou podle zákona zcela zakázány. Patří mezi ně systémy umělé inteligence, které manipulují s lidským chováním, zneužívají zranitelnosti nebo umožňují vládám sociální bodování. Tyto systémy nelze v EU za žádných okolností nasadit. Vysoce rizikové systémy umělé inteligence čelí nejpřísnějším požadavkům. Zákon je definuje jako umělou inteligenci používanou jako bezpečnostní komponenty v regulovaných produktech nebo systémy umělé inteligence uvedené v konkrétních oblastech, jako je zaměstnanost, vzdělávání, vymáhání práva a ochrana hranic. Pokud váš systém umělé inteligence spadá do kategorií podle přílohy III, jako jsou náborové nástroje nebo systémy bodování úvěrů, musíte dodržovat rozsáhlé povinnosti.Omezené riziko Systémy musí splňovat požadavky na transparentnost. Mezi tyto systémy patří chatboti a generátory deepfake. Musíte uživatele informovat, že interagují s umělou inteligencí. Minimální riziko Systémy nečelí žádným specifickým povinnostem nad rámec obecných zákonů. Většina aplikací umělé inteligence spadá do této kategorie, včetně spamových filtrů a videoher s umělou inteligencí.Povinnosti a požadavky na transparentnost
Vysoce rizikové systémy umělé inteligence s sebou nesou významné povinnosti v oblasti dodržování předpisů. Musíte zavést systémy řízení rizik, vést technickou dokumentaci a zajistit lidský dohled. Požadavky na správu dat nařizují, abyste používali vysoce kvalitní školicí data a vedli podrobné protokoly o provozu systému. Poskytovatelé generativních systémů umělé inteligence čelí specifickým povinnostem transparentnosti podle článku 50. Musíte označit obsah generovaný umělou inteligencí ve strojově čitelném formátu a zajistit, aby výstupy byly detekovatelné jako uměle generované. To platí pro zvukový, obrazový, video a textový obsah.Nasazení musíte zveřejňovat deepfaky, které připomínají skutečné osoby nebo události. Pokud publikujete text generovaný umělou inteligencí o záležitostech veřejného zájmu, musíte o tom informovat čtenáře, pokud obsah neprošel lidskou kontrolou a redakčním dohledem. Technická řešení, která implementujete, musí být účinná, interoperabilní a robustní. Evropský úřad pro umělou inteligenci zavedl kodexy postupů, které vám pomohou prokázat soulad s těmito požadavky na označování a certifikaci.Úloha národních a evropských orgánů dohledu
Evropský úřad pro umělou inteligenci (AI) dohlíží na implementaci zákona o umělé inteligenci na úrovni EU. Tento úřad vyvíjí pokyny, koordinuje vnitrostátní orgány a usnadňuje kodexy postupů pro vznikající technologie umělé inteligence. Národní dozorové orgány v každém členském státě vymáhají požadavky zákona. Tyto orgány mohou vyšetřovat stížnosti, provádět audity a ukládat sankce za nedodržování předpisů. V Nizozemsku byla zvolena distribuovaná metoda dohledu, kdy stávající odvětvové regulační orgány dohlížejí na umělou inteligenci v rámci svých vlastních oblastí a koordinují ji Úřad pro ochranu osobních údajů a Nizozemský úřad pro digitální infrastrukturu. Tato struktura je zákonně zakotvena v zákoně o implementaci zákona o umělé inteligenci, který byl v dubnu 2026 projednán ve veřejném řízení a dosud nevstoupil v platnost, takže se stále sestavuje národní mechanismus pro vymáhání předpisů. Nedodržování předpisů s sebou nese přísné sankce. Můžete čelit pokutám až do výše 35 milionů eur nebo 7 % vašeho celosvětového ročního obratu, podle toho, která částka je vyšší. Výše pokuty závisí na typu porušení a velikosti vaší organizace. Orgány posoudí, zda je klasifikace vašeho systému umělé inteligence správná a zda jste splnili příslušné povinnosti. Mohou po vás požadovat úpravu systémů, pozastavení nasazení nebo stažení produktů z trhu.Smluvní a občanskoprávní důsledky v Nizozemsku
Nizozemské právo uplatňuje stávající rámce na případy odpovědnosti za umělou inteligenci a stanoví objektivní odpovědnost za selhání při nasazení, zatímco pro jiné scénáře si zachovává nároky založené na zavinění. Uživatelé nesou primární odpovědnost, pokud se systémy umělé inteligence ukážou jako nevhodné pro svůj zamýšlený účel, ačkoli za specifických okolností se mohou uplatnit obhajoby založené na nepřiměřenosti.Objektivní odpovědnost a nároky založené na zavinění
Podle nizozemského práva čelíte objektivní odpovědnosti, pokud nasadíte systém umělé inteligence, který v době nasazení nebyl vhodný pro zamýšlený účel. Tato odpovědnost se uplatňuje bez ohledu na to, zda jste o nevhodnosti věděli. Jedinou možnou výjimkou je případ, kdy by vaše odpovědnost byla vzhledem ke konkrétním okolnostem nepřiměřená. U nároků založených na zavinění se uplatňují tradiční zásady smluvního práva. Musíte prokázat, že jiná strana porušila své smluvní povinnosti nebo jednala nedbale. To se stává relevantní, když dodavatelé dodají vadné systémy umělé inteligence nebo nesplní dohodnuté specifikace. Nizozemské soudy zkoumají, zda během zadávání veřejných zakázek a implementace umělé inteligence proběhla řádná due diligence. Musíte zdokumentovat svůj výběrový proces, posouzení rizik a monitorovací postupy. Bez takové dokumentace je prokázání vašeho případu nebo obhajoba proti nárokům výrazně obtížnější. Toto rozlišení je důležité, protože objektivní odpovědnost přesouvá břemeno jinak než nároky založené na zavinění. V případech objektivní odpovědnosti se nemůžete vyhnout odpovědnosti pouhým prokázáním, že jste jednali pečlivě nebo dodržovali osvědčené postupy.Omezení, obrana a výjimky
Obhajoba z důvodu nepřiměřenosti představuje vaši hlavní cestu k napadení nároků z objektivní odpovědnosti. Soudy posuzují faktory, jako je složitost systému umělé inteligence, dostupné alternativy, nákladové aspekty a oborové standardy v době nasazení. Můžete se také odvolat na vyšší moc, pokud selhání systému umělé inteligence způsobilo za vnější okolnosti mimo vaši kontrolu. Tato obhajoba vyžaduje prokázání, že událost byla nepředvídatelná a nevyhnutelná, což v případech nasazení umělé inteligence zřídka uspěje. Smluvní doložky mohou omezit vaši odpovědnost, ačkoli nizozemské právo taková omezení omezuje, pokud jsou v rozporu s pravidly ochrany spotřebitele. Smlouvy mezi podniky nabízejí větší flexibilitu při vyjednávání limitů odpovědnosti a ujednání o odškodnění.Interakce se zákony na ochranu osobních údajů a soukromí
Dodržování GDPR se podle nizozemského práva přímo prolíná s odpovědností umělé inteligence. Pokud obsah generovaný umělou inteligencí zahrnuje osobní údaje, musíte zajistit, aby existovaly zákonné důvody pro zpracování a práva subjektu údajů zůstat chráněni. Nizozemský úřad pro ochranu osobních údajů vynucuje Požadavky GDPR spolu s obavami specifickými pro umělou inteligenci. Za porušení zpracování dat vám hrozí pokuty, a to i v případě, že systém umělé inteligence z technického hlediska funguje správně. Porušení zákona o ochraně osobních údajů může také posílit nároky na občanskoprávní odpovědnost vůči vám. Musíte implementovat ochrana dat záměrně a standardně při nasazování systémů umělé inteligence. To zahrnuje provádění posouzení vlivu na ochranu osobních údajů u vysoce rizikových činností zpracování. Nedodržení těchto povinností vytváří další důvody odpovědnosti nad rámec smluvních nebo občanskoprávních nároků.IT právo Principy vyžadují, abyste dodržovali vhodná technická a organizační opatření. Tato opatření se překrývají jak se smluvními závazky, tak s bezpečnostními požadavky GDPR, což vytváří několik potenciálních cest odpovědnosti, pokud systémy umělé inteligence nesprávně nakládají s daty.Často kladené otázky
Nizozemské a evropské rámce odpovědnosti se zabývají obsahem generovaným umělou inteligencí prostřednictvím stávající občanskoprávní delikt, pravidla odpovědnosti za škodu způsobenou výrobkem a nově vznikající předpisy specifické pro umělou inteligenci. Tyto rámce rozlišují mezi vývojáři, provozovateli a uživateli systémů umělé inteligence. Ochrana duševního vlastnictví zůstává omezená u výstupů generovaných čistě umělou inteligencí. Existují různé právní mechanismy pro vymáhání náhrady škody.Jaké jsou důsledky odpovědnosti za chyby způsobené umělou inteligencí v Nizozemsku podle současné legislativy?
Podle nizozemského práva spadá odpovědnost za chyby způsobené umělou inteligencí primárně pod článek 6:162 nizozemského občanského zákoníku, který upravuje protiprávní jednání. Musíte prokázat, že chyba umělé inteligence způsobila škodu, že jednání bylo protiprávní a že škodu lze přičíst straně odpovědné za systém umělé inteligence.
Nizozemský právní systém zatím nemá specifickou legislativu týkající se výhradně odpovědnosti za umělou inteligenci. Místo toho se na incidenty související s umělou inteligencí vztahují stávající rámce.
To znamená, že při uplatňování nároku musíte prokázat zavinění nebo nedbalost. Pravidla odpovědnosti za vadné výrobky se uplatní i v případě, že systémy umělé inteligence splňují požadavky směrnice o odpovědnosti za vadné výrobky.
Výrobce může nést objektivní odpovědnost, pokud prokážete, že výrobek byl při uvedení na trh vadný. To platí i bez prokázání vady.
V případě smluvních vztahů závisí vaše odpovědnost na konkrétních podmínkách dohodnutých mezi stranami. Poskytovatelé služeb a provozovatelé umělé inteligence často do svých smluv zahrnují omezení odpovědnosti .
Tato ustanovení do značné míry určují, kdo nese odpovědnost za chyby.
Jak směrnice EU upravují odpovědnost za chyby způsobené systémy umělé inteligence?
Odpovědnost za vadný výrobek byla přepracována směrnicí (EU) 2024/2853, která nahrazuje směrnici z roku 1985 a výslovně stanoví, že software, včetně systémů umělé inteligence, je výrobek. Členské státy ji musí provést do 9. prosince 2026, takže do doby, než vstoupí v platnost nizozemské prováděcí legislativy, platí stávající pravidla uvedená v článcích 6:185 a násl. občanského zákoníku. Můžete požadovat odškodnění bez prokázání zavinění, pokud prokážete, že výrobek byl vadný a způsobil škodu.
Evropská komise v roce 2022 navrhla směrnici o odpovědnosti za umělou inteligenci a poté ji stáhla, takže presumpce kauzality, které by zavedla, se nikdy nestaly zákonem.
Toto harmonizační úsilí bylo nyní opuštěno ve prospěch odpovědnosti umělé inteligence založené na jejím zavinění. Zákon EU o umělé inteligenci, který vstoupil v platnost v roce 2024, stanoví povinnosti v oblasti bezpečnosti a transparentnosti pro vysoce rizikové systémy umělé inteligence.
Porušení těchto požadavků může posílit vaše nároky na odpovědnost. Zákon klasifikuje systémy umělé inteligence podle úrovně rizika s přísnějšími pravidly pro vysoce rizikové aplikace.
Mezi vysoce rizikové systémy umělé inteligence patří systémy používané ve zdravotnictví, dopravě a kritické infrastruktuře. Poskytovatelé těchto systémů musí vést podrobnou dokumentaci a implementovat procesy řízení rizik.
Vaše schopnost uplatňovat nároky se zlepšuje, pokud jsou tyto povinnosti porušeny.
Existuje v právu EU rozdíl mezi odpovědností tvůrce a uživatele za poruchy obsahu generovaného umělou inteligencí?
Právo EU rozlišuje mezi poskytovateli (tvůrci), provozovateli (uživateli) a dovozci systémů umělé inteligence. Každá strana má podle zákona o umělé inteligenci specifické povinnosti.
Vaše odpovědnost závisí na vaší roli v dodavatelském řetězci umělé inteligence. Poskytovatelé musí zajistit, aby systémy umělé inteligence splňovaly bezpečnostní požadavky, než je uvedou na trh.
Nesou primární odpovědnost za konstrukční vady a nedodržování bezpečnostních norem. Obvykle můžete reklamace uplatňovat vůči dodavatelům, když zásadní systémové chyby způsobí škodu.
Implementátoři, kteří implementují systémy umělé inteligence ve svých operacích, mají samostatné povinnosti. Musíte používat systémy umělé inteligence podle pokynů a sledovat jejich výkon.
Implementátoři mohou nést odpovědnost, pokud zneužijí systémy nebo neposkytnou dostatečný lidský dohled. Toto rozlišení je důležité při určování odpovědnosti.
Smluvní dohody mezi poskytovateli a implementátory často rozdělují odpovědnosti. Abyste pochopili, kdo nese odpovědnost za konkrétní typy chyb, je třeba si tyto dohody prostudovat.
Jaké precedenty existují v nizozemské judikatuře ohledně odpovědnosti za generování obsahu umělou inteligencí?
Nizozemské soudy mají omezenou judikaturu, která se konkrétně zabývá odpovědností za obsah generovaný umělou inteligencí. Většina sporů se řeší na základě stávajícího práva občanskoprávních deliktů a zásad odpovědnosti za vadný výrobek.
V Nizozemsku se zatím nelze spoléhat na rozsáhlé precedenty týkající se umělé inteligence. Případy týkající se automatizovaných systémů a softwaru poskytují určité vodítko.
Nizozemské soudy uplatnily tradiční principy nedbalosti na chyby související s technologiemi. Klíčovou otázkou zůstává, zda odpovědná strana projevila přiměřenou péči.
V hlášených technologických případech platí, že soud hledá člověka, který se rozhodl spoléhat na systém, nikoli vadu v samotném systému.
Musíte prokázat, že nebyly dodrženy řádné postupy. Nizozemský právní systém zdůrazňuje důležitost lidské odpovědnosti za kritická rozhodnutí.
Soudy se zdráhají přisoudit odpovědnost výhradně systémům umělé inteligence. Je nutné identifikovat lidské aktéry, kteří umělou inteligenci nasadili nebo na ni dohlíželi.
Jak se práva duševního vlastnictví v rámci EU vzájemně ovlivňují s materiály generovanými umělou inteligencí?
Autorské právo EU vyžaduje pro ochranu lidský tvůrčí vklad. Obsah generovaný čistě umělou inteligencí bez smysluplného lidského vkladu nesplňuje podmínky pro ochranu autorských práv podle současných rámců.
Nemůžete se domáhat autorských práv k výstupům vytvořeným výhradně systémy umělé inteligence. Soudní dvůr důsledně rozhodl, že dílo musí být autorským vlastním duševním výtvorem, což předpokládá lidského autora.
Pokud poskytujete podstatné tvůrčí vedení nebo provádíte významné úpravy výstupů umělé inteligence, můžete si zajistit ochranu autorských práv. Lidský přínos musí být originální a znatelný.
Pokud používáte systémy umělé inteligence trénované na materiálu chráněném autorskými právy, vyvstávají otázky odpovědnosti ohledně porušení autorských práv. Držitelé práv mohou potenciálně tvrdit, že trénování umělé inteligence představuje neoprávněné kopírování.
Tato oblast zůstává v členských státech EU neurovnaná. V Nizozemsku neexistuje registrace autorských práv, takže o ochranu se nežádá.
Ochrana autorských práv se vztahuje pouze na vaše původní lidské příspěvky. Důležité je, abyste v případě zpochybnění mohli ukázat, které části díla obsahují vaše vlastní tvůrčí rozhodnutí.
Jaké jsou právní aspekty pro nápravu škod způsobených nesprávným obsahem generovaným umělou inteligencí v Evropě?
Musíte zjistit příčinnou souvislost mezi chybou umělé inteligence a vašimi škodami. To může být u složitých systémů umělé inteligence, které fungují jako „černé skříňky“, náročné.
Zrušená směrnice o odpovědnosti za umělou inteligenci by tuto zátěž zmírnila prostřednictvím presumpcí kauzality; protože nikdy nebyla přijata, platí běžná nizozemská pravidla o kauzalitě a důkazním břemenu, ačkoli soud může toto břemeno obrátit, pokud to vyžaduje spravedlnost.
Dokumentace hraje klíčovou roli v žalobách o náhradu škody. Musíte uchovávat důkazy o obsahu generovaném umělou inteligencí, okolnostech jeho vzniku a výsledné škodě.
Záznamy, dokumentace algoritmů a trénovací data se stávají nezbytnými důkazy.
Za chyby způsobené umělou inteligencí se může podílet více stran. V závislosti na okolnostech můžete uplatňovat nároky vůči vývojářům, poskytovatelům služeb a implementátorům.
Váš smluvní vztah s těmito stranami ovlivňuje dostupné opravné prostředky.
Pojistné krytí škod souvisejících s umělou inteligencí se značně liší. Měli byste si ověřit, zda vaše pojistné smlouvy kryjí chyby v obsahu generované umělou inteligencí.
Mnoho standardních zásad obsahuje výjimky pro určité nároky související s technologiemi.
Lhůty jsou krátké a liší se podle způsobu uplatnění. Nárok na náhradu škody z důvodu občanskoprávní odpovědnosti je stanoven podle článku 3:310 občanského zákoníku pět let ode dne, kdy se poškozená strana dozvěděla o škodě i o odpovědné osobě, a v každém případě dvacet let od škodní události. Lhůta pro uplatnění odpovědnosti za vadný výrobek je přísnější: tři roky od zjištění, přičemž samotná odpovědnost zaniká deset let od uvedení výrobku do oběhu. Lhůtu přerušte písemně podle článku 3:317 občanského zákoníku, spíše než se spoléhat na běžnou korespondenci.
Pro zachování vašich práv je nezbytné provést rychlý zákrok.
