Nástroje umělé inteligence, jako jsou ChatGPT a DALL-E, dokáží vytvářet text, obrázky a další obsah během několika sekund. Pokud však dílo generované umělou inteligencí obsahuje chyby, porušuje něčí autorská práva nebo způsobuje újmu, otázka, kdo je za to zodpovědný, se komplikuje.

Nizozemské a evropské právo zatím nemají jasná pravidla určená konkrétně pro odpovědnost v oblasti umělé inteligence. To uživatele, vývojáře a firmy nechává v nejistotě ohledně jejich právního rizika.

Podle současného nizozemského a unijního práva odpovědnost za obsah generovaný umělou inteligencí obvykle nese odpovědnost osoba nebo společnost, která systém umělé inteligence nasadila. Vývojáři mohou také nést odpovědnost v závislosti na okolnostech a typu chyby.

Jedno Zákon EU o umělé inteligenci zavádí nové povinnosti na základě úrovně rizika. Stávající autorská práva zákon, pravidla odpovědnosti za vadný výrobek a smluvní právo hrají roli při určování, kdo musí odpovídat za chyby umělé inteligence.

Právní prostředí se rychle vyvíjí, protože soudy a regulační orgány pracují na aplikaci tradičních rámců na tuto novou technologii.

Obsah generovaný umělou inteligencí a odpovědnost: Klíčové otázky podle nizozemského a unijního práva

Systémy umělé inteligence nyní vytvářejí text, obrázky, videa a další materiály bez přímého lidského autorství. To vyvolává otázky, kdo nese odpovědnost, když tyto výstupy obsahují chyby.

Nizozemské právo a Předpisy EU přistupují k odpovědnosti prostřednictvím zavedených rámců, které nejsou určeny pro autonomní systémy umělé inteligence. To vytváří mezery v právní ochraně a odpovědnosti.

Definice a typy obsahu generovaného umělou inteligencí

Obsah generovaný umělou inteligencí označuje materiál vytvořený systémy umělé inteligence trénovanými na velkých datových sadách. Tyto systémy produkují výstupy na základě uživatelských pokynů nebo instrukcí.

Využívají strojové učení k generování odpovědí bez lidského zásahu do samotného procesu tvorby. Obsah má několik podob.

Generování textu zahrnuje články, zprávy a písemnou komunikaci vytvořenou pomocí velkých jazykových modelů. Vizuální obsah zahrnuje obrázky, grafiku a videa vytvořená pomocí generativních nástrojů umělé inteligence.

Audio výstupy zahrnují syntetickou řeč, hudbu a zvukové efekty. Vaše interakce se systémy umělé inteligence obvykle zahrnuje poskytnutí výzvy nebo instrukce, po níž umělá inteligence automaticky generuje obsah.

Systém umělé inteligence zpracovává vzory naučené z trénovacích dat a vytváří nový materiál, který dříve neexistoval. To se liší od tradičního softwaru, který se řídí explicitními programovacími instrukcemi.

Tradiční nástroje provádějí vaše specifické příkazy, zatímco systémy umělé inteligence činí nezávislá rozhodnutí na základě pravděpodobnostních modelů. Můžete si vyžádat „právní shrnutí smluvního práva“ a obdržet obsah, který se jeví jako směrodatný, ale obsahuje chyby, které systém umělé inteligence vygeneroval bez vašeho vědomí nebo přímého zásahu.

Základní principy odpovědnosti Nizozemska a EU

Nizozemské právo zakládá odpovědnost na několika základních principech v případě, že systémy umělé inteligence způsobí škodu. Objektivní odpovědnost vás činí odpovědnými za škody způsobené vadnými výrobky nebo nebezpečnými činnostmi bez ohledu na zavinění.

Odpovědnost za delikt vyžaduje prokázání protiprávního jednání, škody a příčinné souvislosti mezi těmito dvěma. EU vyvíjí harmonizovaná pravidla prostřednictvím navrhovaných právních předpisů.

Směrnice o odpovědnosti za škodu způsobenou umělou inteligencí si klade za cíl řešit mezery ve stávajících rámeccích tím, že zmírní důkazní břemeno pro žalobce. Jako provozovatel byste čelili odpovědnosti, pokud by systém umělé inteligence při nasazení nebyl vhodný pro zamýšlený účel.

Odpovědnost za výrobek podle práva EU platí, když jsou systémy umělé inteligence uváděny na trh jako produkty. Výrobci nesou odpovědnost objektivní odpovědnost za vady, které způsobují poškození.

Pokud profesionálně nasazujete systém umělé inteligence, můžete být považováni za profesionálního uživatele se zvýšenou odpovědností. Nizozemské právo uznává výjimku založenou na nepřiměřenosti.

Objektivní odpovědnosti se můžete vyhnout, pokud by vaše odpovědnost byla vzhledem k okolnostem nepřiměřená. Tato výjimka vyžaduje posouzení faktorů, jako je váš vztah k systému umělé inteligence, vaše schopnost zabránit újmě a rozložení rizika.

Rozsah a kontext chyb ve výstupech umělé inteligence

Chyby ve výstupech umělé inteligence mají různé podoby s různými právními důsledky. Faktické nepřesnosti dochází, když systémy umělé inteligence generují falešné informace prezentované jako pravda.

Porušení autorských práv dochází, když výstupy reprodukují chráněná díla bez povolení. Porušení soukromí vznikají, když systémy umělé inteligence neoprávněně zveřejňují osobní údaje.

Předvídatelnost systémů umělé inteligence ovlivňuje posouzení odpovědnostiNemůžete vždy předvídat, jaký obsah systém umělé inteligence vygeneruje, protože tyto systémy fungují spíše na základě složitých neuronových sítí než na základě transparentních pravidel.

Tato nepředvídatelnost komplikuje tradiční rámce odpovědnosti, které předpokládají, že můžete výsledky kontrolovat nebo předvídat. Profesionální kontexty značně zvýšit sázky.

Pokud používáte obsah generovaný umělou inteligencí v právním poradenství, lékařských informacích nebo finančním poradenství, chyby mohou způsobit značnou újmu příjemcům, kteří se na jeho přesnost spoléhají. Vaše povinnost péče se zvyšuje, když nasazujete systémy umělé inteligence v profesionálním prostředí.

Načasování chyb je podle nizozemského i unijního práva důležité. Testování před nasazením může prokázat přiměřenou péči, zatímco monitorování po nasazení ukazuje na průběžnou odpovědnost.

Nesete větší riziko odpovědnosti, pokud nasadíte systém umělé inteligence s vědomím, že v určitých kontextech způsobuje chyby, ale nevarujete uživatele nebo neimplementujete ochranná opatření.

Právní rámec pro obsah generovaný umělou inteligencí

Nizozemské právo kombinuje vnitrostátní ustanovení s předpisy EU, aby se zabývalo obsahem generovaným umělou inteligencí. Zákon EU o umělé inteligenci stanoví požadavky založené na riziku pro systémy AI.

Oba rámce se prolínají s ochranou základních práv, která formují odpovědnost a správu obsahu.

Příslušná nizozemská právní ustanovení

Jedno Nizozemský občanský zákoník tvoří základ pro nároky z odpovědnosti související s chybami obsahu generovanými umělou inteligencí. Článek 6:162 stanoví deliktní odpovědnost za protiprávní činy, což platí, když obsah umělé inteligence způsobí újmu pomluvou, porušením soukromí nebo zavádějícími informacemi.

Můžete požadovat náhradu škody, pokud něčí nedbalost při nasazení systémů umělé inteligence vede ke vzniku škodlivého obsahu. Nizozemský zákon o autorských právech (Auteurswet) se řídí tradičními principy autorského práva.

Pro ochranu autorských práv vyžaduje lidské autorství, což znamená, že obsah generovaný čistě umělou inteligencí bez podstatného lidského tvůrčího vkladu nelze v Nizozemsku chránit autorským právem. Můžete však vlastnit autorská práva, pokud významně tvůrčím způsobem přispějete k uspořádání nebo úpravě výstupů umělé inteligence.

Nizozemské soudy uplatňují článek 6:173 občanského zákoníku v případě odpovědnosti za vadný výrobek. Toto ustanovení se může vztahovat na systémy umělé inteligence, které produkují vadné výstupy.

Jedno Nizozemský úřad pro ochranu osobních údajů (Autoriteit Persoonsgegevens) prosazuje GDPR compliance pro systémy umělé inteligence zpracovávající osobní údaje. To ovlivňuje, jak můžete legálně používat a vytvářet obsah.

Legislativa EU upravující umělou inteligenci a obsah

Jedno Zákon EU o umělé inteligenci, která vstupuje v platnost postupně v letech 2026–2027, klasifikuje systémy umělé inteligence podle úrovně rizika. Vysoce rizikové aplikace umělé inteligence čelí přísným požadavkům, včetně transparentnosti, lidského dohledu a standardů přesnosti.

Musíte zajistit, aby vaše systémy pro tvorbu obsahu s umělou inteligencí splňovaly tyto povinnosti, pokud spadají do vysoce rizikových kategorií, jako jsou ty, které ovlivňují základní práva. Směrnice 2009 / 24 / ES chrání počítačové programy, včetně samotného softwaru umělé inteligence.

Směrnice uděluje autorská práva lidským vývojářům a zároveň stanoví pravidla pro zákonné užívání softwaru. Jednotný digitální trh Strategie harmonizuje pravidla pro obsah v členských státech a ovlivňuje způsob distribuce materiálů generovaných umělou inteligencí přes hranice.

Směrnice EU o autorských právech vyžadují, aby členské státy chránily originální díla lidského autorství. Soudní dvůr Evropské unie (Soudní dvůr EU) vykládá tyto zákony a vytváří precedenty, kterými se řídí vnitrostátní soudy.

Nedávná rozhodnutí Soudního dvora EU zdůrazňují lidskou tvůrčí volbu jako zásadní pro ochranu autorských práv.

Důsledky pro lidská práva a základní svobody

Jedno Listina základních práv Evropské unie Článek 11 chrání vaše Svoboda projevu, které se vztahuje i na obsah generovaný umělou inteligencí. Toto právo je však v rovnováze s dalšími ochranami, jako je ochrana soukromí (článek 7) a ochrana údajů (článek 8).

Nemůžete zneužívat svobodu projevu k ospravedlnění škodlivého obsahu umělé inteligence, který porušuje základní práva ostatních. Článek 1 chrání lidskou důstojnost a omezuje způsob, jakým se používají systémy umělé inteligence, které generují obsah ovlivňující jednotlivce.

Soudní dvůr EU rozhodl, že automatizované rozhodování musí respektovat lidskou důstojnost a autonomii. Musíte zavést ochranná opatření, pokud obsah umělé inteligence ovlivňuje významná rozhodnutí týkající se lidí.

Článek 47 zaručuje účinné právní prostředky nápravy a spravedlivé soudní procesy. To znamená, že osoby poškozené chybami v obsahu generovaným umělou inteligencí musí mít přístup ke spravedlnosti.

Měli byste zavést jasné mechanismy odpovědnosti, aby dotčené strany mohly identifikovat odpovědné strany a domáhat se nápravy u nizozemských nebo unijních soudů.

Uvedení zdroje a vlastnictví děl generovaných umělou inteligencí

Pod holandskou a EU zákon o duševním vlastnictví, ochrana autorských práv vyžaduje lidské autorství a originalitu. To vytváří značné problémy, když systémy umělé inteligence generují obsah s minimálním lidským zásahem.

Vaše vlastnická práva závisí na prokazatelné duševní tvorbě a míře tvůrčího vkladu, kterým přispějete k výslednému dílu.

Kritéria pro ochranu autorských práv

Autorské právo EU, jak je implementováno v nizozemské legislativě, stanoví přísné požadavky na ochranu. Vaše dílo musí pocházet od lidského autora, který uplatňuje tvůrčí volby.

Soudní dvůr Evropské unie v několika rozhodnutích potvrdil, že díla chráněná autorským právem vyžadují lidského tvůrce, který materiálu vtiskne svůj „osobní pečlivost“. Díla generovaná umělou inteligencí představují v tomto rámci specifické obtíže.

Pokud jednoduše zadáte výzvu do systému umělé inteligence a použijete výstup bez úprav, pravděpodobně nemáte žádnou ochranu autorských práv. Samotná umělá inteligence nemůže obsahovat Práva k duševnímu vlastnictví protože postrádá právní subjektivitu.

Klíčové požadavky, které musíte splňovat:

• Lidské autorství musí být prokazatelné
• Práce musí odrážet vaše tvůrčí volby
• Musíte přispět originálním intelektuálním vkladem
• Výstup nemůže být čistě mechanický nebo automatizovaný

Nizozemské soudy se řídí zásadami směrnice o informační společnosti (Infosociace), které vážou autorství přímo k fyzickým osobám. To znamená, že vaše nároky na vlastnictví závisí výhradně na prokázání vašeho tvůrčího přínosu k dílu.

Požadavky na originalitu a intelektuální tvorbu

Aby vaše dílo mohlo být chráněno autorským právem podle nizozemského a unijního práva, musí představovat „duševní výtvor“ odrážející vaši osobnost. Tato hranice jde nad rámec pouhé novosti.

Musíte prokázat, že kreativní rozhodnutí formovala konečný výstup. Při použití nástrojů umělé inteligence je obtížné prokázat originalitu.

Systém vytváří statistické předpovědi na základě trénovacích dat, nikoli kreativních úsudků. Vaše role při výběru výzev, kurátorování výstupů nebo úpravě výsledků určuje, zda splňujete standard duševní tvorby.

Svou vlastnickou pozici můžete posílit:

• Dokumentování vašeho tvůrčího procesu a rozhodnutí
• Provádění podstatných úprav výstupů umělé inteligence
• Kombinace prvků generovaných umělou inteligencí s originálním obsahem vytvořeným lidmi
• Smysluplná kontrola nad kreativním směrem

Nizozemský zákon o autorských právech vyžaduje, aby se na díle objevilo vaše osobní razítko. Generické nebo minimální pokyny obvykle tomuto testu neprojdou.

Problémy s autorstvím a lidským vstupem

Při nárokování autorství děl vytvořených s pomocí umělé inteligence čelíte značným problémům s dokazováním. Nizozemské právo duševního vlastnictví předpokládá, že autorská práva má osoba, která dílo vytvořila, ale prokazování vzniku se s účastí umělé inteligence stává složitým.

Úroveň vašeho lidského zásahu přímo ovlivňuje vaše autorská práva. Pokud rozsáhle upravujete, uspořádáváte nebo transformujete výstupy umělé inteligence prostřednictvím kreativních rozhodnutí, posilujete si svou pozici autora.

Soudy posuzují, zda vaše intelektuální úsilí představuje dominantní tvůrčí sílu. Běžné scénáře a jejich důsledky:

Měli byste vést podrobné záznamy o svém tvůrčím přínosu. Zdokumentujte svá kritéria výběru, rozhodnutí o úpravách a zdůvodnění kompozičních voleb.

Tyto důkazy se stávají klíčovými, pokud potřebujete v rámci sporů hájit svá práva duševního vlastnictví. Lidská tvořivost zůstává základem ochrany autorských práv.

Vaše vlastnictví závisí na prokázání, že vy, nikoli systém umělé inteligence, jste učinili tvůrčí rozhodnutí, která definují původní charakter díla.

Odpovědnost za chyby a porušení práv v obsahu generovaném umělou inteligencí

Když systémy umělé inteligence produkují chyby nebo obsah porušující autorská práva, odpovědnost obvykle padá na uživatele, vývojáře nebo obě strany v závislosti na jejich rolích a povinnostech. Zákon EU o umělé inteligenci a navrhované směrnice o odpovědnosti stanoví různé standardy pro vysoce rizikové systémy umělé inteligence a univerzální modely umělé inteligence a v určitých scénářích přesouvají důkazní břemeno.

Odpovědnost uživatelů a implementátorů

Ty neseš primární odpovědnost když nasazujete systémy umělé inteligence pro obchodní účely nebo je integrujete do svých služeb. Pokud používáte ChatGPT nebo podobné nástroje k generování obsahu pro webové stránky vaší společnosti a tento obsah obsahuje nepravdivé informace, můžete čelit odpovědnosti za nedbalost.

Vaše odpovědnost se vztahuje i na situace, kdy před zveřejněním neověříte výstupy umělé inteligence. Soudy rozhodly, že společnosti používající chatboty k interakci se zákazníky zůstávají odpovědné za všechny poskytnuté informace, a to i v případě, že umělá inteligence generuje odpovědi samostatně.

Mezi klíčové povinnosti uživatele patří:

• Ověření faktické správnosti před zveřejněním obsahu generovaného umělou inteligencí
• Implementace lidského dohledu u vysoce rizikových aplikací
• Zachování jasných prohlášení o vyloučení odpovědnosti ohledně informací generovaných umělou inteligencí
• Pravidelné sledování výstupů, zda neobsahují chyby nebo škodlivý obsah

U vysoce rizikových systémů umělé inteligence musíte provádět posouzení shody a vést podrobnou dokumentaci o tom, jak technologii nasazujete. Zákon EU o umělé inteligenci vyžaduje zvýšenou hloubkovou kontrolu při používání umělé inteligence v odvětvích, jako je zdravotnictví, zaměstnanost nebo vymáhání práva.

Povinnosti vývojářů a poskytovatelů

Vývojáři umělé inteligence čelí odpovědnosti, pokud jejich systémy obsahují zásadní konstrukční nedostatky nebo postrádají odpovídající bezpečnostní opatření. Společnosti jako OpenAI musí zajistit, aby jejich modely splňovaly technické standardy a poskytovaly jasná varování před omezeními.

Nemůžete se zcela chránit pouze podmínkami služby. I když tvrzení, že výstupy „nemusí být vždy přesné“, nabízí určitou ochranu, soudy zkoumají, zda jste podnikli přiměřené kroky k zabránění předvídatelné újmě.

Pokud vyvinete chatbota pro lékařské poradenství bez řádného testování, prohlášení o vyloučení odpovědnosti vás nemusí ochránit před odpovědností.

Povinnosti vývojářů podle pravidel EU:

U modelů umělé inteligence pro všeobecné účely musíte zveřejnit zdroje trénovacích dat a prokázat soulad s autorským právem. Navrhovaná pravidla EU vyžadují, abyste identifikovali a zmírnili systémová rizika, zejména u modelů s rozšířeným nasazením.

Scénáře společné a nerozdílné odpovědnosti

Pokud více aktérů přispívá ke škodě způsobené obsahem generovaným umělou inteligencí, můžete sdílet odpovědnost s dalšími stranami. Pokud nasadíte systém umělé inteligence vyvinutý jinou společností a tento systém produkuje hanlivý obsah, můžete čelit nárokům vy i vývojář.

Společná odpovědnost obvykle vzniká, když smluvní strany nevyjasní své povinnosti. Můžete nést společnou odpovědnost se svým poskytovatelem umělé inteligence, pokud upravíte jeho systém způsobem, který zvyšuje riziko, nebo pokud ignorujete známá omezení při nasazení.

Případ Air Canada tento princip demonstruje. Letecká společnost se nemohla vyhnout odpovědnosti tvrzením, že její chatbot fungoval nezávisle, přestože základní technologii vyvinula samostatná společnost.

Běžné scénáře společné odpovědnosti:

• Přizpůsobování systémů umělé inteligence bez adekvátního testování
• Nasazení systémů mimo jejich zamýšlené případy použití
• Nedodržení doporučených bezpečnostních opatření
• Sdílení kontroly nad generováním a publikováním obsahu

Rozdělení důkazního břemene a povinnosti péče

Navrhovaná směrnice EU o odpovědnosti za škodu způsobenou umělou inteligencí přesouvá důkazní břemeno ve váš prospěch, pokud utrpíte újmu v důsledku systémů umělé inteligence. Vývojáři musí prokázat, že splnili své povinnosti péče, spíše než vy musíte dokazovat, že došlo k nedbalosti.

Toto obrácení se týká konkrétně vysoce rizikových systémů umělé inteligence a situací, kdy nemáte rozumný přístup k informacím o tom, jak umělá inteligence funguje. Přesto musíte prokázat, že došlo ke skutečné újmě a prokázat věrohodnou souvislost mezi výstupem umělé inteligence a vašimi škodami.

Vaše povinnosti péče závisí na vaší roli. Pokud nasazujete umělou inteligenci, musíte:

• Udržujte systémy dle pokynů poskytovatele
• Sledování výkonu a identifikace zhoršení
• Omezit přístup pouze oprávněným osobám
• Dokumentace incidentů a neobvyklých výstupů

Pro vývojáře patří mezi povinnosti péče průběžné monitorování po nasazení, poskytování včasných aktualizací v případě objevení chyb a udržování technické dokumentace, kterou mohou soudy přezkoumat. Tyto povinnosti se zpřísňují u vysoce rizikových aplikací, kde by chyby mohly způsobit značné škody.

Deepfakes představují specifické výzvy, protože na konečném výstupu přispívá více stran. Za vytváření, distribuci nebo nesprávné označení syntetických médií můžete čelit odpovědnosti, a to i při použití nástrojů vyvinutých jinými.

Porušení autorských práv a školicí data: Právní rizika

Trénování generativních modelů umělé inteligence na materiály chráněné autorským právem vytváří odlišné expozice vůči odpovědnosti podle autorského práva EU, zejména prostřednictvím rámců směrnice o informační společnosti a směrnice o digitálních a digitálních platformách pro správu dat (DSM). Reprodukce děl chráněných autorským právem během vzdělávání zahrnuje výhradní práva, zatímco výjimky pro dolování textu a dat poskytují omezená bezpečná útočiště za určitých podmínek.

Porušení během fáze školení a výstupu

Fáze trénování generativních modelů umělé inteligence obvykle zahrnuje kopírování celých děl chráněných autorským právem do datových sad, což představuje reprodukci podle článku 2 směrnice o informační společnosti. To platí bez ohledu na to, zda kopie přetrvávají i po dokončení trénování, nebo zda existují pouze jako dočasné soubory během předzpracování.

Vaše odpovědnost sahá i nad rámec přímého kopírování. Pokud používáte datové sady třetích stran sestavené neoprávněným scrapingem, můžete čelit sekundární odpovědnosti za porušení, k němuž došlo během vytváření datové sady.

Výstupní fáze vytváří další rizika, když generativní umělá inteligence produkuje obsah v podstatě podobný trénovacím datům. Vlastníci autorských práv mohou porušení nároku pokud váš model generuje díla, která reprodukují nebo věrně napodobují chráněný projev.

Soudy posuzují porušení autorských práv na základě zkoumání kopírování i podstatné podobnosti. Vaše použití školicích dat chráněných autorským právem prokazuje prvek kopírování, zatímco podobnost výstupu s konkrétními chráněnými díly dokončuje analýzu porušení.

Výjimky pro dolování textu a dat (TDM)

Směrnice o digitálních a digitálních systémech pro správu dat (DSM) zavedla dvě výjimky pro TDM, které mohou za určitých podmínek povolit školení o materiálech chráněných autorským právem. Článek 3 umožňuje výzkumným organizacím a institucím kulturního dědictví provádět TDM pro účely vědeckého výzkumu.

Článek 4 poskytuje širší výjimku pro jakýkoli subjekt provádějící TDM, včetně komerčních vývojářů umělé inteligence. Článek 4 však obsahuje kritická omezení.

Držitelé práv se mohou odhlásit tím, že si svá práva rezervují „vhodným způsobem, například strojově čitelnými prostředky“. Tento mechanismus odhlášení výrazně omezuje praktický rozsah výjimky, jelikož velcí vydavatelé a obsahové platformy stále častěji zavádějí technická opatření blokující školení umělé inteligence.

Na výjimky TDM se nemůžete spoléhat, pokud:

• Držitelé práv si svá práva výslovně vyhradili technickými nebo smluvními prostředky
• Získali jste přístup k dílům neoprávněnými prostředky nebo v rozporu s podmínkami služby
• Vaše použití překračuje rámec toho, co je nezbytné pro účely TDM, například uchovávání kompletních kopií nad rámec požadavků na školení.

Výjimka rovněž vyžaduje legální přístup k dílům. Scraping obsahu z webových stránek, které zakazují automatizovaný přístup, pravděpodobně nespadá do působnosti výjimky, a to i bez výslovných výhrad autorských práv.

Záruky podle směrnic DSM a InfoSoc

Směrnice DSM vyžaduje, aby členské státy zavedly ochranná opatření chránící držitele práv a zároveň umožňovaly legitimní činnosti TDM. Tato ochranná opatření vyvažují inovační zájmy s ochranou autorských práv prostřednictvím specifických požadavků na dodržování předpisů.

Musíte zajistit, aby vaše aktivity TDM splňovaly požadavky proporcionality. To znamená uchovávat kopie pouze po dobu nezbytně nutnou pro účely školení a zavést bezpečnostní opatření zabraňující neoprávněnému přístupu k materiálům chráněným autorským právem ve vašich datových sadách.

Trvalé uložení kompletních děl chráněných autorským právem může překročit rámec povolený výjimkou. Práva k databázím podle směrnice 96/9/ES vytvářejí dodatečnou odpovědnost.

Školení na podstatných částech chráněných databází může porušovat zvláštní právo k databázím, které funguje nezávisle na ochraně autorských práv. Právo k databázím brání extrakci a opětovnému využití obsahu databáze, což by mohlo zahrnovat i sestavování rozsáhlých datových sad pro školení umělé inteligence.

Implementace v členských státech se liší v tom, jak interpretují a uplatňují tato ochranná opatření. Některé jurisdikce uplatňují přísnější požadavky na komerční činnosti TDM ve srovnání s nekomerčním výzkumem, zatímco jiné poskytují jednotnější zacházení v různých případech použití.

Klasifikace rizik a dodržování předpisů podle zákona EU o umělé inteligenci

Zákon EU o umělé inteligenci používá čtyřstupňový systém rizik k regulaci systémů umělé inteligence na základě jejich potenciální škodlivosti. Různé úrovně rizika spouštějí různé požadavky na shodu, od úplných zákazů až po mírnější povinnosti transparentnosti.

Kategorie rizik pro systémy umělé inteligence

Zákon EU o umělé inteligenci rozděluje systémy umělé inteligence do čtyř odlišných kategorií rizik. Každá kategorie určuje, jaká pravidla musíte dodržovat při vývoji nebo nasazování umělé inteligence.

Nepřijatelné riziko Systémy jsou podle zákona zcela zakázány. Patří mezi ně systémy umělé inteligence, které manipulují s lidským chováním, zneužívají zranitelnosti nebo umožňují vládám sociální bodování.

Tyto systémy nemůžete za žádných okolností nasadit v EU. Vysoce rizikové systémy umělé inteligence čelit těm nejpřísnějším požadavkům.

Zákon je definuje jako umělou inteligenci používanou jako bezpečnostní komponenty v regulovaných produktech nebo systémy umělé inteligence uvedené v konkrétních oblastech, jako je zaměstnanost, vzdělávání, vymáhání práva a ochrana hranic. Pokud váš systém umělé inteligence spadá do kategorií uvedených v příloze III, jako jsou náborové nástroje nebo systémy bodování úvěrů, musíte dodržovat rozsáhlé povinnosti.

Omezené riziko Systémy musí splňovat požadavky na transparentnost. Mezi tyto systémy patří chatboti a generátory deepfake.

Musíte uživatele informovat, že interagují s umělou inteligencí. Minimální riziko Systémy nenesou žádné specifické povinnosti nad rámec obecných právních předpisů.

Většina aplikací s umělou inteligencí spadá do této kategorie, včetně spamových filtrů a videoher s umělou inteligencí.

Povinnosti a požadavky na transparentnost

Vysoce rizikové systémy umělé inteligence s sebou nesou významné povinnosti v oblasti dodržování předpisů. Musíte zavést systémy řízení rizik, vést technickou dokumentaci a zajistit lidský dohled.

Požadavky na správu dat nařizují používání vysoce kvalitních školicích dat a vedení podrobných protokolů o operacích systému. Poskytovatelé generativních systémů umělé inteligence čelí specifickým povinnostem transparentnosti podle článku 50.

Obsah generovaný umělou inteligencí musíte označit ve strojově čitelném formátu a zajistit, aby výstupy byly detekovatelné jako uměle generované. To platí pro zvukový, obrazový, video a textový obsah.

Nasazení musíte zveřejňovat deepfaky, které připomínají skutečné osoby nebo události. Pokud publikujete text generovaný umělou inteligencí o záležitostech veřejného zájmu, musíte o tom informovat čtenáře, pokud obsah neprošel lidskou kontrolou a redakčním dohledem.

Technická řešení, která implementujete, musí být efektivní, interoperabilní a robustní. Evropský úřad pro umělou inteligenci zavedl kodexy postupů, které vám pomohou prokázat soulad s těmito požadavky na značení a označování.

Úloha národních a evropských orgánů dohledu

Evropský úřad pro umělou inteligenci (AI Office) dohlíží na implementaci zákona o umělé inteligenci na úrovni EU. Tento úřad vyvíjí pokyny, koordinuje vnitrostátní orgány a usnadňuje tvorbu kodexů postupů pro vznikající technologie umělé inteligence.

Národní dozorové orgány v každém členském státě vymáhají požadavky zákona. Tyto orgány mohou vyšetřovat stížnosti, provádět audity a ukládat sankce za nedodržování předpisů.

V Nizozemsku budou určené orgány zajišťovat vymáhání předpisů v oblasti systémů umělé inteligence nasazených nebo používaných v nizozemské jurisdikci. Nedodržování předpisů s sebou nese přísné sankce.

Mohou vám být uloženy pokuty až do výše 35 milionů eur nebo 7 % vašeho celosvětového ročního obratu, podle toho, která částka je vyšší. Výše ​​pokuty závisí na typu porušení a velikosti vaší organizace.

Úřady posoudí, zda je vaše klasifikace systému umělé inteligence správná a zda jste splnili příslušné povinnosti. Mohou vám požadovat úpravu systémů, pozastavení nasazení nebo stažení produktů z trhu.

Smluvní a občanskoprávní důsledky v Nizozemsku

Nizozemské právo uplatňuje stávající rámce na případy odpovědnosti za umělou inteligenci a stanoví objektivní odpovědnost za selhání při nasazení, zatímco pro jiné scénáře si zachovává nároky založené na zavinění. Uživatelé nesou primární odpovědnost, pokud se systémy umělé inteligence ukážou jako nevhodné pro svůj zamýšlený účel, ačkoli za specifických okolností se mohou uplatnit obhajoby založené na nepřiměřenosti.

Objektivní odpovědnost a nároky založené na zavinění

Podle nizozemského práva čelíte objektivní odpovědnosti, pokud nasadíte systém umělé inteligence, který v době nasazení nebyl vhodný pro svůj zamýšlený účel. Tato odpovědnost platí bez ohledu na to, zda jste o nevhodnosti věděli.

Jedinou možnou výjimkou je případ, kdy by vaše odpovědnost byla vzhledem ke konkrétním okolnostem nepřiměřená. U nároků založených na zavinění se uplatňují tradiční zásady smluvního práva.

Musíte prokázat, že jiná strana porušila své smluvní povinnosti nebo jednala nedbale. To se stává relevantní, pokud dodavatelé poskytují vadné systémy umělé inteligence nebo nesplňují dohodnuté specifikace.

Nizozemské soudy zkoumají, zda během zadávání veřejných zakázek a implementace umělé inteligence proběhla řádná due diligence. Musíte zdokumentovat svůj proces výběru, posouzení rizik a monitorovací postupy.

Bez takové dokumentace je prokázání vaší žaloby nebo obhajoba proti nárokům výrazně obtížnější. Toto rozlišení je důležité, protože objektivní odpovědnost přesouvá břemeno jinak než u nároků založených na zavinění.

V případech objektivní odpovědnosti se nemůžete vyhnout odpovědnosti pouhým prokázáním, že jste jednali opatrně nebo dodržovali osvědčené postupy.

Omezení, obrana a výjimky

Obhajoba z důvodu nepřiměřenosti představuje hlavní cestu k napadení nároků z objektivní odpovědnosti. Soudy posuzují faktory, jako je složitost systému umělé inteligence, dostupné alternativy, nákladové aspekty a oborové standardy v době nasazení.

Můžete se také odvolat na vyšší moc, pokud selhání systému umělé inteligence způsobily vnější okolnosti mimo vaši kontrolu. Tato obrana vyžaduje prokázání, že událost byla nepředvídatelná a nevyhnutelná, což v případech nasazení umělé inteligence zřídka uspěje.

Smluvní doložky mohou omezit vaši odpovědnost, ačkoli nizozemské právo taková omezení omezuje, pokud jsou v rozporu s pravidly ochrany spotřebitele. Smlouvy mezi podniky nabízejí větší flexibilitu při vyjednávání limitů odpovědnosti a ujednání o odškodnění.

Interakce se zákony na ochranu osobních údajů a soukromí

Dodržování GDPR se podle nizozemského práva přímo prolíná s odpovědností umělé inteligence. Pokud obsah generovaný umělou inteligencí zahrnuje osobní údaje, musíte zajistit, aby existovaly zákonné důvody pro zpracování a práva subjektu údajů zůstat chráněni.

Nizozemský úřad pro ochranu osobních údajů vymáhá Požadavky GDPR spolu s obavami specifickými pro umělou inteligenci. Za porušení předpisů v oblasti zpracování dat vám hrozí pokuty, a to i v případě, že systém umělé inteligence z technického hlediska funguje správně.

Porušení zákona o ochraně osobních údajů může také posílit nároky na občanskoprávní odpovědnost vůči vám. Musíte implementovat ochrana dat záměrně a standardně při nasazení systémů umělé inteligence.

To zahrnuje provádění posouzení vlivu na ochranu osobních údajů u vysoce rizikových činností zpracování. Nedodržení těchto povinností vytváří další důvody odpovědnosti nad rámec smluvních nebo občanskoprávních nároků.

Zásady IT práva vyžadují, abyste dodržovali vhodná technická a organizační opatření. Tato opatření se překrývají jak se smluvními závazky, tak s bezpečnostními požadavky GDPR, což vytváří několik potenciálních cest odpovědnosti v případě, že systémy umělé inteligence nesprávně nakládají s daty.

Často kladené dotazy

Nizozemské a evropské rámce odpovědnosti se zabývají obsahem generovaným umělou inteligencí prostřednictvím stávající občanskoprávní delikt, pravidla odpovědnosti za škodu způsobenou výrobkem a nově vznikající předpisy specifické pro umělou inteligenci. Tyto rámce rozlišují mezi vývojáři, provozovateli a uživateli systémů umělé inteligence.

Ochrana duševního vlastnictví zůstává omezená u výstupů generovaných čistě umělou inteligencí. Existují různé právní mechanismy pro vymáhání náhrady škody.

Jaké jsou důsledky odpovědnosti za chyby způsobené umělou inteligencí v Nizozemsku podle současné legislativy?

Podle nizozemského práva spadá odpovědnost za chyby způsobené umělou inteligencí primárně pod článek 6:162 nizozemského občanského zákoníku, který upravuje protiprávní jednání. Musíte prokázat, že chyba umělé inteligence způsobila škodu, že jednání bylo protiprávní a že škodu lze přičíst straně odpovědné za systém umělé inteligence.

Nizozemský právní systém zatím nemá specifickou legislativu týkající se výhradně odpovědnosti za umělou inteligenci. Místo toho se na incidenty související s umělou inteligencí vztahují stávající rámce.

To znamená, že při uplatňování nároku musíte prokázat zavinění nebo nedbalost. Pravidla odpovědnosti za škodu způsobenou vadou výrobku platí i v případě, že systémy umělé inteligence splňují podmínky vadné výrobky podle směrnice o odpovědnosti za škodu způsobenou výrobkem.

Výrobce může nést objektivní odpovědnost, pokud prokážete, že výrobek byl při uvedení na trh vadný. To platí i bez prokázání vady.

Pro smluvní vztahy, vaše odpovědnost závisí na konkrétních podmínkách dohodnutých mezi stranami. Poskytovatelé služeb a implementátoři umělé inteligence často zahrnují omezení odpovědnosti v jejich smlouvách.

Tato ustanovení do značné míry určují, kdo nese odpovědnost za chyby.

Jak směrnice EU upravují odpovědnost za chyby způsobené systémy umělé inteligence?

Směrnice EU o odpovědnosti za vadné výrobky z roku 1985 poskytuje základ pro odpovědnost výrobců za vadné výrobky, včetně systémů umělé inteligence. Můžete požadovat odškodnění bez prokázání zavinění, pokud prokážete, že výrobek byl vadný a způsobil škodu.

Evropská komise v roce 2022 navrhla směrnici o odpovědnosti za umělou inteligenci, která má řešit mezery ve stávající legislativě. Tato směrnice si klade za cíl zmírnit důkazní břemeno zavedením presumpcí kauzality za určitých okolností.

Členské státy pracují na harmonizaci těchto pravidel v celé EU. Zákon EU o umělé inteligenci, který vstoupil v platnost v roce 2024, stanoví povinnosti v oblasti bezpečnosti a transparentnosti pro vysoce rizikové systémy umělé inteligence.

Porušení těchto požadavků může posílit vaše nároky na odpovědnost. Zákon klasifikuje systémy umělé inteligence podle úrovně rizika s přísnějšími pravidly pro vysoce rizikové aplikace.

Mezi vysoce rizikové systémy umělé inteligence patří systémy používané ve zdravotnictví, dopravě a kritické infrastruktuře. Poskytovatelé těchto systémů musí vést podrobnou dokumentaci a implementovat procesy řízení rizik.

Vaše schopnost uplatňovat nároky se zlepšuje, pokud jsou tyto povinnosti porušeny.

Existuje v právu EU rozdíl mezi odpovědností tvůrce a uživatele za poruchy obsahu generovaného umělou inteligencí?

Právo EU rozlišuje mezi poskytovateli (tvůrci), provozovateli (uživateli) a dovozci systémů umělé inteligence. Každá strana má podle zákona o umělé inteligenci specifické povinnosti.

Vaše odpovědnost závisí na vaší roli v dodavatelském řetězci umělé inteligence. Poskytovatelé musí zajistit, aby systémy umělé inteligence splňovaly bezpečnostní požadavky, než je uvedou na trh.

Nesou primární odpovědnost za konstrukční vady a nedodržování bezpečnostních norem. Obvykle můžete reklamace uplatňovat vůči dodavatelům, když zásadní systémové chyby způsobí škodu.

Implementátoři, kteří implementují systémy umělé inteligence ve svých operacích, mají samostatné povinnosti. Musíte používat systémy umělé inteligence podle pokynů a sledovat jejich výkon.

Implementátoři mohou nést odpovědnost, pokud zneužijí systémy nebo neposkytnou dostatečný lidský dohled. Toto rozlišení je důležité při určování odpovědnosti.

Smluvní dohody mezi poskytovateli a implementátory často rozdělují odpovědnosti. Abyste pochopili, kdo nese odpovědnost za konkrétní typy chyb, je třeba si tyto dohody prostudovat.

Jaké precedenty existují v nizozemské judikatuře ohledně odpovědnosti za generování obsahu umělou inteligencí?

Nizozemské soudy mají omezenou judikaturu, která se konkrétně zabývá odpovědností za obsah generovaný umělou inteligencí. Většina sporů se řeší na základě stávajícího práva občanskoprávních deliktů a zásad odpovědnosti za vadný výrobek.

V Nizozemsku se zatím nelze spoléhat na rozsáhlé precedenty týkající se umělé inteligence. Případy týkající se automatizovaných systémů a softwaru poskytují určité vodítko.

Nizozemské soudy uplatňovaly tradiční zásady nedbalosti k chybám souvisejícím s technologií. Klíčovou otázkou zůstává, zda odpovědná strana vynaložila přiměřenou péči.

Případy lékařské odpovědnosti týkající se diagnostických nástrojů s využitím umělé inteligence ilustrují, jak k těmto záležitostem přistupují nizozemské soudy. Nemocnice a poskytovatelé zdravotní péče byli shledáni odpovědnými, když nedokázali zajistit lidský dohled nad doporučeními umělé inteligence.

Musíte prokázat, že nebyly dodrženy řádné postupy. Nizozemský právní systém zdůrazňuje důležitost lidské odpovědnosti za kritická rozhodnutí.

Soudy se zdráhají přisoudit odpovědnost výhradně systémům umělé inteligence. Je nutné identifikovat lidské aktéry, kteří umělou inteligenci nasadili nebo na ni dohlíželi.

Jak se práva duševního vlastnictví v rámci EU vzájemně ovlivňují s materiály generovanými umělou inteligencí?

Autorské právo EU vyžaduje pro ochranu lidský tvůrčí vklad. Obsah generovaný čistě umělou inteligencí bez smysluplného lidského vkladu nesplňuje podmínky pro ochranu autorských práv podle současných rámců.

Nemůžete si nárokovat autorská práva na výstupy vytvořené výhradně systémy umělé inteligence. Evropský úřad pro autorská práva uvedl, že díla musí být výsledkem lidského duševního úsilí.

Pokud poskytujete podstatné tvůrčí vedení nebo provádíte významné úpravy výstupů umělé inteligence, můžete si zajistit ochranu autorských práv. Lidský přínos musí být originální a znatelný.

Pokud používáte systémy umělé inteligence trénované na materiálu chráněném autorskými právy, vyvstávají otázky odpovědnosti ohledně porušení autorských práv. Držitelé práv mohou potenciálně tvrdit, že trénování umělé inteligence představuje neoprávněné kopírování.

Tato oblast zůstává v členských státech EU neupravena. Při registraci kreativních děl musíte zveřejnit části generované umělou inteligencí.

Ochrana autorských práv se vztahuje pouze na vaše původní lidské příspěvky. Neuvedení řádných informací může vést k zamítnutí registrace nebo k pozdějším námitkám.

Jaké jsou právní aspekty pro nápravu škod způsobených nesprávným obsahem generovaným umělou inteligencí v Evropě?

Musíte zjistit příčinnou souvislost mezi chybou umělé inteligence a vašimi škodami. To může být u složitých systémů umělé inteligence, které fungují jako „černé skříňky“, náročné.

Navrhovaná směrnice o odpovědnosti za umělou inteligenci se snažila tuto zátěž zmírnit prostřednictvím presumpcí kauzality.

Dokumentace hraje klíčovou roli v žalobách o náhradu škody. Musíte uchovávat důkazy o obsahu generovaném umělou inteligencí, okolnostech jeho vzniku a výsledné škodě.

Záznamy, dokumentace algoritmů a trénovací data se stávají nezbytnými důkazy.

Za chyby způsobené umělou inteligencí se může podílet více stran. V závislosti na okolnostech můžete uplatňovat nároky vůči vývojářům, poskytovatelům služeb a implementátorům.

Váš smluvní vztah s těmito stranami ovlivňuje dostupné opravné prostředky.

Pojistné krytí škod souvisejících s umělou inteligencí se značně liší. Měli byste si ověřit, zda vaše pojistné smlouvy kryjí chyby v obsahu generované umělou inteligencí.

Mnoho standardních zásad obsahuje výjimky pro určité nároky související s technologiemi.

Pro uplatňování nároků podle občanskoprávních deliktů i pravidel odpovědnosti za vadný výrobek platí časové omezení. Obvykle máte od zjištění škody k zahájení soudního řízení omezenou dobu.

Pro zachování vašich práv je nezbytné provést rychlý zákrok.