Obsah generovaný umělou inteligencí: kdo je podle nizozemského a unijního práva odpovědný za chyby?

Pokud obsah generovaný umělou inteligencí obsahuje chyby nebo porušuje něčí práva, je v zásadě odpovědný podnik, který se rozhodl jej použít a zveřejnit, stejně jako za jakýkoli jiný obsah, který zveřejní. Hlavní výjimka: podnik může přenést ztrátu na svého dodavatele umělé inteligence, pouze pokud to smlouva umožňuje, nebo uplatnit vůči výrobci odpovědnost za vadný výrobek, pokud byl samotný systém umělé inteligence vadný.

V Nizozemsku neexistuje žádný specifický zákon o odpovědnosti za škodu způsobenou umělou inteligencí. Evropská komise stáhla svůj návrh směrnice o odpovědnosti za škodu způsobenou umělou inteligencí, takže nároky se vztahují na nizozemský občanský zákoník (BW), autorské právo, GDPR a pravidla odpovědnosti za škodu způsobenou výrobkem, zatímco zákon EU o umělé inteligenci stanoví povinnosti, které může soud použít k posouzení pečlivého jednání.

Kdo je zodpovědný za chyby v obsahu generovaném umělou inteligencí?

První riziko nese strana, která umělou inteligenci nasadí a publikuje její výstupy nebo na jejich základě pracuje. Chatbot na vašem webu mluví za vás: vůči vašim zákazníkům jsou jeho odpovědi vašimi odpověďmi.

Vůči svým zákazníkům odpovídáte za neplnění smlouvy podle článku 6:74 BW. Pokud k plnění smlouvy použijete nevhodný nástroj, článek 6:77 BW připisuje toto neplnění vám, pokud by to nebylo vzhledem k obsahu smlouvy, všeobecnému mínění a okolnostem nepřiměřené. Skutečnost, že jste nevěděli, že nástroj je nevhodný, vám nepomáhá.

Vůči třetím stranám, jako je například osoba pomluvená v textu napsaném umělou inteligencí, vyplývá odpovědnost z protiprávního jednání (onrechtmatige daad) podle článku 6:162 BW. Poškozená strana musí prokázat protiprávní čin, jeho přičítání, škodu a příčinnou souvislost. Zveřejnění nekontrolovaného výstupu umělé inteligence na citlivé téma může samo o sobě představovat nedbalé jednání.

Můžete ztrátu přenést na dodavatele umělé inteligence?

Pouze v rozsahu, v jakém to umožňuje vaše smlouva s dodavatelem. Standardní podmínky velkých poskytovatelů umělé inteligence obvykle vylučují odpovědnost za přesnost výstupu a mezi podniky jsou takové doložky v zásadě platné; přečtěte si více o omezení odpovědnosti.

Na omezující doložku se nelze odvolávat, pokud by to bylo nepřijatelné z hlediska standardů přiměřenosti a spravedlnosti (článek 6:248(2) BW), například v případě úmyslu nebo úmyslné nedbalosti. V případě spotřebitelů lze nepřiměřeně zatěžující doložky ve všeobecných obchodních podmínkách zrušit.

Kdy se odpovědnost za výrobek vztahuje na umělou inteligenci?

Odpovědnost za vadný výrobek činí výrobce odpovědným bez jeho zavinění za škodu způsobenou vadným výrobkem podle článků 6:185 a následujících zákoníku BW. Tyto články provádějí směrnici o odpovědnosti za vadný výrobek z roku 1985 a vztahují se na smrt, újmu na zdraví a škody na jiném majetku používaném k soukromým účelům, nikoli na čistou finanční ztrátu.

Směrnice (EU) 2024/2853 nahrazuje starou směrnici a výslovně stanoví, že software, včetně systémů umělé inteligence, je produkt. Členské státy ji musí provést do 9. prosince 2026; vztahuje se na produkty uvedené na trh po tomto datu. Do doby, než vstoupí v platnost nizozemský prováděcí akt, platí stávající články.

Lhůty jsou přísné. Reklamace z odpovědnosti za vadu výrobku se prodlužuje za tři roky od doby, kdy jste se dozvěděli o škodě, vadě a výrobci, a odpovědnost výrobce končí deset let od uvedení výrobku do oběhu (článek 6:191 BW).

Jaké povinnosti ukládá zákon EU o umělé inteligenci?

Zákon o umělé inteligenci (nařízení (EU) 2024/1689) vstoupil v platnost 1. srpna 2024 a uplatňuje se postupně. Samotný zákon neposkytuje poškozeným stranám nárok na náhradu škody, ale porušení jeho povinností usnadňuje argumentaci, že jste jednali nedbale.

• Od 2. února 2025: zákaz praktik umělé inteligence (jako je sociální bodování a manipulativní techniky) a povinnost zajistit gramotnost zaměstnanců v oblasti umělé inteligence.
• Od 2. srpna 2025: povinnosti pro poskytovatele modelů umělé inteligence pro všeobecné použití, včetně technické dokumentace a zásad autorských práv.
• Od 2. srpna 2026: povinnosti týkající se transparentnosti podle článku 50, jako je informování lidí, že mají co do činění s chatbotem, a označování deepfakes.
• Systémy s vysokým rizikem (například nástroje pro nábor a kreditní skóre): řízení rizik, správa dat, protokolování a lidský dohled. EU se rozhodla tyto povinnosti odložit, proto si ověřte aktuální data pro váš systém.

Pokuty za nejzávažnější porušení předpisů dosahují 35 milionů eur nebo 7 % celosvětového ročního obratu, podle toho, která částka je vyšší. V Nizozemsku se dohled sdílí mezi odvětvovými regulačními orgány, přičemž koordinaci zajišťuje nizozemský Úřad pro ochranu osobních údajů (Autoriteit Persoonsgegevens) a nizozemský Úřad pro digitální infrastrukturu (RDI); národní prováděcí akt dosud nevstoupil v platnost.

Komu patří obsah generovaný umělou inteligencí a kdo je odpovědný za porušení práv?

Autorské právo chrání pouze dílo, které je autorovým vlastním duševním výtvorem a odráží svobodnou a tvůrčí volbu lidské bytosti. Výstup vytvořený krátkou zadáním bez dalšího lidského zásahu proto v zásadě není chráněn nizozemským zákonem o autorských právech (Auteurswet).

Čím více si výstup sami vyberete, uspořádáte a upravíte, tím silnější je váš nárok na autorství. Veďte si záznamy o svých podnětech, volbách a úpravách; v Nizozemsku se autorská práva neregistrují, takže se v případě sporu opíráte o tento důkaz. Viz našeho průvodce právem duševního vlastnictví.

Pokud výstup reprodukuje chráněné dílo, porušuje vydavatel tohoto výstupu práva, bez ohledu na to, zda umělá inteligence kopii vytvořila, či nikoli. Držitel práv může požadovat, abyste s tím přestali a uplatnili si náhradu škody; v takovém případě se musíte podle smlouvy obrátit na svého dodavatele.

Je povoleno trénovat model umělé inteligence na chráněných dílech?

Školení zahrnuje kopírování děl, které vyžaduje povolení, pokud se nevztahuje na výjimku. Článek 4 směrnice o jednotném digitálním trhu (2019/790) umožňuje vytěžování textu a dat kýmkoli s oprávněným přístupem, pokud si držitel práv svá práva vhodným způsobem, například strojově čitelnými prostředky pro online obsah, nevyhradil.

Článek 3 uvedené směrnice poskytuje výzkumným organizacím a institucím kulturního dědictví širší výjimku pro vědecký výzkum bez možnosti odstoupení. Poskytovatelé modelů umělé inteligence pro všeobecné použití musí mít rovněž zavedenou politiku respektování těchto výhrad podle zákona o umělé inteligenci.

A co osobní údaje ve výstupech umělé inteligence?

Pokud systém umělé inteligence zpracovává osobní údaje, platí GDPR v plném rozsahu. Potřebujete právní základ, musíte respektovat práva subjektů údajů a v případě vysoce rizikového zpracování provést posouzení vlivu na ochranu osobních údajů podle článku 35 GDPR.

Nesprávná tvrzení o osobě ve výstupu umělé inteligence mohou porušit zásadu přesnosti a vést k nároku na náhradu škody podle článku 82 GDPR. To, zda jednáte jako správce nebo zpracovatel, určuje, kdo tyto povinnosti nese; viz role správce a zpracovatele.

Jak dokážete, že chyba umělé inteligence způsobila vaši ztrátu?

Strana, která se dovolává právního následku, musí prokázat skutečnosti podle článku 150 nizozemského občanského soudního řádu (Rv). Neexistuje žádné zvláštní pravidlo EU, které by tuto situaci pro umělou inteligenci usnadňovalo, a to vzhledem k tomu, že směrnice o odpovědnosti za umělou inteligenci byla zrušena.

Soud může žalovanému uložit větší povinnost vysvětlit, kde pouze on uchovává protokoly a dokumentaci. Zajistěte si okamžitě výstupy, snímky obrazovky, výzvy a korespondenci, protože bez nich je těžké prokázat příčinnou souvislost.

Nárok na náhradu škody podle článku 6:162 BW je promlčen pět let od doby, kdy jste se dozvěděli o škodě i o odpovědné osobě, a v každém případě dvacet let od události (článek 3:310 BW). Promlčecí lhůta se přerušuje písemným oznámením, v němž si jasně vyhrazujete právo na plnění (článek 3:317 BW).

Co byste si měli jako firma používající umělou inteligenci ověřit?

Jako implementátor nesete první riziko vůči zákazníkům a třetím stranám. Před publikováním nebo spoléháním se na výstup umělé inteligence si tyto body zkontrolujte.

• Je každý výstup týkající se právních, lékařských, finančních nebo reputačních témat před zveřejněním zkontrolován nějakou osobou?
• Vylučuje vaše smlouva s dodavatelem umělé inteligence odpovědnost za výstup a můžete vyjednat záruku nebo odškodnění?
• Jsou vaši chatboti a syntetické obrázky označeny jako umělá inteligence (AI), jak nyní vyžaduje článek 50 zákona o umělé inteligenci?
• Zpracovává nástroj osobní údaje a máte k tomu právní základ a v případě potřeby i posouzení vlivu na ochranu osobních údajů?
• Omezují vaše vlastní obchodní podmínky vaši odpovědnost vůči zákazníkům v mezích povolených nizozemským právem?

Co byste si měli zkontrolovat, pokud vám obsah s umělou inteligencí ublížil?

Jako poškozená strana musíte prokázat chybu, škodu a příčinnou souvislost. Nejprve si ověřte tyto body.

• Uložili jste si obsah, jeho datum, zdroj a místo publikace?
• Kdo obsah publikoval nebo použil: firma, která umělou inteligenci nasadila, je obvykle vaším prvním obžalovaným.
• Je obsah hanlivý, porušuje autorská práva nebo GDPR? Každá možnost má své vlastní požadavky.
• Poslal(a) jste písemnou žádost o zastavení a nápravu, která také přerušuje promlčecí lhůtu?
• Můžete vypočítat svou ztrátu, jako je například ušlý obrat, náklady na opravy nebo licenční poplatky?

Co pro vás můžeme udělat s obsahem generovaným umělou inteligencí?

Náš tým IT práva radí firmám, které používají umělou inteligenci, a stranám, které jsou jejími výstupy poškozeny.

• Prověříme vaši smlouvu s dodavatelem umělé inteligence z hlediska vyloučení odpovědnosti, záruk a odškodnění.
• Vypracujeme nebo aktualizujeme vaše obchodní podmínky a zásady používání umělé inteligence.
• Posoudíme, které povinnosti podle zákona o umělé inteligenci se na váš systém vztahují a od kdy.
• Pokud obsah umělé inteligence porušuje vaše práva, zašleme vám dopis s výzvou k zastavení činnosti a oznámení o odpovědnosti.
• Posoudíme a sepíšeme žalobu na náhradu škody nebo vás proti ní budeme bránit.

Shrnutí

• Podnik, který nasazuje umělou inteligenci a zveřejňuje její výstupy, je v zásadě odpovědný vůči zákazníkům a třetím stranám.
• Regresní nárok vůči dodavateli umělé inteligence závisí na smlouvě; odpovědnost za vadný výrobek se vztahuje na vadné výrobky, nikoli na čisté finanční ztráty.
• Směrnice (EU) 2024/2853 zahrnuje software a umělou inteligenci pod odpovědnost za škodu způsobenou výrobkem; transpozice je naplánována na 9. prosince 2026.
• Výstup generovaný čistě umělou inteligencí není v zásadě chráněn autorským právem, ale výstup porušující autorská práva odhaluje vydavatele.
• Zajistěte důkazy včas a přerušte promlčení písemně; nárok z deliktu se promlčuje pět let od zjištění.

Často kladené otázky