Zákon Evropské unie o umělé inteligenci je nyní v platnosti a nizozemské firmy používající chatboty s umělou inteligencí se musí připravit na nové povinnosti v oblasti dodržování předpisů. Pokud vaše firma provozuje nástroje zákaznické podpory s využitím umělé inteligence, virtuální asistenty nebo automatizované chatovací systémy, které slouží zákazníkům z EU, musíte splňovat specifické požadavky na transparentnost, dohled a dokumentaci podle Zákon EU o umělé inteligenci.

Toto nařízení se vztahuje na vaši firmu bez ohledu na to, kde sídlíte, pokud vaše systémy umělé inteligence používají lidé v EU nebo produkují výstupy používané v rámci Unie.

Většina chatbotů zaměřených na zákazníky spadá do kategorie omezeného rizika v rámci regulace umělé inteligence, což znamená, že je můžete nadále používat bez složitého schvalování. Musíte však stále dodržovat jasná pravidla týkající se transparentnosti, lidského dohledu a vedení záznamů.

Někteří chatboti používaní v odvětvích, jako jsou finance, zdravotnictví nebo právní služby, mohou čelit přísnějším požadavkům, pokud ovlivňují rozhodnutí, která významně ovlivňují práva lidí nebo přístup ke službám.

Tento průvodce vás provede Požadavky zákona EU o umělé inteligenci pro chatboty. Vysvětluje, jak klasifikovat systémy umělé inteligence podle úrovně rizika, a poskytuje praktický kontrolní seznam pro dodržování předpisů pro nizozemské firmy.

Dozvíte se, jaké kroky podniknout nyní, na kterých termínech záleží nejvíce a jak vybudovat systémy zákaznické podpory s umělou inteligencí, které splňují požadavky předpisů a chrání jak vaši firmu, tak i vaše zákazníky.

Pochopení zákona EU o umělé inteligenci a jeho působnosti

Zákon EU o umělé inteligenci zavádí první komplexní právní rámec pro umělou inteligenci s využitím přístupu založeného na riziku k regulaci systémů umělé inteligence v celé Evropské unii. Ovlivňuje podniky působící na trhu EU nebo na něm působící, přičemž vymáhání začíná postupně od roku 2025 do roku 2027.

Klíčové cíle zákona EU o umělé inteligenci

Evropská komise navrhla zákon o umělé inteligenci (AI Act), aby zajistila, že systémy umělé inteligence budou bezpečné, transparentní a budou respektovat základní práva. Cílem nařízení je chránit občany před škodlivými aplikacemi umělé inteligence a zároveň podporovat inovace a hospodářský růst.

Zákon o umělé inteligenci používá čtyřstupňový systém klasifikace rizik. Zakazuje systémy umělé inteligence, které představují nepřijatelná rizika, jako je sociální bodování nebo manipulativní techniky.

Systémy s vysokým rizikem čelí přísným požadavkům. Aplikace s omezeným rizikem potřebují opatření k zajištění transparentnosti.

Systémy umělé inteligence s minimálním rizikem nemají žádné specifické povinnosti. Vaše firma musí vědět, do které kategorie váš chatbot spadá.

Většina chatbotů pro zákaznický servis se kvalifikuje jako systémy s omezeným nebo minimálním rizikem. Chatboti používaní pro nábor, kreditní skóre nebo základní služby však mohou být klasifikováni jako vysoce rizikoví.

Nařízení rovněž zavádí struktury správy a řízení a mechanismy vymáhání. Vnitrostátní orgány budou sledovat dodržování předpisů a mohou ukládat pokuty za porušení.

Územní a odvětvová použitelnost

Zákon o umělé inteligenci se na vás vztahuje, pokud poskytujete nebo používáte systémy umělé inteligence v EU, bez ohledu na to, kde se vaše firma nachází. Nizozemské podniky, které obsluhují zákazníky v jiných zemích EU, musí dodržovat celé nařízení.

Krytí se na vás vztahuje i v případě, že se nacházíte mimo EU, ale výstup vašeho systému umělé inteligence je používán v Evropské unii. Tento extrateritoriální dosah znamená, že do působnosti spadají chatboti nasazení globálně, ale přístup k nim mají uživatelé z EU.

Nařízení se vztahuje na všechna odvětví, kde fungují systémy umělé inteligence, včetně elektronického obchodu, zdravotnictví, financí a zákaznických služeb. Žádné odvětví nemá plošné výjimky.

Klasifikace rizika vašeho chatbota závisí na jeho konkrétním případu použití, nikoli na vašem obchodním sektoru.

Časový harmonogram implementace a postupné vymáhání

Zákon EU o umělé inteligenci se řídí postupným implementačním harmonogramem. Zákazy systémů umělé inteligence s nepřijatelným rizikem vstoupily v platnost 2. února 2025.

Musíte zajistit, aby váš chatbot nepoužívá žádné zakázané praktiky. Požadavky na vysoce rizikové systémy umělé inteligence vstoupí v platnost 2. srpna 2027.

Od tohoto data platí také povinnosti transparentnosti pro systémy s omezeným rizikem, včetně většiny chatbotů. Máte čas se připravit, ale včasná akce snižuje tlak na dodržování předpisů na poslední chvíli.

Modely umělé inteligence pro všeobecné použití čelí požadavkům od 2. srpna 2025. Pokud váš chatbot používá základní modely, jako je GPT, měl by se o jeho povinnosti postarat váš poskytovatel.

Za nasazení a používání chatbota zůstáváte zodpovědní vy.

Definování a klasifikace chatbotů s umělou inteligencí podle zákona

Zákon EU o umělé inteligenci seskupuje systémy umělé inteligence podle úrovně rizika a to, kam se váš chatbot dostane, určuje vaše… povinnosti v oblasti dodržování předpisůPochopení toho, jak zákon definuje chatboty s umělou inteligencí, a vyhodnocení vašich konkrétních případů použití vám pomůže připravit správnou dokumentaci a ochranná opatření.

Co je to chatbot s umělou inteligencí podle zákona EU o umělé inteligenci?

Zákon EU o umělé inteligenci definuje systémy umělé inteligence jako software, který dokáže generovat výstupy, jako jsou předpovědi, doporučení nebo rozhodnutí ovlivňující reálné nebo virtuální prostředí. Váš chatbot se kvalifikuje jako systém umělé inteligence, pokud zpracovává uživatelské vstupy a vytváří odpovědi pomocí strojového učení, zpracování přirozeného jazyka nebo generativních modelů umělé inteligence.

Většina chatbotů s umělou inteligencí v zákaznickém servisu spadá do kategorie s omezeným rizikemTyto systémy musí splňovat požadavky na transparentnost, ale nevyžadují rozsáhlé schvalování.

Váš chatbot se přesune do vysoké riziko pokud to ovlivňuje rozhodnutí o:

• Schválení úvěru nebo způsobilost k pojištění
• Řízení zaměstnanosti nebo pracovníků
• Přístup k základním službám
• Zákon donucovací činnosti

Generativní chatboti s umělou inteligencí používající rozsáhlé jazykové modely čelí od srpna 2025 dalším pravidlům. Patří mezi ně dokumentace trénovacích dat a dodržování autorských práv.

Systémy využívající generování dat s rozšířeným vyhledáváním (RAG), které čerpají z vaší znalostní báze, se podle zákona stále počítají jako systémy umělé inteligence.

Případy použití chatbotů v nizozemském obchodním kontextu

Nizozemské firmy používají chatboty s umělou inteligencí napříč odvětvími a vaše klasifikace rizika závisí na tom, co váš systém dělá. Chatbot pro elektronické obchodování, který odpovídá na otázky týkající se produktů, zůstává s omezeným rizikem.

Chatbot, který prověřuje uchazeče o zaměstnání nebo posuzuje žádosti o půjčku, se stává vysoce rizikovým.

Mezi běžné použití s ​​omezeným rizikem patří:

• Zákaznická podpora a nejčastější dotazy
• Sledování objednávek a rezervace
• Doporučení k produktu
• Poskytování obecných informací

Mezi potenciálně vysoce riziková použití patří:

• Kontroly způsobilosti finančních produktů
• Třídění nebo poradenství ve zdravotnictví
• Nástroje pro screening zaměstnání
• Posouzení pojistných událostí

Pokud váš chatbot provádí automatizovaná rozhodnutí ovlivňující něčí přístup ke službám, právům nebo příležitostem, potřebujete přísnější opatření k dodržování předpisůTo zahrnuje posouzení rizik, protokoly lidského dohledu a podrobnou technickou dokumentaci.

Každé nasazení zkontrolujte zvlášť, protože tatáž technologie umělé inteligence může v závislosti na aplikaci měnit úroveň rizika.

Kategorizace systémů umělé inteligence na základě rizik

Zákon EU o umělé inteligenci používá k určení povinností dodržování předpisů pro vašeho chatbota přístup založený na riziku. Vaše požadavky závisí na tom, do které ze čtyř rizikových kategorií váš systém spadá, přičemž pokuty za nedodržení předpisů dosahují až 35 milionů eur nebo 7 % celosvětového obratu.

Kategorie rizika: Nepřijatelné, Vysoké, Omezené a Minimální

Zákon o umělé inteligenci rozděluje všechny systémy umělé inteligence do čtyř odlišných kategorií. Každá kategorie s sebou nese různé povinnosti a omezení.

Zakázaná umělá inteligence představuje nepřijatelné riziko a je v EU zcela zakázáno. To zahrnuje systémy sociálního bodování vládami, umělou inteligenci, která zneužívá zranitelné skupiny, a biometrickou identifikaci v reálném čase ve veřejných prostorách (s omezenými výjimkami).

Pokud váš chatbot spadá do této kategorie, nemůžete ho nasadit.

Vysoce rizikové systémy umělé inteligence čelí nejpřísnějším požadavkům na shodu. Tyto systémy musí splňovat povinné požadavky, včetně posuzování shody, technické dokumentace, lidského dohledu a norem přesnosti.

Mezi vysoce rizikové systémy umělé inteligence patří ty, které se používají při rozhodování o zaměstnání, při hodnocení úvěrů, v oblasti vymáhání práva a v kritické infrastruktuře.

Umělá inteligence s omezeným rizikem Systémy musí splňovat požadavky na transparentnost. Váš chatbot musí uživatele informovat, že interagují s umělou inteligencí, pokud to není zřejmé z kontextu.

Většina chatbotů pro zákaznický servis spadá do této kategorie.

Minimální riziko AI nečelí žádným specifickým povinnostem podle zákona. Tyto systémy představují malé nebo žádné riziko pro základní práva nebo bezpečnost.

Jednoduchí chatboti založení na pravidlech se často kvalifikují jako chatboti s minimálním rizikem.

Posouzení úrovně rizika vašeho chatbota

Začněte vytvořením inventář AI všech chatbotů, které vaše firma provozuje. Zdokumentujte účel každého systému, zdroje dat a rozhodovací schopnosti.

Zkontrolujte, zda je váš chatbot uveden v příloze III zákona o umělé inteligenci jako vysoce rizikový systém. Váš chatbot splňuje následující podmínky. vysoce riziková umělá inteligence pokud činí nebo významně ovlivňuje rozhodnutí týkající se zaměstnání, řízení pracovníků, přístupu k základním službám, úvěrového skóre nebo vzdělávacích příležitostí.

Většina chatbotů pro e-commerce a zákaznický servis spadá do kategorie s omezeným rizikem. Pokud však váš chatbot prověřuje uchazeče o zaměstnání nebo provádí posouzení úvěruschopnosti, stává se vysoce rizikovým.

Toto rozlišení je důležité, protože vysoce rizikové systémy vyžadují komplexní systém řízení rizik, posuzování shody a průběžné monitorování.

Systémy, které odpovídají pouze na základní otázky pomocí předprogramovaných odpovědí, se obvykle kvalifikují jako systémy s minimálním rizikem. Čím větší autonomní rozhodovací pravomoc má váš chatbot, tím vyšší je jeho klasifikace rizika.

Příklady relevantní pro nizozemské firmy

Chatbot pro maloobchod, který doporučuje produkty nebo odpovídá na otázky týkající se doručení, je AI s omezeným rizikemMusíte zajistit, aby zákazníci věděli, že mluví s umělou inteligencí, a uchovávat záznamy o návrhu vašeho systému.

Pokud provozujete náborový chatbot, který filtruje životopisy nebo řadí kandidáty, stává se to... vysoce riziková umělá inteligencePotřebujete kompletní technickou dokumentaci, postupy lidského dohledu a pravidelné audity.

Totéž platí pro chatboty, kteří hodnotí výkon zaměstnanců nebo rozhodují o povýšení.

Nizozemské firmy poskytující finanční služby, které používají chatboty pro hodnocení úvěrů, čelí vysoce rizikovým závazkům. Váš systém vyžaduje testování přesnosti, monitorování zkreslení a podrobné zaznamenávání všech rozhodnutí.

Chatbot, který pouze plánuje schůzky s lidskými poradci, zůstává omezeným rizikem.

Chatboti zákaznických služeb ve zdravotnictví, kteří třídí pacienty nebo doporučují léčbu, se mohou kvalifikovat jako vysoce rizikové. Jednoduché systémy pro rezervaci schůzek nikoli.

Klíčovým faktorem je, zda váš chatbot ovlivňuje rozhodnutí, která se týkají práv nebo bezpečnosti lidí.

Kontrolní seznam pro nizozemské provozovatele chatbotů

Nizozemské firmy používající chatboty s umělou inteligencí musí dodržovat specifické kroky, aby splnily požadavky zákona EU o umělé inteligenci. Řádná dokumentace, jasné povinnosti transparentnosti, lidský dohled systémy a průběžné monitorování tvoří základ dodržování předpisů pro chatboty.

Inventář a dokumentace umělé inteligence

Musíte vytvořit kompletní inventář všech chatbotů s umělou inteligencí, kteří ve vaší firmě fungují. Uveďte účel každého chatbota, klasifikaci rizik a technické specifikace.

Tento inventář slouží jako vaše první obranná linie během regulačních auditů. Vaše technická dokumentace musí zahrnovat zdroje dat pro školení chatbota, použité algoritmy a logiku rozhodování.

Zaznamenejte si veškerá omezení nebo známé zkreslení v systému. Nástroje jako Vanta mohou pomoci automatizovat části tohoto procesu dokumentace, i když pro přesnost budete stále potřebovat lidskou kontrolu.

Uchovávejte záznamy o tom, jak byl váš chatbot vyvíjen a testován. Zahrňte historii verzí a veškeré aktualizace provedené po nasazení.

Pokud váš chatbot zpracovává údaje o zákaznících, zdokumentujte, jaké informace shromažďuje a jak dlouho je uchováváte. Veškerou dokumentaci udržujte aktuální a přístupnou příslušným členům týmu a úřadům.

Povinnosti transparentnosti pro chatboty

Váš chatbot se musí všem uživatelům jasně identifikovat jako umělá inteligence. Toto prohlášení umístěte na začátek každé konverzace, ne skrytě v obchodních podmínkách.

Používejte srozumitelný jazyk jako „Chapete si s asistentem s umělou inteligencí“ místo vágních frází. Informujte uživatele o možnostech a omezeních chatbota.

Pokud nedokáže zpracovat určité požadavky nebo témata, uveďte to předem jasně. Zobrazit informace o postupy sběru dat než uživatelé sdílejí osobní údaje.

Vytvořte viditelný způsob, jakým mohou uživatelé získat přístup k informacím o fungování chatbota. Může to být sekce nápovědy nebo ikona informací v rozhraní chatu.

Vaše požadavky na transparentnost sahají nad rámec pouhého označování – musíte vysvětlit roli umělé inteligence ve všech rozhodnutích nebo doporučeních, která poskytuje.

Mechanismy lidského dohledu a intervence

Vytvořte eskalační cesty, které uživatelům umožní v případě potřeby kontaktovat lidské zaměstnance. Váš chatbot by měl rozpoznat, kdy není schopen problém vyřešit, a nabídnout okamžitý lidský kontakt.

Nenuťte uživatele k několika neúspěšným interakcím s umělou inteligencí, než jim tuto možnost poskytnete. Proškolte zaměstnance, aby dohlíželi na provoz chatbotů a kontrolovali označené konverzace.

Přiřaďte konkrétním členům týmu odpovědnost za monitorování výstupů umělé inteligence a řešení chyb. Tito dozorčí pracovníci potřebují oprávnění k pozastavení nebo úpravě chatbota, pokud se vyskytnou problémy.

Nastavte upozornění, která váš tým upozorní, když chatbot narazí na neobvyklé situace nebo vydá potenciálně škodlivá doporučení. Pravidelná kontrola konverzací chatbota člověkem pomáhá identifikovat vzorce, které by umělá inteligence mohla přehlédnout.

Dokumentujte všechny lidské zásahy a využijte je ke zlepšení odpovědného řízení umělé inteligence.

Průběžné monitorování a vedení záznamů

Implementujte systémy, které denně sledují výkon vašeho chatbota. Sledujte metriky, jako je přesnost odpovědí, spokojenost uživatelů a chybovost.

Stanovte prahové hodnoty, které spustí kontrolu, když výkon klesne pod přijatelnou úroveň. Uchovávejte záznamy o všech interakcích chatbotů po dobu požadovanou zákonem o umělé inteligenci.

Tyto záznamy musí zahrnovat dotazy uživatelů, odpovědi chatbotů a veškeré eskalace na lidské zaměstnance. Chraňte tyto protokoly vhodnými bezpečnostními opatřeními a zároveň zajistěte jejich přístupnost pro účely posouzení shody.

Provádějte čtvrtletní kontroly výstupů vašeho chatbota, abyste zkontrolovali zkreslení, chyby nebo odchylky od zamýšleného chování. Porovnejte aktuální výkon s vaším počátečním posouzením rizik, abyste ověřili, že vaše klasifikace rizik je i nadále přesná.

Aktualizujte svou technickou dokumentaci vždy, když provedete významné změny v školení nebo funkčnosti chatbota.

Ochrana dat, soukromí a zabezpečení

Zákon EU o umělé inteligenci spolupracuje s GDPR a vytváří dvojí rámec pro dodržování předpisů pro chatboty. Nizozemské firmy musí pochopit, jak se tato nařízení překrývají, a zavést řádné správa dat struktury a chránit uživatelská práva a zároveň řídit bezpečnostní rizika.

GDPR a zákon o umělé inteligenci: Průnik a klíčové rozdíly

GDPR se zaměřuje na ochranu osobní data, zatímco zákon EU o umělé inteligenci reguluje systémy umělé inteligence na základě úrovně rizika. Váš chatbot musí splňovat oba rámce současně.

Podle GDPR potřebujete pro zpracování osobních údajů prostřednictvím chatbota právní základ. To znamená získat řádný souhlas, zdokumentovat zpracování dat činnosti a zajištění minimalizace dat.

Zákon o umělé inteligenci přidává požadavky na základě klasifikace rizika vašeho chatbota.

Klíčové požadavky na překrývání:

• Ochrana dat podle návrhu a výchozího nastavení
• Transparentnost ohledně zpracování dat
• Mechanismy lidského dohledu
• Povinnosti týkající se vedení záznamů

Hlavní rozdíl je v rozsahu. GDPR se vztahuje na jakékoli zpracování osobních údajů bez ohledu na technologii.

Zákon o umělé inteligenci se konkrétně zaměřuje na systémy umělé inteligence a ukládá povinnosti založené na riziku. Vysoce rizikoví chatboti čelí přísnějším požadavkům, včetně posuzování shody a systémů řízení kvality.

Správa dat pro chatboty

Potřebujete jasné zásady pro to, jak váš chatbot shromažďuje, ukládá a zpracovává data. To zahrnuje definování rolí, odpovědností a toků dat ve vaší organizaci.

Začněte mapováním dat, která váš chatbot shromažďuje. Zdokumentujte, kam tato data směřují, kdo k nim přistupuje a jak dlouho je uchováváte.

Váš rámec pro správu dat by měl zahrnovat školicí data, uživatelské vstupy, protokoly konverzací a veškeré osobní údaje zpracovávané během interakcí.

Implementujte technická opatření k ochraně dat:

• Šifrování pro data v přenosu i v klidovém stavu
• Řízení přístupu omezení toho, kdo si může prohlížet data chatbota
• Anonymizace dat kde je to možné
• Pravidelné bezpečnostní audity identifikovat zranitelnosti

Musíte také zavést postupy pro případ narušení dat. To zahrnuje detekční systémy, procesy oznamování a plány zmírňování následků.

GDPR vyžaduje oznámení o narušení bezpečnosti osobních údajů do 72 hodin.

Uživatelská práva a ochrana spotřebitele

Váš chatbot musí respektovat individuální práva podle GDPR. Uživatelé si mohou vyžádat přístup ke svým údajům, požadovat opravu nebo požádat o smazání.

Potřebujete systémy, které tyto požadavky zpracují efektivně. Poskytněte uživatelům jasné informace o zpracování dat, než začnou komunikovat s vaším chatbotem.

To zahrnuje informace o tom, jaké údaje shromažďujete, proč je shromažďujete a jak dlouho je uchováváte. Vaše oznámení o ochraně osobních údajů musí být snadno dostupné a napsané srozumitelným jazykem.

Základní uživatelská práva k podpoře:

• Právo na přístup k osobním údajům
• Právo na opravu nepřesných údajů
• Právo na výmaz („právo být zapomenut“)
• Právo na přenositelnost údajů
• Právo vznést námitku proti zpracování

Ochrana spotřebitele přesahuje rámec ochrany osobních údajů. Váš chatbot nesmí používat manipulativní vzorce ani zneužívat zranitelnosti.

Zákon o umělé inteligenci zakazuje určité praktiky, včetně systémů umělé inteligence, které využívají podprahové techniky nebo zneužívají zranitelnosti související s věkem.

Nejlepší postupy a strategické aspekty

Potřebujete vyškolené týmy, které rozumí možnostem a limitům umělé inteligence, a dodavatele, kteří splňují požadavky... regulační normya frameworky, které od samého začátku začleňují důvěryhodnou umělou inteligenci do vašich operací.

Gramotnost v oblasti umělé inteligence a školení zaměstnanců

Od února 2025 zákon EU o umělé inteligenci (AI Act) nařizuje, aby všichni zaměstnanci pracující se systémy umělé inteligence měli dostatečné znalosti v oblasti umělé inteligence. To se týká zástupců zákaznického servisu, supervizorů, technických týmů a všech, kteří se podílejí na nasazení nebo monitorování systémů chatbotů.

Váš školicí program by měl zahrnovat, jak váš chatbot funguje, včetně jeho možností a omezení. Zaměstnanci musí rozpoznat, kdy systém vyžaduje lidský zásah a jak správně eskalovat problém.

Měli by rozumět datům, která vaše umělá inteligence používá, a jak se rozhoduje. S tím, jak se váš chatbot vyvíjí a přidávají se nové funkce, musíte odpovídajícím způsobem aktualizovat školení.

Dokumentujte všechna školení a veďte záznamy o tom, kdo a kdy školení absolvoval. Tato dokumentace prokazuje shodu s předpisy, pokud regulační orgány provádějí audit vašich operací.

Pravidelné opakovací kurzy pomáhají zaměstnancům udržovat si přehled o aktualizacích systému a změnách v předpisech. Zvažte vytvoření školicích modulů specifických pro danou roli, které se zabývají konkrétními způsoby, jakými různí členové týmu interagují s vašimi systémy umělé inteligence.

Due Diligence dodavatelů a prodejců

Poskytovatel vašeho chatbota přímo ovlivňuje vaši schopnost dodržovat zákon EU o umělé inteligenci. Pokud používáte model univerzální umělé inteligence (GPAI), jako jsou modely od velkých technologických společností, sdílíte odpovědnost za dodržování předpisů se svým dodavatelem.

Musíte ověřit, zda váš dodavatel poskytuje jasnou technickou dokumentaci o svém modelu umělé inteligence. To zahrnuje informace o trénovacích datech, testovacích postupech a bezpečnostních opatřeních.

Požadujte důkazy o jejich vlastním úsilí o dodržování předpisů a procesech řízení rizik. Požadujte transparentnost ohledně toho, jak model nakládá se vstupy v nizozemštině a zákaznickými daty.

Váš dodavatel by měl vysvětlit svůj přístup ke správě dat a jak zabraňuje zaujatosti nebo diskriminačním výstupům. Zdokumentujte veškerou komunikaci a dohody s dodavateli týkající se dodržování předpisů.

Zahrňte do smluv konkrétní ustanovení, která vyžadují průběžné dodržování se zákonem EU o umělé inteligenci. Stanovte jasné postupy pro řešení problémů, pokud systém umělé inteligence vašeho dodavatele způsobuje potíže nebo porušuje regulační požadavky.

Provádějte kontrolu vztahů s dodavateli alespoň jednou ročně. S blížícími se lhůtami pro vymáhání v letech 2026 a 2027 budete potřebovat potvrzení, že vaši dodavatelé splňují vyvíjející se povinnosti.

Využití standardů a rámců

Norma ISO 42001 poskytuje strukturovaný přístup k systémům řízení umělé inteligence, který je v souladu s požadavky zákona EU o umělé inteligenci. Tato mezinárodní norma vám pomůže zavést procesy řízení pro vývoj a nasazení umělé inteligence.

Přijetí normy ISO 42001 prokazuje váš závazek k důvěryhodným postupům v oblasti umělé inteligence. Tento rámec zahrnuje řízení rizik, transparentnost a lidský dohled – to vše jsou základní požadavky zákona.

Také vám to pomůže udržovat dokumentaci, kterou regulační orgány očekávají. Spolu s normou ISO 42001 můžete používat specifické rámce pro dané odvětví.

Sektory finančních služeb, zdravotnictví a maloobchodu si vypracovaly vlastní směrnice pro správu a řízení umělé inteligence, které řeší specifická rizika pro daný sektor a zároveň podporují širší dodržování předpisů.

Začněte tím, že porovnáte své současné postupy zavádění umělé inteligence s těmito standardy. Identifikujte mezery, kde vaše procesy nesplňují požadavky.

Vytvořte akční plán, který upřednostňuje oblasti s vysokým rizikem a stanoví realistické časové harmonogramy pro implementaci. Tyto rámce také poskytují společný jazyk pro diskusi o správě a řízení umělé inteligence v celé vaší organizaci.

Usnadňují koordinaci mezi právními, technickými a obchodními týmy, které všechny hrají roli v udržování souladu s předpisy.

Často kladené dotazy

Jaké jsou základní kroky k zajištění souladu mého chatbota se zákonem EU o umělé inteligenci?

Začněte klasifikací svého chatbota podle rizikových kategorií zákona EU o umělé inteligenci. Většina chatbotů pro e-commerce a zákaznický servis spadá do kategorie s omezeným rizikem, což znamená, že musí splňovat požadavky na transparentnost.

Zdokumentujte účel, funkčnost a data, která váš chatbot zpracovává. Tato dokumentace by měla obsahovat podrobnosti o tom, jak systém činí rozhodnutí a jaké informace používá ke generování odpovědí.

Zaveďte jasné mechanismy zveřejňování, které uživatele informují o interakci se systémem umělé inteligence. Tento požadavek na označování platí od první interakce a nelze jej skrýt v obchodních podmínkách.

Nastavte postupy lidského dohledu pro složité nebo citlivé dotazy. Váš chatbot by měl mít eskalační cesty, které v případě potřeby přesměrují uživatele na lidské pracovníky.

Provádějte pravidelné audity výkonu vašeho chatbota. Kontrolujte protokoly chatu, sledujte zkreslené výstupy a ověřujte, zda informace o produktech zůstávají přesné.

Jaký dopad má navrhovaná legislativa EU o umělé inteligenci nasazení chatbotů v nizozemských podnicích?

Zákon EU o umělé inteligenci vstoupil v platnost 1. srpna 2024 s různými lhůtami pro dosažení souladu v závislosti na klasifikaci rizika vašeho chatbota. Chatboti s omezeným rizikem musí splňovat povinnosti transparentnosti, zatímco systémy s vysokým rizikem čelí přísnějším požadavkům.

Nizozemské firmy, které nasazují chatboty, musí posoudit, zda jejich systémy zpracovávají citlivá data nebo činí rozhodnutí ovlivňující práva uživatelů. Chatbot doporučující produkty se obvykle kvalifikuje jako chatbot s omezeným rizikem, ale chatbot poskytující lékařské rady nebo finanční posouzení by mohl být klasifikován jako vysoce rizikový.

Musíte zvážit jak zákon EU o umělé inteligenci, tak i stávající nizozemské zákony na ochranu spotřebitele. Pokud váš chatbot poskytne nesprávné informace o produktu, zůstáváte odpovědní podle předpisů na ochranu spotřebitele bez ohledu na soulad se zákonem o umělé inteligenci.

Tato legislativa se vztahuje na všechny firmy nabízející služby v EU, a to i v případě, že vaše společnost sídlí mimo Nizozemsko. To znamená, že váš chatbot musí splňovat požadavky, pokud slouží nizozemským nebo jiným zákazníkům z EU.

Jaká opatření k dodržování předpisů je třeba zavést, aby se chatboti sladili s regulačním rámcem EU pro umělou inteligenci?

Implementujte Retrieval Augmented Generation (RAG) nebo podobné techniky uzemnění, abyste zabránili generování falešných informací chatbotem. Tato technologie omezuje umělou inteligenci na používání pouze ověřených dat z databáze produktů nebo znalostní báze.

Zřídit opatření na ochranu údajů které jsou v souladu s GDPR i zákonem EU o umělé inteligenci. Váš chatbot musí nakládat s osobními údaji bezpečně a shromažďovat pouze informace nezbytné pro jeho uvedený účel.

Vytvořte transparentní oznámení, která jasně identifikují váš systém jako systém poháněný umělou inteligencí. Mezi příklady vhodných pozdravů patří „Jsem váš virtuální produktový asistent (AI)“ nebo „AI-Bot: Jak vám dnes mohu pomoci?“

Nepoužívejte lidská jména, fotografie ani jazyk, který by naznačoval, že uživatelé mluví s někým jiným. Pozdrav jako „Ahoj, jsem Hans z podpory!“ s lidskou fotografií porušuje požadavky na transparentnost.

Nastavte monitorovací systémy pro sledování výstupů vašeho chatbota, zda neobsahují diskriminační obsah nebo zaujatost. Pravidelné kontroly vám pomohou identifikovat a opravit problematické reakce dříve, než se projeví u zákazníků.

Jaká dokumentace je vyžadována k prokázání souladu mého chatbota s požadavky zákona EU o umělé inteligenci?

Veďte technickou dokumentaci, která popisuje architekturu, tréninková data a rozhodovací procesy vašeho chatbota. Tato dokumentace musí být dostatečně podrobná, aby úřady pochopily, jak váš systém funguje.

Veďte záznamy o svém hodnocení rizik, včetně metodiky použité ke klasifikaci vašeho chatbota a kritérií, která jste hodnotili. Dokumentujte veškeré změny funkčnosti nebo účelu vašeho chatbota v průběhu času.

Vytvořte dokumentaci pro uživatele, která srozumitelným jazykem vysvětlí, jak váš chatbot funguje. Měla by obsahovat informace o zpracování dat, typech dotazů, které dokáže zpracovat, a o tom, jak se uživatelé mohou obrátit na lidskou podporu.

Zdokumentujte své postupy správy dat, včetně toho, kde jsou data uložena, jak dlouho jsou uchovávána a kdo k nim má přístup. Tyto informace podporují požadavky zákona EU o umělé inteligenci a GDPR.

Veďte záznamy o vašich auditech shody s předpisy a všech přijatých nápravných opatřeních. Tyto záznamy prokazují váš trvalý závazek k dodržování standardů shody s předpisy.

Existují v rámci nových nařízení EU specifické povinnosti týkající se transparentnosti pro systémy umělé inteligence, jako jsou chatboti?

Zákon EU o umělé inteligenci vyžaduje, abyste uživatele informovali, že interagují se systémem umělé inteligence, nikoli s člověkem. Toto oznámení musí proběhnout na začátku interakce a musí být jasně viditelné.

Nemůžete používat návrhové vzory, které uživatele uvádějí v omyl ohledně povahy vašeho chatbota. Tmavé vzory, které uživatele klamou a navádějí k domněnce, že mluví s lidským agentem, porušují požadavky na transparentnost.

Váš chatbot se musí během konverzace konzistentně identifikovat. Jediná zmínka na začátku nestačí, pokud by odpovědi systému mohly později zmást uživatele ohledně jeho umělé inteligence.

Chatboti s omezeným rizikem musí splňovat minimálně tyto požadavky na transparentnost. Systémy s vysokým rizikem čelí dalším povinnostem, včetně poskytování informací o možnostech a omezeních systému.

Transparentnost se vztahuje i na vysvětlení, jak váš chatbot používá zákaznická data. Uživatelé by měli rozumět tomu, jaké informace se shromažďují, jak ovlivňují odpovědi a zda se konverzace ukládají nebo analyzují.

Jak mohu posoudit a zmírnit rizika spojená s používáním chatbotů v kontextu zákona EU o umělé inteligenci?

Začněte strukturovaným posouzením rizik, které prozkoumá účel a cílovou skupinu vašeho chatbota. Zvažte, zda váš systém slouží zranitelným skupinám, jako jsou děti nebo starší uživatelé, protože to zvyšuje klasifikaci rizika.

Zhodnoťte autonomii a schopnosti učení svého chatbota. Systémy, které činí nezávislá rozhodnutí nebo se neustále učí z interakcí, nesou vyšší rizika než chatboti založení na pravidlech s omezenými funkcemi.

Zhodnoťte potenciální důsledky poskytnutí nesprávných informací vaším chatbotem. Chatbot uvádějící nesprávné rozměry produktu vytváří jinou odpovědnost než chatbot nabízející nesprávné lékařské nebo finanční rady.

Implementujte technická ochranná opatření, jako je RAG, aby odpovědi vašeho chatbota byly založeny na ověřených datech. Tím se zabrání tomu, aby systém generoval falešná tvrzení o produktech nebo službách.

Zaveďte monitorovací procesy, které sledují výkon vašeho chatbota a identifikují problematické výstupy. Pravidelné kontroly vám umožní řešit problémy dříve, než se vyhrotí.

Vytvořte jasné eskalační postupy pro situace, které váš chatbot nedokáže správně zvládnout. Lidský dohled je i nadále nezbytný, zejména u citlivých nebo složitých dotazů zákazníků.