Politika AI ve firmách: jak připravit vaši organizaci na zákon EU o AI

Umělá inteligence (AI) se vyvíjí vysokou rychlostí a stala se nedílnou součástí každodenního provozu podniků. Od generativních nástrojů AI a chatbotů až po systémy používané pro nábor, analýzu zákazníků a rozhodování se stále více organizací spoléhá na systémy AI, často bez úplné jasnosti ohledně právních a organizačních povinností, které s nimi souvisejí.

S přijetím zákona EU o umělé inteligenci se to zásadně mění. Od organizací se očekává, že budou činit informovaná rozhodnutí o používání umělé inteligence a aktivně řídit související rizika. Tento článek vysvětluje, jak vytvořit praktickou, funkční a právně robustní politiku pro umělou inteligenci, aby vaše organizace byla připravena na zákon EU o umělé inteligenci a nadále dodržovala stávající pravidla, jako je obecné nařízení o ochraně osobních údajů (GDPR).

Co je to politika AI a proč je nezbytná?

Politika AI je soubor interních pravidel, která definují, jak, proč a za jakých podmínek lze AI v organizaci používat. Poskytuje pokyny pro zaměstnance a pomáhá managementu udržovat dohled a kontrolu nad vývojem technologií.

Umělá inteligence se již neomezuje pouze na IT oddělení nebo velké technologické společnosti. Mnoho funkcí umělé inteligence je zabudováno do stávajícího softwaru, jako jsou CRM systémy, HR nástroje a marketingové platformy. Zaměstnanci také často experimentují s veřejnými nástroji umělé inteligence z vlastní iniciativy. Bez jasných záruk to může vést k porušování soukromí, diskriminaci, nedostatku transparentnosti nebo chybnému rozhodování.

Zákon EU o umělé inteligenci a GDPR ukládají organizacím jasné povinnosti. Patří mezi ně povinnosti týkající se řízení rizik, používání dat, lidského dohledu a transparentnosti. Dobře navržená politika v oblasti umělé inteligence pomáhá tyto požadavky převést do každodenní praxe.

Právní rámec: zákon EU o umělé inteligenci, GDPR a zaměstnanost zákon

Zákon EU o umělé inteligenci se řídí přístupem založeným na riziku. Systémy umělé inteligence jsou klasifikovány do různých kategorií, od minimálního rizika až po nepřijatelné riziko. Pro vysoce rizikové využití umělé inteligence, jako jsou systémy pro nábor a výběr zaměstnanců, bodování úvěrů nebo jiná rozhodnutí s významným dopadem na jednotlivce, platí přísné požadavky.

Tyto požadavky se mimo jiné týkají řízení rizik a dokumentace, kvality a původu dat, transparentnosti ohledně fungování systému a jeho omezení a efektivního lidského dohledu s možností zasáhnout. Některé praktiky umělé inteligence jsou zcela zakázány, včetně specifických forem manipulativní umělé inteligence a sociálního bodování.

Kromě toho zůstává plně platné GDPR. V případech, kdy systémy umělé inteligence zpracovávají osobní údaje, jsou obzvláště důležité základní zásady, jako je minimalizace dat, zákonnost, bezpečnost a omezení automatizovaného rozhodování. Mohou se uplatnit i pracovní právo a pravidla ochrany spotřebitele, například v případě umělé inteligence související s lidskými zdroji nebo aplikací umělé inteligence zaměřených na zákazníka. Politika umělé inteligence propojuje tyto právní požadavky s každodenním provozem podniku.

Účel a rozsah silné politiky v oblasti umělé inteligence

Efektivní politika v oblasti umělé inteligence není teoretický dokument; je to praktický kompas pro každého, kdo s umělou inteligencí pracuje. Měla by vysvětlovat, proč organizace umělou inteligenci používá, čeho chce dosáhnout, jaká rizika vznikají a jak se od zaměstnanců očekává zodpovědné používání nástrojů umělé inteligence.

Definování rozsahu působnosti je klíčové. Politika by měla specifikovat, na která oddělení se vztahuje, jako je personální oddělení, marketing, zákaznický servis, finance, provoz a výzkum a vývoj. Měla by také objasnit, které typy systémů spadají do působnosti politiky, včetně zakoupeného softwaru umělé inteligence, interních modelů, generativních nástrojů umělé inteligence, chatbotů, nástrojů pro hodnocení a systémů doporučení. A konečně by měla řešit, zda a za jakých podmínek je povoleno individuální experimentování s veřejnými nástroji umělé inteligence.

Klíčové součásti politiky umělé inteligence

Politika umělé inteligence by měla začínat jasnými definicemi, které by byly v souladu s širokým pojmem umělé inteligence podle zákona EU o umělé inteligenci, ale zároveň by měly být napsány v jazyce, kterému zaměstnanci rozumí. Zaměstnanci by měli být schopni rozpoznat, kdy používají systém umělé inteligence, na který se politika vztahuje. Praktické příklady podle oblastí, jako je personální oddělení, interakce se zákazníky a interní procesy, pomáhají to zrealizovat.

Politika by pak měla rozlišovat mezi povoleným použitím umělé inteligence, omezeným použitím podmíněným a zakázaným použitím. Zakázané použití zahrnuje praktiky umělé inteligence klasifikované jako nepřijatelné riziko podle zákona EU o umělé inteligenci. Pro případy použití s ​​omezeným rizikem může politika uložit podmínky, jako jsou povinnosti transparentnosti nebo předchozí schválení. Povolené použití může být spojeno se zárukami, jako je posouzení rizik, posouzení vlivu na ochranu osobních údajů a další technická a organizační opatření.

Dalším klíčovým prvkem je řízení. Politika by měla jasně definovat, kdo je v konečném důsledku odpovědný za dodržování předpisů v oblasti umělé inteligence, kdo je oprávněn vybírat nebo implementovat nové aplikace umělé inteligence a kdo dohlíží na dodržování předpisů a řešení incidentů. Důležitý je také výběr dodavatelů a jejich řízení. Organizace by měly posoudit, zda poskytovatelé mohou splnit požadavky zákona EU o umělé inteligenci, a zajistit, aby tyto povinnosti byly řádně smluvně zohledněny.

Data, soukromí, bezpečnost a transparentnost

Protože umělá inteligence závisí na datech, měla by politika definovat, která data mohou nebo nesmí být zpracovávána systémy umělé inteligence. Měla by se zabývat minimalizací dat, anonymizací nebo pseudonymizací, kde je to vhodné, dobami uchovávání a oddělením školicích dat od produkčních dat. U vysoce rizikových systémů je často nutné kombinované posouzení, které zohledňuje jak zákon EU o umělé inteligenci, tak i GDPR.

Systémy umělé inteligence a data, na kterých se spoléhají, musí být řádně zabezpečeny. Zásady by měly popisovat, jak jsou organizována přístupová práva, jak je používání zaznamenáváno a monitorováno a jak se řeší incidenty a úniky dat.

Zákon EU o umělé inteligenci vyžaduje transparentnost při interakci jednotlivců se systémy umělé inteligence nebo při generování obsahu umělou inteligencí. Politika proto může vyžadovat, aby zaměstnanci, zákazníci a další zúčastněné strany byli informováni o každém použití umělé inteligence, včetně klíčových charakteristik a omezení.

Lidský dohled, zaujatost a kvalita rozhodování

U systémů umělé inteligence s významným dopadem na jednotlivce je lidský dohled nezbytný. Politika by měla specifikovat, kdy je lidský dohled nebo lidské rozhodování povinné a jak je tento dohled v praxi implementován. Je také vhodné pravidelně testovat systémy umělé inteligence na zkreslení, míru chyb a nezamýšlené důsledky, zejména v oblastech, jako je personalistika a zaškolování zákazníků.

Školení a gramotnost v oblasti umělé inteligence

Zákon EU o umělé inteligenci vyžaduje, aby organizace podporovaly gramotnost v oblasti umělé inteligence. Politika umělé inteligence by proto měla zahrnovat rámec školení se základní úrovní pro všechny zaměstnance a pokročilejší školení pro specifické role, jako jsou HR, IT, datové týmy a management. Pravidelné aktualizace jsou nezbytné pro udržení kroku s technologickým a právním vývojem.

Od počáteční inventury k vyspělé politice umělé inteligence

Funkční politika AI se obvykle vyvíjí ve fázích. Nejprve organizace identifikuje, které aplikace AI se používají, včetně funkcí AI zabudovaných do stávajícího softwaru a nástrojů používaných zaměstnanci. Následně jsou tyto aplikace klasifikovány podle rizika. Následuje právní a organizační posouzení rizik, po kterém je navržena politika AI a sladěna se stávajícími rámci pro ochranu osobních údajů, informační bezpečnost a lidské zdroje. Politika je poté implementována do procesů, smluv a systémů. Nakonec školení, komunikace, monitorování a pravidelné aktualizace zajišťují, že politika zůstane účinná v průběhu času.

Závěr

Zákon EU o umělé inteligenci jasně uvádí, že ad hoc nebo nestrukturované experimentování s umělou inteligencí již není udržitelné. Organizace, které včas investují do dobře navržené politiky v oblasti umělé inteligence, snižují právní riziko a budují důvěru se zaměstnanci, zákazníky a regulačními orgány.

Chcete vědět, zda je vaše organizace připravena na zákon EU o umělé inteligenci, nebo potřebujete pomoc s návrhem či implementací politiky v oblasti umělé inteligence? Kontaktujte nás. Law & More. Rádi vám pomůžeme.

Nejčastější dotazy

Je politika v oblasti umělé inteligence povinná podle zákona EU o umělé inteligenci?
Zákon EU o umělé inteligenci výslovně nevyžaduje, aby organizace měly dokument s názvem „zásady v oblasti umělé inteligence“. V praxi je však politika v oblasti umělé inteligence nezbytná k prokázání souladu s povinnostmi uloženými zákonem o umělé inteligenci a GDPR, jako je řízení rizik, lidský dohled, transparentnost a gramotnost v oblasti umělé inteligence.

Které organizace podléhají zákonu EU o umělé inteligenci?
Zákon EU o umělé inteligenci se vztahuje prakticky na všechny organizace, které vyvíjejí, uvádějí na trh nebo používají systémy umělé inteligence v Evropské unii. To zahrnuje nejen technologické společnosti, ale také zaměstnavatele, poskytovatele služeb a organizace, které používají umělou inteligenci v oblasti lidských zdrojů, marketingu, interakce se zákazníky, financí nebo rozhodovacích procesů.

Platí zákon EU o umělé inteligenci, pokud používáme pouze standardní běžně dostupný software?
Ano. I v případě, že jsou funkce umělé inteligence zabudovány do softwaru třetí strany, organizace používající systém zůstává odpovědná za jeho používání. Spoléhání se na dodavatele nezbavuje uživatele povinností vyplývajících ze zákona EU o umělé inteligenci a GDPR.

Jaký je rozdíl mezi systémy umělé inteligence s nízkým, omezeným a vysokým rizikem?
Zákon EU o umělé inteligenci klasifikuje systémy umělé inteligence na základě míry rizika, které představují pro základní práva a zájmy jednotlivců. Mezi vysoce rizikové systémy umělé inteligence patří systémy používané pro nábor a výběr zaměstnanců, hodnocení úvěruschopnosti nebo přístup k základním službám. Tyto systémy podléhají výrazně přísnějším požadavkům.

Je nutné předem posoudit všechny aplikace umělé inteligence?
V praxi ano. Organizace by měly před nasazením provést inventuru a posoudit aplikace umělé inteligence a klasifikovat je podle rizika. U vysoce rizikové umělé inteligence je nutné důkladné posouzení, často v kombinaci s posouzením vlivu na ochranu osobních údajů podle GDPR.

Jak se politika AI vztahuje k GDPR?
Zákon EU o umělé inteligenci a GDPR se vzájemně doplňují. Zatímco zákon o umělé inteligenci se zaměřuje na správu a řízení, řízení rizik a fungování systémů umělé inteligence, GDPR upravuje zpracování osobních údajů. Účinná politika v oblasti umělé inteligence integruje oba rámce a zajišťuje důsledné dodržování předpisů.

Je při používání umělé inteligence vždy nutné provést posouzení vlivu na ochranu osobních údajů?
Ne vždy, ale často. Pokud systém umělé inteligence zpracovává osobní údaje a je pravděpodobné, že bude představovat vysoké riziko pro jednotlivce, je posouzení vlivu na ochranu osobních údajů (DPIA) podle GDPR povinné. V případě vysoce rizikové umělé inteligence podle zákona EU o umělé inteligenci je DPIA v praxi často nevyhnutelné.

Mohou systémy umělé inteligence autonomně rozhodovat o zaměstnancích nebo zákaznících?
Pouze za přísných podmínek. GDPR omezuje plně automatizované rozhodování a zákon EU o umělé inteligenci vyžaduje smysluplný lidský dohled nad vysoce rizikovými systémy umělé inteligence. V mnoha případech musí být člověk schopen zasáhnout, přezkoumat nebo přepsat rozhodnutí řízená umělou inteligencí.

Může politika AI omezit používání veřejných nástrojů AI zaměstnanci?
Ano. Jedním z klíčových účelů zásad pro umělou inteligenci je definovat, zda a za jakých podmínek mohou zaměstnanci používat veřejné nástroje umělé inteligence. To obvykle zahrnuje pravidla pro zadávání důvěrných informací, osobních údajů nebo citlivých obchodních informací.

Kdo je zodpovědný za dodržování zásad pro umělou inteligenci?
Zásady v oblasti umělé inteligence by měly jasně vymezit odpovědnost za dodržování předpisů v oblasti umělé inteligence. Konečná odpovědnost obvykle leží na vrcholovém managementu nebo představenstvu, přičemž důležité role hrají právní oddělení, oddělení pro dodržování předpisů, IT a lidské zdroje. Bez jasné správy a řízení je efektivní dohled nepravděpodobný.

Jaká jsou rizika, pokud organizace nemá zavedenou politiku v oblasti umělé inteligence?
Absence politiky v oblasti umělé inteligence zvyšuje riziko nedodržování zákona EU o umělé inteligenci a GDPR. To může vést k vysokým pokutám, donucovacím opatřením, poškození pověsti a potenciální občanskoprávní odpovědnosti. Ztěžuje to také prokázání odpovědné správy a řízení umělé inteligence regulačním orgánům.

Jak často by měla být politika v oblasti umělé inteligence revidována?
Zásady pro umělou inteligenci by neměly být považovány za statický dokument. Pravidelné revize jsou nezbytné, zejména při zavádění nových systémů umělé inteligence, změnách legislativy nebo regulačních pokynů nebo při výskytu incidentů. Roční revize se často považuje za minimum.

Je gramotnost v oblasti umělé inteligence povinná pro všechny zaměstnance?
Zákon EU o umělé inteligenci vyžaduje, aby organizace přijaly opatření na podporu gramotnosti v oblasti umělé inteligence. To neznamená, že se každý zaměstnanec musí stát technickým expertem, ale měl by rozumět tomu, co umělá inteligence je, jak se v organizaci používá a jaká jsou s ní spojená rizika.

Kdy je vhodné vyhledat právní pomoc?
Právní poradenství je obzvláště vhodné při zavádění vysoce rizikových systémů umělé inteligence, v případech nejistoty ohledně zákonnosti konkrétních aplikací nebo v případech, kdy vznikají otázky týkající se vymáhání práva, auditů či odpovědnosti. Včasné právní posouzení může zabránit nákladným nápravným opatřením později.