18/11/2024
Konečná podoba nařízení o umělé inteligenci (AI Act) vstoupila v platnost v srpnu letošního roku. | Foto: Shutterstock
V březnu letošního roku byla na plenárním zasedání Evropského parlamentu schválena konečná podoba nařízení o umělé inteligenci (AI Act), v účinnost by mělo vstoupit v roce 2026. EU tím nastavuje pravidla pro modely na bázi umělé inteligence, zejména pak pro ty, které klasifikuje jako vysoce rizikové. Pravidla určují, za jakých podmínek je možné systémy umělé inteligence uvádět na trh či do provozu a jak je užívat, aby nepředstavovaly rizika pro bezpečnost, zdraví a základní práva občanů. Co nová legislativa konkrétně přináší a jak dopadne na podnikovou sféru? Jak daleko jsou dnes firmy v automobilovém průmyslu s využíváním umělé inteligence?
Práce s textem, vytváření různých literárních forem od básní přes vtipy až po eseje patří hned vedle vyhledávání informací k těm nejjednodušším činnostem, které umělá inteligence prostřednictvím dnes už řady algoritmických jazykových modelů umožňuje. V této podobě a takto využívaná je bezpochyby velkým pomocníkem, který s sebou na první pohled nese jen minimální riziko – samozřejmě v případě, že modelem vygenerovaným odpovědím nebudeme věřit stoprocentně a raději si je někde ověříme.
Jenže není to tak docela. I chatboti a generativní AI s sebou nesou určitá specifická rizika a jejich uživatelé by měli být informováni, že interagují se strojem a existuje zde zjevné riziko manipulace.
Právě přístup založený na posouzení rizik, tedy rozdělení systémů AI do různých kategorií na základě jejich míry rizika a na to navazující určení požadavků na jejich vývoj, nasazení a používání představují to nejdůležitější z celého evropského nařízení o umělé inteligenci (AI Act).
Regulační rámec definuje čtyři úrovně rizika pro systémy AI, přičemž platí, že čím vyšší riziko použití systému umělé inteligence představuje, tím přísnější pro něj platí pravidla.
Převážná většina systémů AI, které se v současné době používají v EU, spadá do kategorie s minimálním nebo žádným rizikem. Tyto systémy (představme si pod tím třeba videohry s umělou inteligencí) mohou být vyvíjeny a používány v souladu se stávajícími předpisy, nevyžadují žádnou další regulaci.
Do kategorie s omezeným rizikem patří již zmíněné chatboti a generativní AI. Zde musí být lidé upozorněni na to, že komunikují s umělou inteligencí, tedy se strojem. Poskytovatelé musí zajistit, aby byl obsah vytvořený AI označen jako uměle vytvořený, a to včetně audia či videa.
Systémy AI označené jako vysoce rizikové zahrnují technologie AI používané v oblastech, jako je kritická infrastruktura (doprava, energetika a podobně), vzdělávání, personalistika, bankovnictví, právo a spravedlnost, ale i některé bezpečnostní komponenty výrobků (například aplikace umělé inteligence v chirurgii podporované roboty) a další. Vesměs jde o systémy AI, které mohou negativně ovlivnit bezpečnost lidí nebo omezit jejich základní práva. Vysoce rizikové systémy AI budou před uvedením na trh podléhat přísným povinnostem, které zahrnují mimo jiné vysokou kvalitu datových souborů, jež systém zásobují, zajištění lidského dohledu a řadu dalších.
Čtvrtá kategorie využití systémů AI zahrnuje ty s nepřijatelným rizikem, a jsou tedy přímo zakázané. Patří sem systémy nebo aplikace umělé inteligence, které manipulují s lidským chováním za účelem obcházení svobodné vůle uživatelů, systémy, které umožňují „sociální hodnocení“ ze strany vlád nebo společností, a určité aplikace prediktivní kontroly.
Kromě toho nařízení zakazuje některá použití biometrických systémů, například systémy rozpoznávání emocí používané na pracovišti a některé systémy pro kategorizaci osob nebo biometrická identifikace na dálku v reálném čase pro účely vymáhání práva ve veřejně přístupných prostorách.
Existují některé výjimky, kdy je možné takových technik užít, aby se zabránilo určité hrozbě (teroristický čin, dítě v ohrožení a podobně). Tyto výjimky jsou v legislativě přesně definovány a podléhají povolení soudního nebo jiného nezávislého orgánu.
Mohlo by se zdát, že AI Act je důležitý hlavně a především pro firmy, které tyto systémy vyvíjejí, ale není to tak. Stejně závazné bude nařízení pro subjekty, které je využívají – bez ohledu na to, kdo je vyvinul. Každá organizace se bude muset seznámit s novými požadavky a zajistit, aby jim systémy, které chce využívat, odpovídaly – což si může nárokovat čas a finance. Určitě se to ale vyplatí. Budou-li systémy AI v souladu s legislativou EU, minimalizuje se tím riziko právních sporů a sankcí. Naopak správné využívání systémů AI bezpochyby může přinést firmám konkurenční výhodu.
To platí jak pro aplikovanou AI, tak zejména pro tu zabudovanou. Nařízení EU o umělé inteligenci se sice explicitně nezabývá autonomními vozidly a jejich komponentami, nicméně má legislativa v této oblasti na automobilový průmysl nepřímý dopad.
Automobilové společnosti budou muset být ohledně toho, jak používají AI ve svých vozidlech, především transparentní. To znamená, že budou muset informovat řidiče a další uživatele o tom, že systémy AI používají a jak to funguje.
Systémy AI použité ve vozidlech musí být bezpečné a spolehlivé, což předpokládá jejich testování a zavedení bezpečnostních opatření, která zabrání zneužití těchto systémů.
Data o používání AI systémů budou muset firmy shromažďovat a dále využívat zodpovědným způsobem.To znamená, že k tomu musí získat souhlas od řidičů a dalších uživatelů a zajistit ochranu těchto dat před neoprávněným přístupem. (Regulaci sběru a používání dat v rámci EU upravuje obecně především Data Act, nařízení o datových tocích.)
V neposlední řadě budou muset automobilové společnosti zvážit etické důsledky používání systémů AI ve svých vozidlech. To zahrnuje otázky, jako je odpovědnost za nehody způsobené autonomními vozidly či rizika spojená s potenciální diskriminaci při rozpoznávání objektů.
AI. | Foto: AI
K politické shodě ohledně konečného znění aktu o umělé inteligenci došlo mezi zástupci EU na konci roku 2023, následně byl letos návrh potvrzen většinou hlasů v Evropském parlamentu a shodly se na něm i jednotlivé členské země EU (Rada EU). V červenci byl AI Act zveřejněn v Úředním věstníku EU a vstoupil v platnost dvacet dnů poté, tedy na začátku srpna. Teď mají firmy a úřady dva roky na to, aby se připravily, než začne být regulace plně závazná, což se stane 2. srpna 2026.
Přesněji řečeno, uplatňování pravidel podle AI Act bude nabíhat postupně. Některá ustanovení týkající se zakázaných praktik, budou vymahatelná již šest měsíců po vstupu v platnost, tedy v únoru příštího roku. V srpnu pak začnou platit povinnosti týkající se obecné umělé inteligence.
Dvouleté implementační období se vztahuje na všechna pravidla aktu – s jednou výjimkou týkající se vysoce rizikových systémů umělé inteligence, které budou určeny k použití jako bezpečnostní součást výrobku a budou splňovat ještě některá další kritéria. Pro tyto systémy se nařízení použije od 2. srpna 2027.
Platnost nařízení
Právě u těchto systémů by měly být firmy z oblasti automotive zejména obezřetné. Podle oddělení evropské digitální agendy, které je součástí Úřadu vlády a spadá do kompetence místopředsedy vlády pro digitalizaci Ivana Bartoše (oddělení monitoruje aktivity institucí EU v oblastech, jako jsou umělá inteligence, datová ekonomika, bezpečnější internet pro děti, kybernetická bezpečnost a další), by si měly podniky zejména ověřit, do jaké kategorie systémy AI, které vyvíjejí nebo zavádějí, patří.
„Na automobilový průmysl se nadále bude vztahovat zejména sektorová legislativa, která je nicméně i s AI Actem propojena skrze Přílohu I – Seznam harmonizačních právních předpisů Unie. Ta obsahuje výčet sektorové legislativy, která s ohledem na svou komplexnost bude muset být v souladu s AI Act do 1. 8. 2027. Produkty zařazené do harmonizované legislativy, které budou mít AI prvek jakožto bezpečnostní komponentu, budou klasifikovány za vysoce rizikové, a požadavky se na ně tím pádem také vztáhnou,“ uvedla Lenka Stavreva z Kabinetu místopředsedy vlády pro digitalizaci.
Společnosti, které po vstupu legislativy v účinnost pravidla nedodrží, budou pokutovány. Pokuty se mají pohybovat od 35 milionů eur nebo sedmi procent celosvětového ročního obratu firmy (podle toho, co je vyšší) za porušení zakázaných aplikací umělé inteligence, 15 milionů nebo tři procenta za porušení jiných povinností a 7,5 milionu nebo 1,5 procenta za poskytnutí nesprávných informací.
Správní pokuty v případě porušení pravidel vyplývající z AI Act pro malé a střední podniky, případně pro začínající podniky by měly být nižší.
V každém státě EU bude muset vzniknout úřad, který se bude problematikou umělé inteligence a dodržováním všech pravidel daných AI Act zabývat. Podle Lenky Stavrevy není v České republice o dozorovém orgánu ještě rozhodnuto a pracuje se s několika variantami. „Kterým orgánům tyto kompetence připadnou, bude na politickém rozhodnutí vlády,“ uvedla Lenka Stavreva s tím, že povinnost určit takový orgán nabývá účinnosti všem členským státům do 12 měsíců od vstupu AI Act v platnost, tedy až v srpnu příštího roku.
Firmy, samozřejmě nejen v oblasti automobilového průmyslu, o existenci AI Act vědí a začínají se o tuto problematiku více zajímat. Přestože většina z nich už některé nástroje AI využívá, s analýzou budoucích povinností vyplývajících z nařízení jsou spíš na začátku. „Jsme nyní ve fázi analýzy, abychom zjistili, zda budou nutná organizační opatření nebo modifikace standardů při vývoji integrovaných AI systémů, například v oblasti asistenčních systémů do aut,“ uvedl zástupce společnosti Valeo v ČR.
V Continental Barum čekají v oblasti AI na celokoncernové nařízení. V centrále se aktuálně pracuje na projektu Superchange Your Work with Continental’s AI Assistant.
Podobně i ve Vitesco Technologies se touto problematikou zaobírá společnost na nejvyšší úrovni, kde se pod vedení IT oddělení vytvořil tým složený ze zástupců právního úseku, inženýrů, vedoucích výroby a dalších úseků.
Společnost Bosch má příležitost být úplně „u toho“: stala se členem High Level pracovní skupiny EU pro umělou inteligenci. Milan Šlachta, reprezentant Bosch Group v ČR a SR, k legislativě EU ohledně AI říká: „Při vypracovávání případných regulačních opatření je důležité zajistit, aby tato opatření byla v souladu s ostatními předpisy a ponechávala dostatek prostoru pro inovace. Bosch nicméně uznává, že regulační opatření, pokud budou pečlivě uplatňována, by mohla pomoci vytvořit větší důvěru v AI.“
Generální ředitel a spolumajitel holdingu Motor Jikov Group Miroslav Dvořák je vůči nové legislativě trochu skeptický. „Pokud už ‚musí‘ EU něco regulovat, jen doufám, že dopad na podnikání bude v tomto ohledu co nejmenší,“ říká.
Zeptali jsme se zástupců podniků: Kde a jak využívá AI vaše společnost? Jak využíváte systémy AI konkrétně vy sám?
Valeo Česká republika Leoš Dvořák, ředitel vývojového centra: Používáme nástroje aplikované AI, například pro zrychlení nebo automatizaci kancelářských a administrativních úkolů. Patří sem třeba zrychlení náborového procesu, kde AI nástroje pomáhají najít odborníky se specifickými dovednostmi na sociální sítí LinkedIn. Některé vývojářské týmy také experimentují s automatickým generováním softwarového kódu podle textového zadání finální funkce, nebo s automatickým „překladem“ kódu z jednoho programovacího jazyka do jiného, případně s optimalizací existujícího kódu pro rychlejší výpočty nebo pro jinak výkonný hardware. Je nutné zdůraznit, že to je ve fázi interního testování a není aplikováno pro sériové zákaznické projekty.
Z podstaty našich výrobků se zabýváme integrovanou AI. Kamery, lidary, radary a řídící jednotky asistenčních systémů řidiče zvládají úlohy jako je rozpoznání a klasifikace objektů na silnici nebo úlohu plánování manévrů a plánování trasy právě díky AI.
AI používáme nejen v samotném finálním výrobku, ale i jako vývojový nástroj, například pro generování trénovacích dat pro vylepšení detekčních schopnosti kamer, kde naši vývojáři využívají metodu tzv. augmented data. Představte si například, že musíte asistenční systém na bázi kamer naučit rozpoznat chodce, který nese velkou kartonovou krabici a vstoupí do špatně osvětlené vozovky. Pokud nemáme dostatek přesně takových scén natočených našimi testovacími auty, tak můžeme pomocí generativní AI transformovat záznamy natočené ve dne na noční světelné podmínky a do obrázků přidat věrohodně vypadajícího chodce s velkou kartonovou krabicí. Nebo potřebujeme naučit systém autonomního nouzového brzdění, aby rozpoznal klokana na silnici – to není vtip, ale reálný případ, protože stejný model auta může jezdit jak v Evropě, tak v Austrálii. Pokud nemáme dostatek trénovacích dat s klokany, vygenerujeme si je pomocí AI. Tyto augmented data samozřejmě nemohou kompletně nahradit data reálná, ale významně zlepší a zrychlí proces učení modelů rozpoznávat ojekty na silnici.
Kromě autonomního řízení a asistenčních systémů řidiče má AI velký potenciál v oblasti tepelného managementu elektromobilů pro optimalizaci dojezdu a životnosti baterií.
Gábor Iffland, ředitel komunikace: Osobně používám AI pro vyhledávání, pro diverzifikaci zdrojů informace nebo pro lepší formulaci textu.
MOTOR JIKOV GroupMiroslav Dvořák, generální ředitel: Nástup využití AI je enormní, v rámci aplikované AI lze pak určitě říct, že se u nás prolíná všemi odděleními. MOTOR JIKOV využívá AI aktuálně hlavně v oblasti optimalizace dodavatelského řetězce, kdy je využívána jako pomoc při předpovídání poptávky a optimalizaci zásob. Velmi častým způsobem je pak použití pro automatizaci opakujících se úkolů od výroby přes kontrolu kvality, marketing a personalistiku.
Samostatnou kapitolou je pak využití u jednoúčelových strojů MOTORU JIKOV Fostron, které pak zasahuje spíše do oblasti integrované AI. Možnosti využití chceme zkoumat i v rámci spolupráce s Vysokou školou technickou a ekonomickou v Českých Budějovicích.
Miroslav Dvořák, generální ředitel: Zaujalo mě využití AI při pomoci s organizací času, plánováním schůzek a připomínáním důležitých událostí. Chtěl bych zkusit její využití i v oblasti zdraví a fitness, zaujala mě možnost sledování zdravotních údajů, na základě kterých pak může AI navrhovat tréninkové plány a poskytovat rady pro zlepšení zdraví šité mně přímo na míru.
onsemi – ON Semiconductor Czech RepublicAleš Cáb, ředitel výroby: V onsemi rozlišujeme využití na obecné úrovni a využití specifická. Pokud jde o první oblast, ve firmě je rozšířené použití k vyhledávání informací či k doplňování/optimalizaci textů, což funguje velmi dobře. U vyhledávání informací jde o první rychlou informaci, se kterou je pak potřeba obezřetně pracovat a v dalším kroku si v případě potřeby informace ověřovat.
Specifické využití AI se týká zejména výroby. Během výroby čipu, která trvá 6 až 12 týdnů, probíhá měření různých parametrů a speciálních vizuálních kontrol po každé dílčí operaci. Zároveň ukládáme dílčí parametry jednotlivých procesů každých několik sekund. Generujeme obrovské objemy dat. Společně s externí českou firmou jsme vyvinuli systém využívající AI k predikci, jestli na základě těchto dat bude daný čip v požadované specifikaci, a můžeme udělat rozhodnutí přeskočit nákladné finální měření na desce a měřit až parametry finálního modulu.
AI modul zároveň pomáhá v analýze dat a určení kořenové příčiny problémů. Pomáhá nám také v nastavování systému údržby.
Josef Švejda, jednatel české pobočky: Testujeme Copilota v prostředí Office365 – zápisy z porad, úkoly, dále shrnutí e-mailů nebo záznamů schůzek v prostředí MS Teams. Občas jsou problémy způsobené rozpoznáváním řeči, ale i tak je to velká úspora času. Samozřejmě je nezbytné výstupy kontrolovat, nelze se spoléhat stoprocentně na správnost.
Continental BarumLibor Láznička, generální ředitel: Mnoho našich lokálních projektů již na bázi AI pracuje, využívá ji nebo jsou ve fázi testování. V koncernu Continental globálně běží pilotní projekt Superchange Your Work with Continental’s AI Assistant za využití centrálou kontrolovaného řešení, a to především z obavy o bezpečnost dat. I v Continental Barum se těchto nástrojů využívá za přísných bezpečnostní pravidel.
Konkrétně u nás v Otrokovicích kolegové vyvinuli za pomoci algoritmů AI kamerové systémy pro rozpoznávání správných objektů či materiálů napříč různými technologickými operacemi a v různých výrobních úsecích. Vytvořené systémy na bázi AI, které u nás využíváme, spíše pomáhají zaměstnancům a ulehčují jim práci.
Na základě AI pracuje globální překladač přístupný všem téměř 200 tisícům zaměstnanců koncernu. Je schopen překládat dokumenty, prezentace, obrázky, a to do 23 jazyků. Pro mnohé zaměstnance je to velmi používaný nástroj.
Také u nás již několik let využíváme k náboru zaměstnanců chatovacího AI virtuálního asistenta, čímž automatizujeme rutinní procesy a komunikaci s kandidáty. Chatbot je na našich kariérních stánkách k dispozici 24/7/365.
Libor Láznička, generální ředitel: Loni na konci roku, když jsem psal novoroční zdravici zaměstnancům a shrnutí loňského roku, vyzkoušel jsem si „zapromptovat“ na toto téma. Byl jsem překvapen, jak jednoduché, a hlavně jak rychlé to bylo. A co víc, bylo to i použitelné, dalo se to číst. Ovšem nepoužil jsem ani slovo. Připadalo mi to neosobní, bez práce a bez zamyšlení se nad uplynulým rokem a konkrétními situacemi, které nastaly.
Vitesco TechnologiesJan Semerák, vedoucí oddělení průmyslového inženýrství: AI využíváme v současnosti zejména v oblasti strojového rozpoznání obrazu, tam, kde již nestačí konvenční „vision systémy“. Šetří nám již řádově desítky pracovníků. Spolehlivost se blíží sto procentům, ale ve většině aplikací přece jen naší potřebě (na úrovni 6Sigma) nevyhovuje. V takových případech má vždy poslední slovo člověk, který případy s nižší mírou spolehlivosti prověří a rozhodne, zda se jedná o vadu. Výhodou je, že systém sám spolehlivost vyhodnotí a případně předá člověku.
Jako další začínáme budovat a využívat privátní LMS (Learning Management System), který je navíc napojen přímo na výrobní linku. Obsahuje tedy například jak pracovní instrukce, strojní dokumentaci a záznamy údržby, tak i v reálném čase vybraná technologická data z PLC a MES systémů. Nicméně v tomto jsme teprve na začátku.
Pokud jde o systémy, které se prolínají celou firmou, máme například již integrovaný Bing AI do prostředí Office 365, nicméně naším cílem je tyto nástroje používat s rozmyslem a efektivně.
Jan Semerák, vedoucí oddělení průmyslového inženýrství: Osobně používám AI na konzultace ohledně různých odborných otázek (ale zamýšlím se nad dodanými informacemi, spolehlivost není rozhodně stoprocentní) a případně na tvorbu obrázků a log.
Peter Šveda, vedoucí LEAN manažer: Používám systémy AI na tvorbu ilustrací do prezentací, tvorbu textů na workshopy a školení a na dohledání různých informací
Lubomír Tuček, Country EBR & Communication: Využívám systémy AI především pro práci s textem, včetně překladů, shrnutí a úprav. Pomáhají mi při formulaci e-mailů, kontrole stylistiky a gramatiky. Služby AI rovněž využívám jako partnera při diskusi a rozvíjení vlastních nápadů a myšlenek. Velký přínos mají také v oblasti programování a analýzy dat, přičemž zde jsme limitováni stanovenými pravidly na sdílení citlivých informací.
Bosch Group v ČRMilan Šlachta, reprezentant Bosch Group v ČR a SR: Bosch systémy umělé inteligence využívá a zároveň tvoří.
Ve vývoji technologií AI je Bosch světovým lídrem. Kompetence společnosti se výrazně projevuje mimo jiné v transformaci odvětví automotive, kde je Bosch jednou z mála firem, které jsou schopny tvořit „software defined vehicle“ a nabízet holistická řešení od aktuátorů přes senzory a vozidlové počítače až po programování softwaru, včetně „middlewaru“ (umožňuje propojovat softwary a aktuátory různých výrobců a uvolňuje ruce konstruktérům aut tím, že mohou skládat moduly a funkce v autě bez ohledu na jejich kompatibilitu).
I v Česku vyvíjíme software, testujeme využití AI ve výrobě, v mnoha případech i pro ostatní společnosti skupiny po celém světě. Snažíme se na pilotních projektech pochopit a naučit nové věci. Umíme je pak většinou také realizovat s přiměřenou ekonomickou návratností.
Českobudějovická pobočka Bosch byla zvolena v roce 2023 v rámci koncernu Bosch jako pilotní projekt a v dalších letech jako kompetenční centrum (centrum excelence) pro zavádění nové výrobní a logistické digitální platformy (oblast Mobility) postavené na nejnovějších informačních technologiích.
Pokud jde o již realizované projekty na bázi AI, český Bosch vyvinul například cenově dostupnou automatickou optickou inspekci, která využívá algoritmů strojového učení. Rovněž vyvinul inovativní software pro denní použití ve výrobních, technologických a logistických oblastech, využívající obraz digitálního dvojčete operátora/obsluhy strojů (projekt AVATAR). S fakultou strojní ČVUT spolupracoval Bosch na datové analýze s pomocí AI, přičemž výsledkem je systém, který – zjednodušeně řečeno – dokáže predikovat výsledek, což vede ke zkrácení dlouhodobých zkoušek vyvíjeného výrobku.
Nový, letos zahájený projekt, kterého se český Bosch účastní, se zaměřuje na sémantickou komunikaci a zpracování informace z průmyslových strojů s využitím strojového učení pro mobilní sítě šesté generace (6G).Projekt vede Fakulta elektrotechnická ČVUT, participují na něm dvě významné instituce z hlediska výzkumu 6G – francouzská univerzita EURECOM a finská University of Oulu. Testování navrženého řešení se bude realizovat přímo na půdě závodu Robert Bosch v Českých Budějovicích.
Obecně řečeno, umělá inteligence má velký potenciál ve zvyšování efektivity v administrativních úkolech, v plánování a řízení výroby. Pracujeme na různých chatbotech v oblasti daní a práva – tam je například cílem i řešení, které bude podporou při tvorbě a kontrole nových smluv. V plánování výroby je potenciál využití ještě širší, od predikce prodeje až po optimalizaci výrobních toků. Samozřejmě je potřeba postupovat obezřetně.
Milan Šlachta, reprezentant Bosch Group v ČR a SR: Když pominu aplikace a služby, kde již dnes prvky umělé inteligence podporují každého z nás, využívám AI spíše na tvorbu a vyhledávání textů a informací, někdy i na tvorbu grafického obsahu. Používám i interní aplikaci AskBosch, který stojí na Microsoft GPT-3.5 Turbo. Je to ale jen začátek, zatím se využití AI v mé práci příliš neprojevuje.
Je evropské nařízení o umělé inteligenci jen další otravnou regulací, nebo může být ve firmách naopak katalyzátorem rozvoje? Djalel Benbouzid, AI Governance Senior Manager ve společnosti Volkswagen se kloní k druhé možnosti, vidí v AI Act spíše příležitost. Přinášíme jeho komentář, který připravil exkluzivně pro Český autoprůmysl.
Nedávno přijatý zákon Evropské unie o umělé inteligenci vyvolal vlny v technologickém průmyslu. Na první pohled se může zdát, že jde o další regulační překážku – 144stránkový dokument plný technických požadavků a potenciálních sankcí. Ale když se na něj podíváte blíže, zjistíte, že je to vlastně skrytá příležitost.
Ano, jsou s tím spojené náklady. Společnosti budou muset investovat do nových procesů, dokumentace a případně i personálu, aby zajistily soulad s předpisy. Ale je tu jedna věc: většina těchto nákladů je nabalena na začátku. Jsou to především fixní vstupní náklady: nastavení nových procesů, vytvoření šablon pro dokumentaci, zavedení mechanismů dohledu/monitorování. Ale jakmile jsou tyto systémy zavedeny, jsou náklady na průběžnou údržbu relativně nižší.
Důležité je, že technologická komunita se již mobilizuje na podporu implementace. Odborníci sdílejí poznatky o strategiích dodržování předpisů a je naděje, že se objeví šablony pro dokumentaci, které proces zefektivní. Tento společný přístup by mohl výrazně snížit zátěž jednotlivých společností, zejména těch menších.
Ještě důležitější je, že mnoho požadavků zákona bude mít pro společnosti pozitivní vedlejší účinky. Vezměme si například transparentnost. Zákon prosazuje jasnou dokumentaci a vysvětlitelnost systémů umělé inteligence. Nejde jen o dodržování předpisů, ale o vytváření institucionálních znalostí. Když jste nuceni jasně zdokumentovat, jak vaše systémy AI fungují, vytváříte také cennou znalostní základnu pro vaši organizaci. To může zlepšit spolupráci, urychlit zapracování nových členů týmu a dokonce podnítit nové inovace, protože lidé získají jasnější představu o vašich schopnostech AI.
Dále je zde důraz na management kvality a rizik. Zákon vyžaduje, aby společnosti pečlivě promýšlely potenciální škody a zaváděly ochranná opatření. To může zpočátku zpomalit vývoj, ale z dlouhodobého hlediska to pravděpodobně povede k robustnějším a spolehlivějším systémům AI. A to je ve světě, kde selhání AI může vést k poškození pověsti a ztrátě důvěry zákazníků, cenná výhoda.
Jak si AI vizualizuje AI Act. | Foto: generováno DALL·E
Zákon také prosazuje lidský dohled nad systémy AI. I když se to může zdát jako další zátěž, ve skutečnosti je to příležitost k překlenutí propasti mezi technickými týmy a odborníky v dané oblasti. Hlubším zapojením lidí do procesu AI mohou společnosti vytvořit systémy, které nebudou jen technicky působivé, ale skutečně užitečné a v souladu s potřebami biznisu.
Možná nejvlivnějšími jsou požadavky zákona týkající se správy dat a vyhodnocování modelů, které by mohly vést k nečekaným poznatkům. Když se společnosti budou hlouběji zabývat svými daty a důsledně testovat své modely, aby splnily regulační požadavky, mohou odhalit vzorce nebo příležitosti, kterých si dříve nevšimly.
Kritici tvrdí, že zákon potlačí inovace a znevýhodní evropské společnosti. Tento názor však může být krátkozraký. Stanovením jasných pravidel hry by akt mohl ve skutečnosti podpořit inovace vytvořením důvěryhodného prostředí pro vývoj umělé inteligence. Mohl by povzbudit společnosti, aby se zaměřily na vytváření AI, která bude nejen výkonná, ale také etická a spolehlivá, což jsou vlastnosti, které by se mohly stát významnou konkurenční výhodou na globálním trhu.
Přístup zákona založený na riziku navíc znamená, že mnoho aplikací AI bude čelit minimální regulaci. Pozornost zákona se soustředí pouze na vysoce rizikové systémy, u nichž potenciál vzniku škody ospravedlňuje přísnější dohled. Tento cílený přístup by měl umožnit pokračování rychlých inovací v mnoha oblastech AI a zároveň zajistit odpovídající ochranná opatření tam, kde jsou nejvíce zapotřebí.
Stojí za zmínku, že náklady spojené s dodržováním předpisů u vysoce rizikových systémů by měly představovat zlomek celkových nákladů na vývoj. Jako dobrý příklad zde slouží zdravotnictví. Mnohé z požadavků zákona jsou již v tomto odvětví splněny stávajícími předpisy a je pravděpodobné, že zdravotnické společnosti budou mezi prvními, které se zákonu o umělé inteligenci hladce přizpůsobí.
Zákon také včas řeší rostoucí obavy v oblasti AI. Současný humbuk kolem AI vedl k přehnaným slibům, které následně vytvořily nerealistická očekávání. Jelikož se tato očekávání nevyhnutelně nenaplní, hrozí podkopání důvěry uživatelů. Zákon o umělé inteligenci poskytuje příležitost tuto důvěru obnovit a usilovat o odpovědné využívání této slibné technologie.
Nejnaléhavějším termínem v zákoně je 2. únor 2025. Do tohoto data musí společnosti vyřadit z provozu všechny systémy umělé inteligence, které spadají pod zakázané praktiky uvedené v zákoně. To není malý úkol. Vyžaduje komplexní inventarizaci všech systémů AI napříč organizací, posouzení míry jejich rizikovosti a případně i vyřazení některých systémů.
Proto by nejnaléhavější prioritou pro společnosti mělo být zřízení správce/manažera AI systémů v rámci celé organizace. Nejde jen o dodržování předpisů, ale o získání jasného přehledu o možnostech, rizicích a příležitostech v oblasti AI. Jde o to proměnit regulační nutnost ve strategickou výhodu.
Správcové prostředků umělé inteligence by měli mít za úkol katalogizovat všechny systémy umělé inteligence, posoudit úroveň jejich rizika, zajistit řádnou dokumentaci a koordinovat úsilí o dodržování předpisů napříč odděleními. Kromě toho by však měli mít pravomoc identifikovat synergie, odhalovat nadbytečnosti a řídit strategii AI v rámci celé organizace.
Jako člověk zodpovědný za definování rámce správy AI pro významnou automobilovou skupinu mohu potvrdit výhody strukturování a standardizace osvědčených postupů napříč organizací. Proces zajišťování shody od návrhu již přináší pozitivní výsledky, odhaluje skrytou efektivitu a podporuje holističtější přístup k vývoji AI.
Závěrem lze říci, že zákon EU o AI je více než jen regulační výzvou, je katalyzátorem organizační transformace. Tlačí společnosti k promyšlenějšímu, transparentnějšímu a strategičtějšímu vývoji AI. Ti, kteří tuto výzvu přijmou a budou ji vnímat spíše jako příležitost než jako zátěž, budou mít dobrou pozici nejen pro dodržování předpisů, ale i pro vedoucí postavení v budoucím vývoji AI.
Příštích několik let bude klíčových. Zatímco se společnosti budou předhánět, aby splnily termín 2025, budou vytvářet základy pro své strategie v oblasti AI na další roky. Vítězi nebudou jen ti, kteří zaškrtnou všechny regulační kolonky, ale ti, kteří tento okamžik využijí k vybudování robustnějších, transparentnějších a hodnotnějších systémů AI. Zákon o AI není koncem inovací, ale začátkem nové, vyspělejší éry vývoje AI, v níž jsou etické aspekty a společenský dopad nedílnou součástí technologického pokroku.
