Nová pravidla pro firemní AI mohou katapultovat Evropu do popředí

„Evropská pravidla jsou první svého druhu na světě a poskytují nám jistý náskok, který může ovlivnit i další země mimo EU. Cílem je zvýšit důvěryhodnost a bezpečnost nástrojů umělé inteligence pro jejich uživatele, čímž se podporují inovace a efektivita ve vztahu k vývojářům a tvůrcům AI technologií. Kromě toho zelená v legislativě konečně může mnoha manažerům poskytnout dlouho očekávaný rámec pro zákonnou regulaci, zvýšit důvěryhodnost a dát odvahu k dalšímu rozvoji, a tím i zvýšit bezpečnost,“ vysvětlila Zuzana Kubíková, head of management consulting poradenské společnosti RSM, zaměřující se na střední a velké firmy.

Na implementaci AI je Česko připravené, musí ale najít odvahu

Česko není v implementaci AI nijak výrazně pozadu. Kvalita českých dodavatelů know-how v oblasti využití AI je na vysoké úrovni a umělá inteligence a inovace v ní si hledají cestu skrz český trh i šedivým způsobem.

Potenciál tedy máme a know-how taky. S jasně nastavenými pravidly a legislativním rámcem tak zbývá poslední velká bariéra, a tou jsou firmy samotné. Jejich digitalizační procesy jsou velmi pozadu a bez řádné digitalizace je práce s AI skoro nemožná. Podle RSM se 52 % firem řadí do kategorie digitalizace 1 a 2, což znamená, že jsou buď zcela nedigitalizované, nebo digitalizováné pouze minimálně.

„Problémem je, že implementace AI vyžaduje co největší digitalizaci firmy. A k tomu je potřeba management, který má odvahu a vůli tyto procesy dotáhnout do konce. Někteří manažeři z naší zkušenosti ještě pořád doufají, že je umělá inteligence jen chvilkový trend, který pomine a věci se pak vrátí do nějakého takzvaného normálu. V tom se ale hrubě mýlí, protože doby výmluv končí. Ti, kteří to myslí s budoucností vážně, by se do digitalizace a implementace AI měli pustit už teď, nejlépe najednou,“ dodala Kubíková.

Pravidla podporují inovaci a konkurenční boj

Nově zavedená pravidla zásadně ovlivní tržní prostředí tím, že zvýší požadavky na transparentnost, dodržování etických a právních norem, zabezpečení a ochranu uživatelů a jejich dat u firem, které využívají nástroje umělé inteligence. Tímto způsobem pravidla přispívají k „pročištění“ trhu tím, že eliminují nástroje, které nesplňují nově stanovené evropské normy.

Zvýšení standardů v oblasti digitálních technologií a umělé inteligence představuje klíčový krok k posílení postavení Evropské unie na globálním trhu s digitálními službami. Poskytovatelé AI řešení budou muset prokázat, že jejich produkty a služby jsou navrženy a provozovány s důrazem na etické zásady, právní shodu a zabezpečení, čímž se zvyšuje jejich tržní hodnota a konkurenceschopnost.

Evropa je stále největší trh a největší obchodní blok. Kdo v něm chce uspět, musí se přizpůsobit. Nová pravidla tak budou tlačit i na firmy venku, aby se přizpůsobily.

Rizika tu ovšem vznikají zejména pro menší společnosti, které možná nebudou schopny splnit nově stanovené požadavky. Tyto firmy čelí reálné hrozbě, že nebudou moci pokračovat ve svém podnikání, pokud nezískají důvěru trhu a zákazníků díky souladu s novými regulacemi. U firem, ve kterých by implementace AI byla efektivní, se to týká dokonce víc než každé druhé.

O jaká pravidla jde?

Pokud firmy budou používat AI, mají například povinnost zahrnout do vývoje svých systémů prvky ochrany soukromí a zároveň poskytovat uživatelům úplné informace o tom, jak jsou jejich osobní data zpracovávána v souladu s GDPR.

Jako příklad lze uvést AI aplikaci pro zpracování a třídění zdravotních záznamů, která musí být navržena tak, aby anonymizovala citlivé údaje a informovala pacienty o tom, jak a proč jsou jejich data používána, přičemž jim zároveň umožňuje kontrolu nad jejich informacemi.

Dalším příkladem mohou být například kreativní či marketingové firmy. Pokud ve svých materiálech budou používat AI generovaný obrazový obsah (jako například „deepfake videa“), budou povinny o tom informovat.

Cílem pravidel je vytvořit prostředí, kde se nebude třeba management firmy bát experimentovat s AI nebo ji zavádět do procesů, ale zároveň bude vysoce transparentní ve vztahu k jejímu využívání.

Přijde pročištění trhu, dotčeni budou i státní zaměstnanci

Zásadní pro celý trh ovšem bude jeho pročištění od těch, kteří se přizpůsobit nedovedou. Mnoho firem vysoce konkurenční prostředí dané novými pravidly neustojí.

„Není to tím, že by na to firmy neměly technické kapacity. Jde spíš o to, že laxnost managementu je dostane dozadu v pelotonu ještě rychleji, než si myslí. Otázka bezpečnosti a ochrany dat dodavatelů, zákazníků i klientů bude naprosto zásadní. Kdo jim nevyhoví, toho sami právě jeho obchodní partneři nechají na holičkách,“ poznamenala Kubíková.

Aktuálně vzniká program národní podpory pro implementaci AI ve firmách, jeho detaily však nejsou nijak známé. Důležité ovšem je, aby se na něj firmy a jejich manažeři nespoléhali. Snoubení digitalizace a využití AI budou muset nastartovat a dotáhnout sami, pokud chtějí na trhu uspět. Firmy, které čekají na generační obměnu manažerů, tahají za nejkratší konec provazu, protože i pouhé dva roky jsou v AI ohromnou ztrátou času.

Jaké společnosti se budou adaptovat nejrychleji? Budou to očekávatelně IT firmy, startupy, banky, korporáty, finanční, vzdělávací a obchodní služby. Tato odvětví oplývají přirozeně dynamickým a progresivním managementem. Zapomínat není možné ale ani na stát a jeho instituce. V tomto případě by implementace AI mohla být nejrychlejší a nejefektivnější cestou k tolikrát ohlašovanému zeštíhlování státní správy.

Důležitá pravidla pro firmy a společnosti

Vysoké riziko:

• AI systémy s negativním dopadem na bezpečnost nebo základní práva rozděleny do dvou kategorií:

1. Systémy v produktové bezpečnosti podle právních předpisů EU (hračky, doprava, zdravotnické prostředky, výtahy).
2. Specifické oblasti vyžadující registraci v EU databázi (biometrická identifikace, kritická infrastruktura, vzdělávání, zaměstnanost, sociální služby, vymáhání práva, migrace, právní asistence).

Generativní umělá inteligence:

• Musí splňovat požadavky na transparentnost (oznámení o AI generovaném obsahu, prevence nezákonného obsahu, zveřejnění shrnutí tréninkových dat).

Omezené riziko:

• Systémy AI musí splňovat minimální transparentnost, aby uživatelé mohli činit informovaná rozhodnutí.
• Uživatelé musí být informováni o interakci s AI, včetně systémů generujících nebo manipulujících s obrazovým, zvukovým nebo video obsahem.

Autor: Zuzana Kubíková, vedoucí oddělení Management Consulting poradenské společnosti RSM.