Novinky sa dotknú aj slovenských podnikateľov. Čo musia vedieť napríklad prevádzkovatelia e-shopov a aké sú termíny ďalších opatrení?
Nariadenie Európskej únie o umelej inteligencii (AI), ktoré je nazývané aj „Akt o AI“ nadobudlo účinnosť už pred dvomi rokmi. A hoci niektoré jeho časti začali platiť skôr, ďalšie opatrenia sa začali uplatňovať až od 2.8.2026. Zmeny sa týkajú používania nástrojov umelej inteligencie a ovplyvnia aj slovenských podnikateľov. Čo treba vedieť?
Čo upravuje Akt o AI?
Ide o vôbec prvú reguláciu umelej inteligencie na svete. Akt o AI rieši riziká umelej inteligencie a jeho cieľom je podporiť dôveryhodnosť AI v Európe. „Aktom o umelej inteligencii sa zabezpečuje, aby Európania mohli dôverovať tomu, čo umelá inteligencia ponúka. Hoci väčšina systémov umelej inteligencie nepredstavuje žiadne riziko a môže prispieť k riešeniu mnohých spoločenských výziev, niektoré systémy umelej inteligencie vytvárajú riziká, ktoré musíme riešiť, aby sme sa vyhli nežiaducim výsledkom,“ uvádza sa na webovej stránke Európskej komisie, ktorá ďalej vysvetľuje, že často nie je možné napríklad zistiť, prečo systém AI prijal isté rozhodnutie a konkrétne opatrenie. Môže byť náročné posúdiť, či niekto nebol nespravodlivo znevýhodnený (napr. v prijatí do zamestnania alebo v žiadosti o verejnú dávku).
Vo februári 2025 nadobudlo účinnosť 8 zakázaných praktík, ktoré sa týkajú všetkých systémov AI, považovaných za jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí. Zakázaná je napríklad škodlivá manipulácia a klamanie či využívanie zraniteľnosti založené na AI, rozpoznávanie emócií na pracoviskách alebo diaľková biometrická identifikácia v reálnom čase na účely presadzovania práva vo verejne prístupných priestoroch.
Ďalšie opatrenia sa začali presadzovať 2.8.2026 a postupne sa budú zavádzať aj ostatné.
Opatrenia Aktu o AI účinné od 2.8.2026
Od 2. augusta 2026 sa začali uplatňovať nové pravidlá transparentnosti podľa Aktu o AI. Nakoľko ide o nariadenie EÚ, uplatňujú sa vo všetkých členských krajinách rovnako.
Ako uvádza Mária Auxtová, Country Lead pre Slovensko zo spoločnosti Shoptet, nová úprava sa dotkne aj slovenských e-shopov, ktoré AI často využívajú napríklad ako pomoc pri komunikácii so zákazníkmi alebo pri tvorbe textov, obrázkov a videí. V tlačovej správe vysvetľuje, že Akt o AI upravuje používanie chatbotov či voicebotov a aktuálne sa zameriava aj na používanie deepfake obsahu vzbudzujúceho dojem reality, pričom táto novinka sa netýka len e-shopov, ale tiež médií a ostatných tvorcov obsahu na internete.
Po novom teda musia chatboty a iné interaktívne systémy umelej inteligencie používateľom jasne povedať, že komunikujú s AI. Rovnako musí byť obsah vytvorený alebo upravený umelou inteligenciou – napríklad obrázky, videá či zvukové nahrávky – označené tak, aby bolo možné rozpoznať, že vznikli pomocou AI. Poskytovatelia generatívnych AI systémov zároveň musia zabezpečiť a zabudovať do systému strojovo čitateľné označenia, napríklad vo forme metadát alebo digitálneho vodoznaku, ktoré umožnia identifikovať AI vytvorený alebo upravený obsah. Pri generatívnych AI systémoch (napríklad ChatGPT, Gemini či Midjourney) uvedených na trh pred 2. augustom 2026 však platí prechodné obdobie na splnenie tejto technickej povinnosti. To znamená, že staršie systémy nemusia mať túto funkciu zavedenú okamžite, pričom úplné splnenie povinnosti sa posúva do roku 2030. Obsah vytvorený alebo upravený pomocou AI pred 2. augustom 2026 sa spätne označovať nemusi.
Podľa M. Auxtovej to v prípade e-shopov môže znamenať aj to, že ak využívajú napríklad AI modelku, ktorá na pohľad vyzerá ako skutočná žena, musí byť fotografia/video s ňou viditeľne označené, a to tak, aby bolo jasné a rozlíšiteľné hneď pri prvom zverejnení obsahu, že ide o dielo umelej inteligencie. Formulácia môže byť rôzna, ale tento fakt musí byť zreteľný. Napríklad v rohu záberu môže byť oznámenie „Vytvorené pomocou AI“. Shoptet v tlačovej správe vysvetľuje, že Európska komisia taktiež pripravila na voľné použitie tri druhy ikon, ktorými možno tento obsah označiť. Avšak, pozor si treba dať pri orezávaní, pretože informácia musí zostať viditeľná. „V budúcnosti by sa tak nemalo stať, že by e-shop predával napríklad výživové doplnky alebo kozmetiku pomocou vytvorenej AI modelky bez toho, aby boli jeho zákazníci o tom informovaní,“ vysvetľuje M. Auxtová.
Ak ide o text vytvorený AI, povinnosť označiť ho sa vzťahuje, ak je jeho cieľom informovať verejnosť o témach verejného záujmu. Týkať sa to však môže aj e-shopov - napríklad, ak majú blogové články o zdraví či aktuálnych témach. Označiť text vytvorený umelou inteligenciou nie je potrebné, ak prešiel ľudskou redakčnou kontrolou (v akom pomere k ľudskému zásahu musí dôjsť, definované v nariadení nie je).
Ďalšie opatrenia podľa Aktu o AI, ktoré budú postupne zavádzané
V decembri 2026 je potrebné počítať so zavedením zákazu systémov AI, ktoré vytvárajú sexuálne explicitný a intímny obsah, taktiež materiál, ktorý obsahuje sexuálne zneužívanie detí (aplikácie umelej inteligencie na „nudizáciu“).
Omnibus týkajúci sa umelej inteligencie zároveň posunul termín účinnosti niektorých opatrení:
- Od 2. decembra 2027 budú podliehať prísnym povinnostiam vysokorizikové systémy AI ešte pred ich uvedením na samotný trh. Bude napríklad musieť mať podrobnú dokumentáciu poskytujúcu všetky podstatné informácie o systéme, primerané opatrenia ľudského dohľadu a podobne.
- Od 2. augusta 2028 budú zavedené nové povinnosti pre AI systémy zabudované ako bezpečnostné komponenty v regulovaných produktoch (napríklad niektoré stroje či hračky).
Kontrola a dozor dodržiavania pravidiel Aktu o AI
Zodpovednosť za presadzovanie pravidiel transparentnosti a zakázaných praktík majú tri orgány.
- Úrad pre umelú inteligenciu presadzuje pravidlá pre systémy AI, ktoré ponúka ten istý poskytovateľ ako základný model umelej inteligencie na všeobecné účely. Vzťahuje sa tiež na systémy integrované do veľkých online platforiem či internetových vyhľadávačov určených podľa aktu o digitálnych službách.
- Príslušné vnútroštátne orgány presadzujú pravidlá pre iné systémy umelej inteligencie.
- Európsky dozorný úradník pre ochranu údajov, ktorý zodpovedá za dodržiavanie pravidiel pre systémy umelej inteligencie, ktoré používajú inštitúcie, orgány a agentúry EÚ.
Účinné presadzovanie a kontrola bude závisieť aj od zabezpečenia určenia príslušných vnútroštátnych orgánov členských krajín.
Aby sa problémom vyhli slovenskí podnikatelia, M. Auxtová odporúča zosumarizovať si vo firme, či a aké nástroje umelej inteligencie sú využívané a ktoré povinnosti sa danej spoločnosti môžu týkať.
Zdroje: eur-lex.europa.eu, europarl.europa.eu, ec.europa.eu, tlačová správa spoločnosti Shoptet
