Umelá inteligencia (AI) z právneho hľadiska

Aké právne riziká súvisia s použitím umelej inteligencie a ako im vo firme predchádzať, prezradili odborníčky z MATHISON legal.

Umelá inteligencia (AI) už dávno nie je len záležitosťou budúcnosti a denne ju využívajú aj mnohé firmy. Vynárať sa tak začínajú aj otázky týkajúce sa právnej oblasti – ako upravuje používanie AI nástrojov legislatíva a ako je to s autorskými právami, ak sa na kreatívnom výstupe podieľa umelá inteligencia? Čo by mali mať firmy ošetrené v zmluvách, aby predišli problémom oni aj ich klienti? Odpovede na tieto, aj ďalšie otázky pre Podnikajte.sk priniesli Eva Schin Majdúchová, partnerka advokátskej kancelárie MATHISON legal, s. r. o. a Michaela Bjaloňová, právna asistentka kancelárie.

Umelá inteligencia v legislatíve: EÚ začala konať, Slovensko zaostáva

Nástroje umelej inteligencie sa využívajú čoraz častejšie. Ako sa na tento nový trend pozerá právo?

V prvom rade je dôležité ozrejmiť, že správne používaný pojem je systém umelej inteligencie, keďže ide o systém vyvinutý prostredníctvom prístupov strojového učenia a prístupov založených na logike a znalostiach.

Jedným z pomerne diskutovaných právnych aspektov použitia systémov umelej inteligencie je ochrana ľudských práv a vymedzenie právnej subjektivity umelej inteligencie – teda, či by bola spôsobilá byť nositeľom práv a povinností a či by ich boli autonómne systémy spôsobilé brať na seba. To sa zároveň prekrýva s ďalšími právnymi a etickými aspektami jej použitia, predovšetkým otázkou autorských práv a otázkou zodpovednosti za škodu, ktorú spôsobili mechanizmy umelej inteligencie.

Zaoberá sa týmito otázkami súčasná legislatíva?

Európska Únia postupne prijíma prvé právne akty. Na začiatku roka 2021 bol Európskou komisiou predstavený Akt o umelej inteligencii, ktorý považujeme za prvý komplexný návrh regulácie AI. Na jeseň v roku 2022 bola zo strany Európskej Únie navrhnutá smernica, ktorá sa venuje mimo-zmluvnej zodpovednosti za škodu spôsobenú umelou inteligenciou. Vzhľadom na to, že AI súvisí aj s oblasťou kybernetickej bezpečnosti, je potrebné uplatňovať taktiež reguláciu Aktu o digitálnych službách a Smernicu NIS 2.

V tomto roku sa pracuje na nariadení Európskeho parlamentu a Rady, známom aj ako „Zákon o umelej inteligencii“. O čo ide?

Ide o podporu jednotnej úpravy tejto problematiky na európskej úrovni. Cieľom je dosiahnutie dohody o finálnom znení nariadenia do konca tohto kalendárneho roka. Aktuálne znenie nariadenia je založené na rozlišovaní miery rizika, ktoré môže umelá inteligencia so sebou priniesť. Konkrétne navrhuje zakázať systémy umelej inteligencie s neprijateľnou úrovňou rizika, predovšetkým, ak sú schopné manipulovať s osobami prostredníctvom techník mimo ich vedomia a spôsobiť psychickú a fyzickú ujmu, napríklad prostredníctvom rozdeľovania ľudí na základe ich osobnosti a sociálneho správania. Ďalším cieľom nariadenia je zabezpečiť transparentnosť systémov umelej inteligencie prostredníctvom povinnosti zverejniť údaj o tom, že o ide o obsah vyprodukovaný umelou inteligenciou. Cieľom je súčasne zlepšiť postavenie občanov pri podávaní sťažností voči umelej inteligencii, ak by zjavne zasahovala do ich základných práv a slobôd.

Na Slovensku legislatíva "technického práva" nezodpovedá technologickému pokroku.

Ako je na tom slovenská legislatíva?

Aktuálny stav je taký, že legislatíva „technologického práva“ nezodpovedá technologickému pokroku. Napriek tomu, že doterajší vývoj naznačuje, že niektoré aspekty právnej úpravy umelej inteligencie budú zverené aj členským štátom, Slovenská republika v tejto oblasti pomerne zaostáva a absentuje u nás komplexná právna úprava. Z hľadiska zákonov prichádza do úvahy najmä právna úprava zodpovednosti podľa Občianskeho zákonníka, Obchodného zákonníka a ochrany autora diela podľa Autorského zákona. Regulácia AI je nesporne nevyhnutná a mala by sa sústrediť najmä na otázky zodpovednosti, férovosti, transparentnosti a ľudského dohľadu. Je zásadné špecifikovať požiadavky na dáta, ktoré sú používané pre trénovanie modelov.

Umelá inteligencia ako autor diela – má autorské práva či nárok na patent?

Čoraz častejšie sa využívajú nástroje ako ChatGPT na tvorbu textu či MidJourney na tvorbu obrázkov. Ako sa v tejto oblasti riešia autorské práva?

Práve posudzovanie systémov, ktoré po zadaní pokynu v textovej podobe vyprodukujú jedinečný nový obsah, či už v podobe textu, alebo obrázku, sú pri používaní umelej inteligencie veľmi problematické. Právne problémy sa týkajú nielen výsledku ich použitia a jeho posudzovania z hľadiska autorského práva, ale aj materiálov (podkladov), s ktorými algoritmus pracuje, keďže používa veľké množstvo existujúcich autorských diel často bez vedomia (súhlasu) autorov.

Môže byť takýto nástroj umelej inteligencie považovaný za samotného autora daného diela?

Na umelú inteligenciu je možne nazerať z rôznych pohľadov, v súčasnosti sa chápe predovšetkým ako počítačový program (software), ktorý produkuje výsledky, ktoré by štandardne boli hodné autorskoprávnej ochrany. Počítačový program je priamo definovaný v § 87 ods. 1 Autorského zákona ako „súbor príkazov a inštrukcií vyjadrených v akejkoľvek forme použitých priamo alebo nepriamo v počítači alebo v podobnom technickom zariadení.“

Podľa platného práva Slovenskej republiky, vychádzajúceho z legislatívy Európskej únie, však môže byť autorom autorského diela výlučne fyzická osoba. Vyplýva to priamo z § 13 Autorského zákona, ktorý ustanovuje: „Autor je fyzická osoba, ktorá dielo vytvorila.“ Túto skutočnosť potvrdzuje aj samotná povaha autorského diela ako výsledku tvorivej duševnej činnosti, ktorú môže realizovať len človek. To znamená, že iný subjekt ako fyzická osoba (človek) nemôže byť považovaný za autora autorského diela, teda dielo, ktoré je výsledkom činnosti umelej inteligencie, nemôže byť podľa aktuálnej legislatívy považované za autorské dielo a AI za autora. Aj ten najvýkonnejší počítačový program je len prostriedok a nie autor. Umelá inteligencia je teda stále chápaná len ako technologický nástroj (v podobe softvéru) vytvorený človekom, podobný napríklad Photoshopu. Ako príklad, ktorým sa argumentuje pri vymedzení autora len ako fyzickej osoby, možno uviesť známu kauzu Naruto vs Slater.

O čo ide?

Ide o prípad, kedy selfie fotografiu vytvorila opica. Pán Slater (majiteľ fotoaparátu, ktorého sa opica zmocnila a pomocou ktorého fotku vyhotovila), mal záujem komerčne využiť túto fotografiu, pretože sa považoval za autora fotografie. Slater „svoju" fotografiu použil v knihe o Indonézii, pričom bez jeho vedomia sa fotografia objavila aj na jednom z internetových portálov. Slater vtedy Wikipediu upozornil, že ide o jeho fotografiu a požiadal o jej odstránenie. Táto žiadosť bola zamietnutá s tým, že nevlastní práva k fotografii, keďže ju neurobil. V tejto fáze do sporu vstúpila PETA (People for the Ethical Treatment of Animals - nezisková organizácia, ktorá sa angažuje za práva zvierat), ktorá v mene opice žalovala Slatera za porušenie autorských práv. Žiadala okrem iného, aby všetky zárobky z fotografie išli do fondu na ochranu makakov chocholatých. PETA v súdnom konaní argumentovala, že aj zviera môže podľa zákona vlastniť majetok, nielen byť majetkom niekoho iného. Súdy však rozhodli, že zvieratá nemôžu legálne vlastniť autorské práva.

A čo v prípade použitia umelej inteligencie – sú už zaznamenané podobné pokusy o priznanie autorských práv?

Áno. Vo svete rezonujú viaceré pokusy o priznanie autorského práva a priemyselných práv umelej inteligencii. Väčšina z nich je naďalej neúspešná, až na jednu výnimku - Stephen Thaler, vynálezca systému AI inteligencie Dabus, ktorý do patentovej prihlášky ako autora vynálezu zapísal práve túto, ním vytvorenú umelú inteligenciu. Prihláška bola podaná v rokoch 2018 a 2019 na 17 patentových úradoch po celom svete, vrátane Európskej únie, USA, Číny, Japonska a Indie. Prihláška však bola zamietnutá na každom úrade, s výnimkou Juhoafrického patentového úradu. V júli 2021 vydal patent, v ktorom bol ako vynálezca uvedený systém AI. Rozhodnutím tohto úradu v Juhoafrickej republike sa vynálezcom prvýkrát v histórií oficiálne stal systém umelej inteligencie. Je preto otázne, či sa nebude právne vymedzenie umelej inteligencie meniť a prispôsobovať potrebám praxe.

Článok pokračuje pod reklamou

Firmy by nemali zabudnúť o používaní umelej inteligencie informovať klientov

Dnes už často AI nástroje používajú firmy, napríklad aj marketingové agentúry. Na čo by mali myslieť vo vzťahu ku klientom?

Firma používajúca nástroje AI by mala brať ohľad predovšetkým na zabezpečenie bezpečného a etického používania týchto technológií. Vhodné je výslovne klienta oboznámiť s tým:

  • ako sa v danej firme/agentúre používajú AI nástroje (napríklad vytváranie ilustračných obrázkov prostredníctvom MidJourney),
  • aké sú ich obmedzenia (napríklad ich závislosť od kvality a množstva dát, ktoré sú im k dispozícii, čo môže ovplyvniť presnosť a spoľahlivosť výsledkov),
  • aké údaje budú zaznamenané (napr., či pôjde o osobné údaje klienta podliehajúce zákonnej ochrane v oblasti GDPR),
  • akým spôsobom budú údaje spracované a 
  • a informovať o konkrétnom účele ich použitia (napríklad predpovedanie preferencií zákazníkov a na základe tejto analýzy odporúčanie relevantných produktov).

Dôležité je v prípade použitia nástrojov umelej inteligencie dbať na náležitú ochranu osobných údajov a ochranu súkromia klienta. Vhodné je taktiež vymedziť očakávané výsledky od AI nástrojov, čím sa predíde prípadným nedorozumeniam a dohodnúť si práva, povinnosti a zodpovednostné mechanizmy, ak sa vyskytnú problémy s ich použitím. Taktiež by malo dôjsť k zadefinovaniu postupu na overenie bezpečnosti použitých AI nástrojov a dohodnutiu podmienok ukončenia zmluvy v prípade ich porušenia. Je na spoločnosti, aby podľa dohody zachovala mlčanlivosť o dôverných informáciách, ktoré jej boli klientom poskytnuté, preto odporúčame žiadne takéto informácie nevkladať do AI systémov, ktoré nie sú overené a náležite zabezpečené.

Na čo myslieť pri formulácii a uzatváraní zmluvy s klientom?

Je potrebné myslieť na to, aby klient rozumel tomu, akú úlohu budú mať systémy umelej inteligencie a aby bol oboznámený so zásadami a postupmi jej použitia.

Môžete uviesť konkrétny príklad formulácie v zmluve?

Napríklad formulácia môže znieť takto: „Spoločnosť XY bude na zvyšovanie efektívnosti marketingovej kampane používať nástroje systému umelej inteligencie. Tieto nástroje slúžia na automatické spracovanie určitých dát a budú použité na personalizáciu marketingových aktivít. Spoločnosť XY sa zaväzuje tieto dáta zhromažďovať a spracovať v súlade s platnou legislatívou, etickými pravidlami a bezpečnostnými normami.“

Ako je to z hľadiska následného použitia výstupu - na čo by mal myslieť podnikateľ, ak jeho obchodný partner (napríklad marketingová agentúra) využíva AI na tvorbu kreatívnych výstupov?

Podnikateľ by mal myslieť na to, že aj využívanie AI na tvorbu kreatívnych výstupov môže mať určité právne dôsledky, pôjde najmä o:

  • Zodpovednosť za výsledok a porušenie autorských práv – v praxi môže nastať situácia, že niektoré výstupy, akými sú napríklad reklamné slogany alebo grafiky, budú porušovať autorské práva. Naďalej je preto potrebné myslieť na to, že AI pracuje na základe algoritmov strojového učenia a dokáže nakladať len s údajmi, ktoré boli použité na jej trénovanie a ktoré „do nej boli naliate“.
  • Ochranu osobných údajov – nie je vylúčené, aby AI nástroje boli využité na zber a analýzu (osobných) údajov o zákazníkoch. Ak marketingová agentúra zbiera údaje o používateľoch, musí zabezpečiť ich bezpečnosť a dodržiavať legislatívu o ochrane osobných údajov. Podnikateľ by sa mal ubezpečiť, že jeho obchodný partner je s týmito predpismi oboznámený a dodržiava ich.

Teda podnikateľ by mal pri komunikácii s obchodným partnerom predovšetkým zistiť, či marketingová agentúra má správne nastavenú politiku ochrany osobných údajov a má oprávnenie využívať AI nástroje.

Ako si ochrániť vlastné autorské výstupy alebo citlivé informácie firmy

Aké možnosti majú zamestnanci či firmy, ak si chcú ochrániť vlastné autorské výstupy (nevygenerované AI)?

Je dôležité pamätať na to, že autorské právo k dielu vzniká už samotným okamihom vytvorenia diela. Nie je pritom rozhodujúca podoba, obsah, kvalita, účel alebo forma vyjadrenia diela a nezáleží ani na miere dokončenia diela (to znamená, že ak časť diela spĺňa znaky diela, je chránená táto časť, resp. vývojová fáza diela).

Na rozdiel od niektorých štátov, ako USA alebo Kanada, na Slovensku nie je možnosť osobitnej registrácie autorských práv, ktorá by posilnila ich ochranu – je možné si autorské práva zaregistrovať prostredníctvom špecializovaného poskytovateľa služieb, čo môže byť v istom okamihu užitočné, ale len na preukázanie vytvorenia diela konkrétnou osobou. Vznik autorského práva k dielu teda nie je podmienený zverejnením, ani splnením akýchkoľvek formálnych náležitostí (napr. registrácia či zaradenie do evidencie).

Čo sa týka práva použiť dielo, má ho v zásade prednostne jeho autor, ktorý má súčasne právo udeliť tretej osobe súhlas na použitie tohto autorského diela (tzv. licencia). Právna úprava však pozná režim tzv. zamestnaneckého diela, ktoré vymedzuje Autorský zákon v § 90 ako „dielo vytvorené autorom na splnenie povinností vyplývajúcich mu z pracovnoprávneho vzťahu alebo z obdobného pracovného vzťahu“. V prípade takéhoto diela je oprávneným na jeho používanie a ďalšie disponovanie nie samotný autor, ale priamo zamestnávateľ. 

Niekedy sa stáva, že do nástrojov AI (ako ChatGPT) zamestnanci zadajú citlivé firemné údaje. Ako sa takým situáciám vyhnúť?

V rámci firemnej kultúry a vo vzťahu k ostatným kolegom je určite vhodné (bez ohľadu na používanie AI) vypracovať interné pravidlá a oboznámiť s nimi všetkých pracovníkov. Je žiaduce jasne vymedziť práva a povinnosti pri práci a nakladaní s autorskými dielami, ale aj osobnými údajmi klientov a inými údajmi podliehajúcimi povinnosti mlčanlivosti, a to aj v súvislosti s použitím AI nástrojov tak, aby bolo minimalizované riziko porušenia zákona a zachovaná integrita zamestnaneckého prostredia.

Čo robiť, ak sa v AI nástrojoch objaví niečo, čo je autorským právom firmy? 

V takomto prípade je nevyhnutné postupovať urýchlene, aby sa predišlo ďalším neoprávneným zásahom. V prvom rade je potrebné kontaktovať osobu poskytovateľa AI nástroja a vyzvať ho, aby čo najskôr odstránil tieto porušenia. Pokiaľ by k odstráneniu nedošlo, môže autor (spoločnosť pri zamestnaneckom diele) žiadať odstránenie, nápravu a ďalšie súvisiace nároky súdnou cestou.

Autor, ktorý sa domnieva, že došlo k zásahu do jeho práv alebo takýto zásah hrozí, sa môže domáhať súdnej ochrany. Môže súd žiadať o určenie autorstva, žiadať zákaz neoprávnených zásahov a ohrozovania svojho práva, taktiež požadovať odstránenie následkov neoprávneného zásahu, náhradu nemajetkovej ujmy alebo škody, a taktiež žiadať vydanie bezdôvodného obohatenia. Tieto oprávnenia má aj samotná spoločnosť, pokiaľ ide o zamestnanecké dielo.

Platí to aj v prípade, že do AI nástroja zadá citlivé údaje (napríklad dáta o prototype výrobku) zamestnanec?

Podľa § 179 Zákonníka práce zamestnanec zodpovedá zamestnávateľovi za škodu spôsobenú zavineným porušením povinností pri plnení pracovných úloh alebo v priamej súvislosti s ním. Na to, aby si mohol uplatňovať zamestnávateľ voči zamestnancovi všeobecnú zodpovednosť za škodu, musia byť kumulatívne splnené zákonné podmienky: existencia pracovnoprávneho vzťahu, protiprávny úkon, vznik škody, príčinná súvislosť medzi protiprávnym úkonom a škodou, zavinenie.

V danom prípade je potrebné rozoznávať dva typy zodpovednosti za škodu:

  • Občianskoprávnu/obchodnoprávnu zodpovednosť – zodpovedným voči tretej osobe (klientovi) je zamestnávateľ (firma), ktorého zamestnanec do AI nástroja zadá citlivé údaje,
  • Pracovnoprávnu zodpovednosť – zodpovedným je zamestnanec, ktorý do AI nástroja zadá citlivé údaje, avšak len vo vzťahu k svojmu zamestnávateľovi (firme) a len za splnenia zákonných podmienok vzniku zodpovednosti za škodu.

Viac podobných článkov nájdete na www.podnikajte.sk


ChatGPT-4o a iné nástroje AI: využitie vo firme očami odborníka

Čo podnikateľom ponúka nová verzia ChatGPT, ako AI môžu využiť marketéri či personalisti, aj na čo myslieť ohľadom bezpečnosti, priblížil expert na umelú inteligenciu Jan Tyl.

Letné detské tábory z hľadiska legislatívy

Ako organizovať detský tábor, aké povinnosti vyplývajú zo zákonov, v čom sa líšia pravidlá pre pobytové a denné tábory a čo musia dodržiavať organizátori?

Odpustenie či zníženie pokuty: zmeny v ukladaní sankcií od 1. 7. 2024

Od 1.7.2024 platí nový zákon o ochrane spotrebiteľa. Aké zmeny priniesol v oblasti sankcií?

Prechodný pobyt na účel zamestnania: ako ho získať?

Aby mohla firma zamestnať cudzinca na Slovensku, musí mu byť udelený prechodný pobyt pre tento účel. Aké doklady treba k jeho získaniu a čo rieši zamestnávateľ?
To najlepšie z Podnikajte.sk do vašej schránky