Európska únia je zase o niečo bližšie k regulácii umelej inteligencie (AI). EÚ by sa tak stala historicky prvým politickým spoločenstvom, ktoré by malo významnú legislatívnu úpravu pre umelú inteligenciu.
Návrh zákona predložila Európska komisia (EK) už v roku 2021. Návrh potom prešiel do Európskeho parlamentu (EP), kde sa na aktuálnej podobe zákona europoslanci dohodli 14. júna 2023.
Čo hovorí návrh zákona o umelej inteligencii?
Cieľom EÚ je zaviesť spoločný regulačný a právny rámec pre umelú inteligenciu. Regulácia navyše pokrýva široké spektrum odvetví pôsobnosti (okrem vojenského) a je cielená na všetky typy AI.
Najväčšou zmenou by podľa zákona o AI bola zvýšená regulácia systémov AI, ktoré sú rozdelené do štyroch kategórií podľa stupňa rizika. Konkrétne sú riziká rozdelené na neprijateľné riziko, vysoké riziko, obmedzené riziko a minimálne alebo žiadne riziko. Na každý stupeň rizika sa vzťahujú iné pravidlá.
Technológie považované za neprijateľné riziko – ako napríklad systémy, ktoré posudzujú ľudí na základe správania, známe ako „sociálne skórovanie“ – by boli zakázané. Ide o princíp, kde každý občan dostane na začiatku určité skóre a svojím správaním si ho buď znižuje alebo zvyšuje. Na základe jeho skóre môže vláda napríklad obmedziť cestovanie, zabrániť človeku v nástupe na najlepšie univerzity alebo mu dokonca vziať psa, ak jeho skóre klesne dostatočne nízko.
AI je takto využívaná v Číne. Väčšie využitie AI plánujú aj vo väčších európskych mestách, napríklad v Londýne či v Paríži. Konkrétne by malo ísť o využitie na monitorovanie priebehu podujatí, akými sú napríklad budúcoročné olympijske hry. Práve zákon o AI by mohol regulovať pôsobnosť týchto systémov.
Nové nariadenie EÚ počíta aj s prísnejšími normami pre firmy či štátne inštitúcie na ochranu súkromia, tiež s prísnejšími zákonmi o transparentnosti a vyššími pokutami za nespoluprácu. Ťažisko presadzovania by pripadlo členským štátom EÚ.
Podnikom, ktoré by porušili pravidlá, by hrozili pokuty až do výšky 33 miliónov dolárov alebo 6 % ročných globálnych príjmov spoločnosti. To by v prípade technologických gigantov, ako sú Google alebo Microsoft, mohlo predstavovať miliardy dolárov.
Reakcie technologických firiem na zvýšenú reguláciu sú rôzne
Dialóg na európskej úrovni sa síce začal pred vyše dvoma rokmi, no kvôli zvyšujúcemu sa počtu chatbotov poháňaných AI sa rokovania v posledných mesiacoch zrýchlili. Právny text sa preto venuje aj typom systémov podobných ChatGPT. Konkrétne sa zaviedli presné požiadavky na „základné modely“, ako sú veľké jazykové modely a generatívna AI.
Vývojári základných modelov budú musieť pred ich zverejnením uplatňovať bezpečnostné kontroly, opatrenia na správu údajov a zmierňovanie rizík. Budú tiež povinní zabezpečiť, aby tréningové údaje použité na informovanie ich systémov neporušovali autorské práva.
Regulácia AI prichádza v čase, keď sa veľké medzinárodné technologické firmy pretekajú vo vývoji vlastných chatbotov. Kvôli regulácii by sa ich však proces vývoja mohol spomaliť a vyjsť omnoho drahšie.
Hrozba, ktorú predstavujú právne predpisy, je taká vážna, že spoločnosť OpenAI vlastniaca ChatGPT uviedla, že v závislosti od toho, čo bude obsiahnuté v konečnom znení, bude možno nútená stiahnuť sa z Európy.
Na druhej strane, spoločnosť Google sa ukazuje byť voči európskym regulátorom nápomocná. „Vedieme produktívne rozhovory s vedením EÚ. Pretože chceme nájsť cestu vpred,“ povedal výkonný riaditeľ aplikácie Google Cloud Thomas Kurian v rozhovore pre médium CNBC.
Jednou z obáv tvorcov tejto politiky je skutočnosť, že generatívne modely AI budú pri generovaní vlastného obsahu preberať materiál chránený autorským právom, čo by mohlo poškodiť umelcov a iných tvorivých profesionálov. Generatívne modely AI sa trénujú na obrovských súboroch verejne dostupných internetových údajov, z ktorých veľká časť je chránená autorskými právami.
Veľké technologické firmy preto vyvinuli nástroje na rozpoznanie, či bol obsah vytvorený AI alebo umelcom. Ak teda umelec nájde svoje dielo prevzaté AI, bude si môcť pýtať honorár za použitie svojej tvorby.
Zvýšená regulácia AI môže oslabiť inovačnú schopnosť EÚ
Zástupcovia inovatívnych podnikov varujú, že príliš prísna regulácia technológií by mohla viesť k spomaleniu inovácií. Hrozí dokonca, že EÚ by v oblasti technologických inovácií prestala byť konkurencieschopná.
V otvorenom liste predstavitelia neziskovej organizácie nazývanej Otvorená sieť pre rozsiahlu umelú inteligenciu (LAION eV) vyzvali politikov EÚ, aby reguláciu AI zmiernili. Želajú si, aby sa nový zákon dostatočne sústredil na ochranu spotrebiteľov a zároveň zachoval konkurencieschopnosť Európy v oblasti výskumu a vývoja AI.
Ako odpoveď na obavy inovátorov EP navrhol výnimky pre výskumné činnosti a komponenty AI s otvoreným zdrojovým kódom. Navyše podporil využívanie takzvaných „regulačných pieskovísk“ alebo kontrolovaných prostredí, ktoré vytvoria verejné orgány na testovanie AI pred jej nasadením.
EÚ udáva trendy v oblasti regulácie AI
Je dôležité zdôrazniť, že hoci zákon schválili zákonodarcovia v EP, do nadobudnutia účinnosti ostáva ešte nejaký čas. Konečné schválenie zákona sa očakáva do konca tohto roka.
Nateraz je však pravdepodobné, že EÚ bude udávať trend v oblasti regulácie AI a celý svet bude v najbližších mesiacoch sledovať vývoj rokovaní v členských štátoch EÚ. Zdá sa totiž, že pokusy o reguláciu AI v iných krajinách na seba nenechajú dlho čakať.
V októbri 2022 zverejnila Bidenova administratíva svoj plán zákona o právach AI, ktorý sa zameriava na normy ochrany súkromia a testovanie predtým, ako sa systémy umelej inteligencie stanú verejne dostupnými.
V apríli tohto roka nasledovala Čína, ktorá zverejnila súbor návrhov pravidiel. Tie by od tvorcov chatbotov vyžadovali dodržiavanie štátnych zákonov o cenzúre. V závese za nimi je Veľká Británia, ktorá nedávno oznámila, že Londýn bude na jeseň tohto roka hostiť prvý svetový summit o umelej inteligencii.
Napriek monumentálnemu úsiliu EÚ regulovať umelú inteligenciu však 27-členný blok zaostáva vo vývoji umelej inteligencie. Namiesto toho sa o vedúcu úlohu uchádzajú práve Spojené štáty americké a Čína.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
