S rastúcim vplyvom umelej inteligencie (AI) rastie aj potreba vytvárania právnych rámcov. Európska únia sa ocitla na čele tejto diskusie spolu s technologickými firmami, akademikmi a špecialistami v oblasti technológií.
Výsledky dialógu sú doposiaľ polarizujúce, výskumy však hovoria jasne: na manipuláciu umelou inteligenciou sme náchylní všetci. A to bez ohľadu na vekovú skupinu, vzdelanie či politické preferencie. Tento efekt sa pritom môže jasnejšie prejaviť počas predvolebného obdobia.
S čím prichádzajú najnovšie štúdie?
Výsledky prieskumu vykonaného výskumnou agentúrou YouGov v apríli tohto roku v USA sú prekvapivé. Napriek zaužívaným predsudkom štúdia preukázala, že generácia Z (respondenti vo veku 18 – 29) a mileniáli (medzi 30 – 44 rokov) sú najviac náchylní uveriť falošným titulkom vytvoreným pomocou AI. Výskum bol realizovaný na vzorke 1 516 obyvateľov USA.
Výskumníci pritom odkazujú na staršie štúdie z roku 2019. Tie spájali vyšší vek a nižšiu úroveň digitálnej mediálnej gramotnosti Američanov s rozširovaním falošných správ na platformách Facebook a Twitter.
Prieskum využil test citlivosti na dezinformácie (MIST), vytvorený s využitím ChatGPT. „Keď sme potrebovali súbor presvedčivých, ale nepravdivých titulkov, obrátili sme sa na technológiu GPT. Umelá inteligencia vygenerovala tisíce falošných titulkov v priebehu niekoľkých sekúnd. Ako výskumníkom, ktorí sa venujú boju proti dezinformáciám, nám to otvorilo oči a bolo to alarmujúce,“ povedal psychológ Rakoen Maertens z Cambridgeskej univerzity, ktorý je zároveň vedúcim autorom MIST.
Starší Američania dosiahli lepšie výsledky ako mladší
Spomedzi 1 516 Američanov dokázalo pravdivosť či nepravdivosť mediálnych titulkov správne identifikovať 65 % respondentov.
„Pri pohľade na tieto skupiny podľa veku sme zistili, že Američania vo veku 45 rokov a viac dosahujú lepšie výsledky ako dospelí, ktorí sú mladší ako 45 rokov. Mladší Američania dosahujú horšie výsledky ako starší Američania v schopnosti identifikovať skutočné titulky (v priemere získali 6 bodov z 10 v porovnaní s 8 bodmi u ľudí, ktorí majú 45 rokov a viac), ako aj o niečo horšie výsledky v schopnosti identifikovať falošné titulky (v priemere získali 6 bodov z 10 v porovnaní so 7 bodmi u ľudí, ktorí majú 45 rokov a viac),“ uvádza Linley Sanders, dátová novinárka z YouGov.
Američania najčastejšie nesprávne klasifikovali titulky súvisiace s nedôverou voči vláde. Východiská značne ovplyvnili to, z akých zdrojov respondenti primárne získavajú spravodajské informácie. Najhoršie skóre získali tí, ktorí svoje správy konzumujú cez sociálne siete – Snapchat, Truth Social, TikTok, Whatsapp a Instagram.
Akademici z Univerzity v Zürichu sa zaoberali podobnou problematikou. Z ich štúdie vykonanej na 697 respondentoch vyplýva, že tweety vytvorené umelou inteligenciou sú presvedčivejšie ako tie napísané človekom.
Väčšina z opýtaných pritom mala vysokoškolské vzdelanie a pochádzala z Austrálie, Kanady, USA, Spojeného kráľovstva a Írska. Výskum bol zameraný na témy, ktoré sú bežne terčom dezinformačných kampaní – Covid-19, technológia 5G, vakcíny či evolúcia.
Demokratické voľby v ohrození
V blízkej dobe budú mať schopnosti AI možnosť prejaviť sa v plnom rozsahu. Prezidentské voľby v USA, voľby do britského parlamentu či predčasné voľby na Slovensku predstavujú ideálne príležitosti na jej využitie v kampaniach domácich politikov aj na uľahčenie vplyvu „tretích strán“.
„Z hľadiska mojich obáv v súvislosti s umelou inteligenciou sú [dezinformácie] teraz na prvom mieste na zozname. Blížia sa voľby v Spojenom kráľovstve a USA, a vieme, že sociálne médiá sú neuveriteľne silným kanálom dezinformácií. Teraz však vieme, že generatívna umelá inteligencia môže dezinformácie vytvárať v obrovskom rozsahu,“ hovorí profesor Michael Wooldridge, riaditeľ výskumu AI v britskom Inštitúte Alana Turinga.
Oddeliť skutočnosť od reality sa stáva čím ďalej, tým náročnejším – či už ide o modifikovaný text, hlasové klonovanie, deepfake videá či vygenerované fotografie. Platformy sociálnych sietí však dokážu rozoznať typické znaky dezinformačných kampaní. Tými sú napríklad repetitívne správanie, veľké množstvo falošných účtov vytvorených v rovnakom čase, šírenie podozrivých hashtagov.
Darren Linvill z mediálneho forenzného centra Clemsonskej univerzity, kde skúma online informačné kampane, konštatuje: „Ak na sociálnej sieti poviete tisíckrát to isté, ľahko vás prichytia…, ale ak poviete tisíckrát to isté trochu inak, je to oveľa menej pravdepodobné.“
Využívanie umelej inteligencie k manipulácii v online priestore tak komplikuje prácu fact-checkerov či novinárov a vplýva aj na bežných používateľov sociálnych sietí.
Navrhované pravidlá EÚ o umelej inteligencii
Európska únia je na ceste k schváleniu legislatívy, ktorá bude ohraničovať používanie AI. Podľa nej by museli systémy ako ChatGPT pomáhať pri identifikácii obsahu vytvoreného umelou inteligenciou a zabezpečiť ochranu pred nezákonným obsahom.
S rapídnym rastom popularity a aktívneho využívania AI mnoho popredných svetových spoločností, odborníkov a vedcov volalo po nastolení riešení a potrebných právnych rámcov.
„Môžeme to [pozn. pravidlá pre umelú inteligenciu] urobiť a teraz je ten správny čas, aby sme sa spojili a vymysleli, ako to urobiť. Mali by sme to mať na viacerých úrovniach, aby sme túto technológiu mali vždy pod kontrolou. Myslím si, že ak to urobíme dobre, uznáme, že toto [pozn. umelá inteligencia] nie je existenčné riziko,“ vyjadril sa prezident Microsoftu Brad Smith pre spravodajskú stanicu Euronews.
Avšak, proti týmto novým predpisom sa v otvorenom liste postavilo viac ako 160 vedúcich manažérov spoločností ako Meta, Airbus či Renault. Tvrdia, že schválenie nariadenia by viedlo k poškodeniu konkurencieschopnosti a technologickej suverenity Európy.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
