Generatívna umelá inteligencia (AI) má potenciál negatívne ovplyvňovať predvolebné kampane. S nadchádzajúcimi voľbami vo Veľkej Británii, Spojených štátoch amerických či v kontexte volieb do Európskeho parlamentu rastú obavy, že dezinformácie a deepfake videá generované pomocou AI budú negatívne ovplyvňovať názory voličov.
Z tohtoročnej správy organizácie Freedom House o slobode na internete vyplýva, že za posledných 13 rokov každoročne klesla úroveň globálnej internetovej slobody. K medziročnému poklesu oproti minulému roku prispelo aj škodlivé používanie AI.
Tú totiž dokážu zneužívať politické strany a záujmové skupiny, a to napríklad na produkciu propagandistických či diskreditačných materiálov. Pomocou generatívnej AI dokážu vytvoriť dôveryhodne vyzerajúce videá či zvukové nahrávky, ktoré imitujú politikov, novinárov alebo aktivistov.
Deepfake videá môžu prispievať aj k spochybňovaniu relevantného obsahu
Podľa Freedom House majú dezinformátori zneužívajúci deepfake nahrávky za cieľ polarizovať spoločnosť. Ich zámerom je ale aj podnietenie nedôvery voči akémukoľvek podobnému obsahu, a to aj voči takému, ktorý nebol vytvorený AI.
Spoluautorka správy Freedom House Allie Funk pre portál MIT Technology Review povedala, že dezinformácie vytvorené AI umožňujú „politickým aktérom vytvoriť pochybnosti o dôveryhodnosti informácií“. Časté šírenie AI generovaných dezinformácií tak vytvára prostredie, v ktorom aj skutočné nahrávky a videá budú môcť byť spochybnené ako zmanipulované.
Prostredie informačného šumu, v ktorom je náročné akékoľvek informácie overiť, napomáha populistickým politikom alebo nedemokratickým režimom. V takomto priestore môžu totiž ľahko šíriť vlastné nepravdivé informácie a zároveň spochybniť tie pravdivé.
Napríklad vo Venezuele bola na začiatku tohto roka zaznamenaná kampaň s obsahom vytvoreným AI. Štátne mediálne kanály zdieľali na sociálnych sieťach video, ktoré zobrazovalo fiktívne zahraničné médium chváliace venezuelskú ekonomickú situáciu. To o stave ekonomiky klamalo obyvateľov, keďže tá sa dlhodobo zhoršuje.
Falošné nahrávky zasiahli aj do moratória na Slovensku
Generatívna AI bola použitá aj počas predvolebnej kampane na Slovensku. Pred obdobnými pokusmi o diskreditáciu politikov varoval ešte v auguste Národný bezpečnostný úrad (NBÚ).
Počas moratória anonymný účet zverejnil na sociálnej sieti Telegram deepfake video, v ktorom mal mať predseda strany Progresívne Slovensko Michal Šimečka rozhovor s novinárkou Denníka N Monikou Tódovou o plánoch na zmanipulovanie volieb.
Druhá zverejnená nahrávka zasa obsahovala umelo vygenerované vyjadrenie Šimečku o plánoch na zvýšenie dane za pivo. Obe tieto videá krátko po ich zverejnení strana označila za zmanipulované. Nahrávky sa podarilo potvrdiť ako falošné aj nezávislým overovateľom faktov z portálov AFP a Demagog.sk.
Analytici z Demagog.sk dokázali určiť pomocou identifikátora AI hlasu od americkej firmy Eleven Labs, že ide o podvrh. Zároveň oslovili viacerých expertov na AI, ktorí potvrdili, že hlas je vygenerovaný.
Dezinformátori využili medzeru v pravidlách
Aj napriek potvrdeniu o tom, že išlo o hoax, spoločnosť Meta obsah neodstránila. Namiesto toho bol týmto príspevkom znížený dosah a dostali označenie, že ide o nepravdivé informácie.
Dezinformátori tak využili medzeru v pravidlách platformy. Podľa nich sa totiž odstraňujú iba vygenerované alebo zostrihané videá, ktoré menia obsah toho, čo vystupujúca osoba povedala.
Podľa expertov je preto otázne, či sú takéto postupy voči AI dezinformáciám dostatočné. Do momentu označenia príspevku údajne zachytávajúceho rozhovor medzi ŠImečkom a Tódovu ho mali možnosť vidieť tisíce ľudí. Falošná nahrávka navyše kolovala sociálnymi sieťami aj po jej označení platformou.
V budúcnosti možno očakávať častejší výskyt používania AI v rámci politických kampaní, a to aj samotnými politickými stranami. Pred voľbami tak urobila strana Republika, ktorá na svoje sociálne siete pridala videá s hlasmi Michala Šimečku a prezidentky Zuzany Čaputovej.
V daných videách sa pritom informácia o nepravosti hlasov zobrazí až po desiatich sekundách, takže voliči, ktorí videli len úvod reklamného spotu, mohli byť ovplyvnení.
Eurokomisárka vidí slovenské a poľské voľby ako test pre sociálne siete
Eurokomisárka Věra Jourová ešte pred slovenskými voľbami žiadala spoločnosti Google, Microsoft, Meta a platformu TikTok, aby počas nadchádzajúcich volieb na Slovensku a v Poľsku pomohli zakročiť proti „zbrani hromadnej manipulácie v hodnote miliónov eur“, ktorú používa Kremeľ na zasahovanie do volieb.
„Nadchádzajúce voľby v krajinách EÚ, a voľby do Európskeho parlamentu budú dôležitým testom, v ktorom by signatári Kódexu nemali zlyhať. Platformy musia brať svoju zodpovednosť vážne, predovšetkým s ohľadom na Akt o digitálnych službách, ktorý od nich vyžaduje minimalizovanie rizík, ktoré [sociálne siete] predstavujú pre voľby,“ povedala Jourová.
Vyjadrila sa tak počas príhovoru k stretnutiu so signatármi Kódexu postupov proti šíreniu dezinformácií. Tí sa dohodli na samoregulačných normách v boji s dezinformáciami a iným problémovým obsahom. V súčasnosti je na mieste, aby technologické firmy pristúpili ku krokom, ktoré efektívne zamedzia ľahkému šíreniu obsahu vytvorenému AI.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
