V sobotu 11. januára sa slovenským Facebookom začalo virálne šíriť video s Volodymyrom Zelenským. Ukrajinský prezident sa na ňom snaží v sprievode ochrankára a v zjavne indisponovanom stave vystúpiť z čiernej limuzíny.
Video však bolo falošné, išlo o ľahko identifikovateľný výtvor umelej inteligencie. Napriek tomu video dosiahlo len za dva dni zhruba 11-tisíc zdieľaní a videlo ho 2,3 milióna používateľov sociálnej siete.
Nie je to prvý raz, čo sa ruská vojnová propaganda snaží zdiskreditovať Zelenského a nie je to ani prvý raz, čo bola na tento účel zneužitá technológia takzvanej generatívnej umelej inteligencie schopnej vytvárať fotorealistické zábery udalostí, ktoré sa nikdy neodohrali.
Prípad virálneho videa potvrdzuje obavy zo zneužívania umelej inteligencie pre účely osobnej diskreditácie. Zároveň demonštruje, že obávať sa nemusíme len takmer bezchybných výtvorov AI, aké očakávame v blízkej budúcnosti, ale aj súčasne dostupnej technológie. Tá často generuje vizuály s ľahko identifikovateľnými nezrovnalosťami, ktorých bolo plné aj popisované video. Napriek tomu jeho obsahu nekriticky uverila masa ľudí.
Priehrštie indícií
Video zverejnila anonymná facebooková stránka Desolat. Obsahom sa radí na dezinformačnú scénu, venuje sa politickej satire namierenej voči súčasnej opozícii a má 14-tisíc sledovateľov.
Fiktívny Volodymyr Zelenskyj mal na videu zvláštne črty tváre a tvar rúk. V jeden moment si sadá naspäť do limuzíny, pričom jeho hlava prejde skrz strechu vozidla. Následne sa za pomoci ochrankára potáca smerom od auta.
Výtvor AI obsahuje viacero ďalších očividných chýb, ktoré dokáže identifikovať aj bežný laik bez znalosti schopností umelej inteligencie:
- Zelenskému začne preblikovať pravá ruka na moment mu zmizne celá dlaň,
- zvláštne sa správajú aj ruky ochrankára, ako aj jeho účes,
- spodná časť dverí limuzíny sa zavrie skôr ako vrchná (počas zatvárania ich predeľuje postava Zelenského),
- ochrankárove hodiny sa správajú, akoby boli z gumy.
Na videu sa nachádzajú aj ďalšie drobné fragmenty, na základe ktorých pozorný divák dokáže identifikovať, že s obsahom niečo nie je v poriadku, a preto by mal pri posudzovaní jeho autenticity spozornieť.
Práve nepozornosť a nekritické akceptovanie prezentovaných vizuálov, kombinovaná s ich kontroverznosťou, mohli zohrať úlohu v tom, že video v krátkom čase získalo obrovskú popularitu.
Pôvod videa je známy, manipuláciu priznal
O fakte, že nejde o skutočné zábery, nie je pochýb. Ich autorom je tiktokový účet @hapak_vasul, ktorý vznikol pred necelými piatimi mesiacmi.
Prvé falošné video s Volodymyrom Zelenským zverejnil až koncom novembra, odkedy začal pravidelne zverejňovať ďalšie zábery vytvorené umelou inteligenciou. Väčšina z nich sa venuje práve ukrajinským prezidentom a prvou dámou Olenou Zelenskou.
Zábery, ktoré sa šírili slovenským Facebookom, vznikli spojením dvoch zo série troch krátkych videí Zelenského a limuzíny. Tretie video, ktoré stránka Desolat vynechala a ktoré bolo z trojice najmenej kvalitné, účet @hapak_vasul zverejnil pravdepodobne až po zverejnení zostrihu stránky Desolat.
Tiktokový účet pri všetkých videách uvádza, že vznikli s pomocou umelej inteligencie. Anonymná FB stránka však túto informáciu vynechala a v kombinácii so sprievodným popisom „silný matroš to musel byť“ manipulatívne navodzovala dojem, že ide o autentické zábery.
Tým zároveň porušila pravidlá sociálnej siete. Facebook totiž od používateľov vyžaduje, aby fotorealistický obsah vytvorený umelou inteligenciou označili špeciálnym štítkom. Aktivovať ho treba pri vytváraní príspevku a divákom slúži ako indikátor toho, že nemusí ísť o autentický obsah.
Alternatívou je upozornenie priamo v popisu videa, ani jedna z týchto podmienok však nebola splnená, čo prispelo k tomu, aby diváci považovali vyobrazenú situáciu za skutočnú.
Útočia aj na prvú dámu
Naratív, že Volodymyr Zelenskyj užíva drogy alebo s nimi dokonca obchoduje, je dlhodobo súčasťou ruskej vojnovej propagandy. Jej cieľom je zdiskreditovať ukrajinského prezidenta ako lídra krajiny, rozdeľovať ukrajinskú spoločnosť a oslabovať mieru solidarity voči Ukrajine.
Obvinenia z užívania drog sa objavovali už od roku 2019, keď Zelenský bojoval v prezidentskej kampani. Zaujímavosťou je, že v rámci nej skutočne podstúpil aj test na prítomnosť drog – s negatívnym výsledkom.
Rusko sa súbežne snaží diskreditovať aj Olenu Zelenskú. Častým naratívom v prípade ukrajinskej prvej dámy je obchod s deťmi a ich zneužívanie. Konkrétne ich odcudzenie ukrajinským rodičom a predaj pedofilom do Nemecka, Francúzska či na Britské ostrovy.
Práve tento naratív sa na slovenskom Facebooku šíril aj cez nedávne vianočné sviatky. A hoci bol hoax vyvrátený ešte na jeseň 2023, keď sa objavil v zahraničí, na Slovensku ho s odstupom času zdieľalo viac ako 1 300 ľudí.
Falošné tvrdenia sa pôvodne šírili v podobe vyfabrikovanej investigatívy cez falošné médiá, vymyslené identity novinárov a údajných svedkov.
Šíritelia podobných dezinformácií umelú inteligenciu nevyužívajú len na výrobu deepfake videí, ale napríklad aj na tvorbu fotografií a sprievodných ilustračných vizuálov. Tie následne napomáhajú k šíreniu falošných správ prostredníctvom komunikačných kanálov na sociálnych sieťach.
Zasiahli fact-checkeri, autor reagoval
Manipulatívne video s falošným Zelenským nakoniec z Facebooku zmizlo. „Ku videu sme pridali označenie, že je pozmenené – toto označenie zahŕňa aj prípad, keď je príspevok vytvorený AI – a článok, v ktorom to bližšie vysvetľujeme,“ uviedla pre Infosecurity.sk senior analytička Veronika Hincová Frankovská z fact-checkingového projektu Demagóg.sk, ktorý spolupracuje so spoločnosťou Meta, prevádzkovateľom Facebooku.
Hincová Frankovská dodala, že video zmizlo už po pár minútach od značenia. Pravdepodobne ho zmazal samotný autor, ktorý bol na tento fakt systémom Mety automaticky upozornený.
„My nemáme právo ani technickú možnosť príspevky či účty vymazať,“ pripomína Hincová Frankovská a dodáva, že aj zamestnanci Mety mazali obsah z dôvodu šírenia dezinformácií len v sporadických prípadoch: „Napríklad zmazali niektoré príspevky s AI audio nahrávkou Michala Šimečku a Moniky Tódovej pred voľbami (v septembri 2023, pozn. red.), ani vtedy však nebolo transparentné, ktoré príspevky Meta maže a na základe čoho.“
Napriek tomu je pomerne bežné, že v reakcii na označenie obsahu ho zmaže samotný autor. V niektorých prípadoch ide o formu priznania si omylu, inokedy je to snaha zakryť prešľap alebo vedomé klamstvo.
Autor zavádzajúceho obsahu jeho zmazaním dosiahne zároveň to, že článok s doplňujúcim kontextom a overenými faktami sa nedostane k ďalším ľuďom.
Hoci Mark Zuckerberg aktuálne spojil tému overovania faktov s cenzúrou, používatelia majú možnosť, ako situáciu, keď ich obsah označia novinári za klamlivý, vyriešiť. Najľahšou cestou je upraviť príspevok tak, aby viac nešíril predmetnú dezinformáciu. Sieť vie následne status prehodnotiť a označenie odobrať.
Alternatívou je odvolať sa voči rozhodnutiu. Malo by dôjsť k opätovnému preskúmaniu toho, či bol daný príspevok zavádzajúci. Treba však dodať, že tieto procesy v prípade Mety nefungujú úplne spoľahlivo, a preto dochádza aj k prípadom, keď je chybne označený aj bezproblémový obsah (zvyčajne ide o problém v „párovaní“ debunkovaných tém a príspevkov, ktoré daný hoax šíria). Spravidla však ide o problém samotnej sociálnej siete a nie fact-checkerov.
Fact-checking vs. umelá inteligencia
Falošné video s prezidentom Zelenským je ďalšou prípadovou štúdiou, ktorá potvrdzuje význam overovania správ na sociálnych sieťach v boji proti dezinformáciám a zneužívaniu generatívnej umelej inteligencie.
Budúcnosť fact-checkingu na veľkých digitálnych platformách je však po Zuckerbergovom bezprecedentnom kroku otázna.
„Preto budeme sledovať, ako dôsledne bude Európska komisia vymáhať dodržiavanie Aktu o digitálnych službách (DSA), ktorého súčasťou je aj záväzok sociálnych sietí moderovať obsah a zabrániť šíreniu dezinformácií a zasahovaniu do volieb. Podľa vyjadrení Trumpovej administratívy, Muska aj Zuckerberga to však vyzerá, že sa budú snažiť voči regulácii EÚ brániť a vyjednávať o nej v širšom kontexte spolupráce medzi USA a EÚ,“ popisuje Hincová Frankovská.
Odborníčka zároveň poukazuje na dôležitosť pevnosti postoja Komisie a európskych lídrov, že sloboda a rovnosť prejavu, ako aj presnosť informácií na sociálnych sieťach sú kľúčové pre demokraciu: „Dodržiavanie DSA a sprísňovanie kontroly sociálnych sietí môže zabrániť intervenciám, aké sa diali na sieti X v Turecku a o akých výskumníci písali aj v prípade volieb v USA.“
Článok vznikol s podporou Holandského veľvyslanectva na Slovensku.
