Od minulého víkendu sa sociálnymi sieťami Facebook, Instagram a X (bývalý Twitter) šíri virálne video, na ktorom ukrajinský prezident Volodymyr Zelenskyj vyznamenáva neznámeho raneného vojaka. Zverejnila ho dobrovoľnícka iniciatíva In Ukraine.
Video vzbudzuje súcit s ukrajinským národom a armádou, ktorá ho obraňuje pred nespravodlivou vojnovou agresiou Ruskej federácie. Ranený vojak s barlami a prezident Zelenskyj na ňom idú do pokľaku a ukazujú čierno-zlatú plaketu.
Video je však falošné. Ide o deepfake, teda o syntetický audiovizuálny materiál vytvorený s pomocou umelej inteligencie (AI).
Vieme dokonca, ktorý nástroj autor použil. Išlo o webovú službu Hailuo AI, ktorá je viditeľne uvedená vo forme vodoznaku v pravom dolnom rohu šesťsekundového videa.
Nezmazali ho ani po upozornení
Video malo veľký dosah. Len na Facebooku si ho pozrelo dva a pol milióna používateľov z celého sveta. V súčte s ostatnými kanálmi iniciatívy sa súhrnný dosah približuje k trom miliónom.
Z reakcií pod videom je viditeľné, že v mnohých ľuďoch vzbudilo sympatie k ukrajinskej armáde i prezidentovi Zelenskému. Že ide o očividný deepfake, si nevšimli.
Našli sa však aj stovky sledujúcich, ktorí video dokázali odlíšiť od reality. Niektorí sa nechali počuť, že na ich podpore Ukrajiny to nič nemení, mnohých ďalších však zverejnenie videa podráždilo. Pýtali sa, na čo je to dobré, prípadne žiadali jeho stiahnutie.
Ani napriek mnohým upozorneniam však videá zmazané neboli. Dodnes sú dostupné na všetkých oficiálnych kanáloch iniciatívy In Ukraine.
Nemusia si pomáhať umelou inteligenciou
Nie je jasné, prečo dobrovoľníci video zverejnili. Na upozornenia nereagovali – nie je jasné, či išlo o dobre mienený úmysel alebo sa – tak ako mnohí – nechali nachytať na ľahko rozpoznateľný deepfake.
Ako sa dalo video rozpoznať? Väčšina ľudí v pozadí hľadí rovno pred seba, ignorujúc dianie v popredí. Pohyb hlavných protagonistov nevyzerá prirodzene a zdá sa, že vojakovi na moment akoby zmizne ľavé chodilo. Okrem toho mu ramená pri pokľaku prejdú skrz ramenné opierky bariel. Samozrejme, hlavným rozpoznávacím znakom však bol samotný vodoznak služby Hailuo AI. Hoci nie je veľmi známa, už v názve má všeobecne známu skratku „AI“.
„Toto video zjavne vytvorila AI. Existuje množstvo skutočných videí, ktoré vyzdvihujú prezidentovu ľudskosť a slušnosť. Ak zdieľame tie falošné, živí to trollov,“ reagoval na sieti X britský vojnový veterán ukrajinskej armády Macer Gifford.
Jeho komentár vystihuje pripomienky mnohých ďalších. Zdieľanie deepfakov – hoci v prospech Ukrajiny – totiž môže spôsobiť viac škody než úžitku a oslabovať dôveryhodnosť informácií, ktoré k nám prichádzajú z ukrajinskej strany, hoci neoficiálnymi kanálmi.
Takéto konanie môže byť nahrávkou na smeč šíriteľom proruskej vojnovej propagandy, ktorá sama pracuje s manipuláciou informácií. No v prvom rade je to – ako naznačil Gifford – úplne zbytočné.
Článok vznikol s podporou Holandského veľvyslanectva na Slovensku.
