Vo februári tohto roku zaregistrovali novinári z britskej BBC prípady, keď sa sociálnymi sieťami šírili deepfake fotografie prezidentského kandidáta Donalda Trumpa spolu s Afroameričanmi. Tie však neboli reálne vytvorené tímom Donalda Trumpa, ale jeho podporovateľmi, ktorí sa mu tak snažia pomôcť k úspechu v nadchádzajúcich voľbách. Predpokladajú totiž, že obrázky, na ktorých je Donald Trump s Afroameričanmi, mu pomôžu získať popularitu medzi menšinami.
Donald Trump momentálne v prieskumoch medzi Afroameričanmi zaostáva v porovnaní s jeho hlavným demokratickým protikandidátom Joe Bidenom. Dôvodom sú predovšetkým jeho vyjadrenia, ktoré sú často smerované proti menšinám a imigrantom. Podobne nepopulárny je preto aj medzi Hispáncami.
AI generované fotografie pôsobia na prvý pohľad dôveryhodne. Po bližšom prezretí sú však viditeľné bežné chyby, ktoré umelá inteligencia pri generovaní robí. Sú to napríklad chybne vytvorené prsty na rukách, neprirodzené nasvietenie či nepresné črty tváre.
Tvorca jedného z obrázkov tvrdí, že nie je problematický
Britská BBC zistila, že jeden z najzdieľanejších príspevkov vytvoril moderátor Mark Kaye z konzervarvatívnej rozhlasovej relácie the Mark Kaye Show. Na svoj facebookovom profile s viac ako miliónom sledovateľov zverejnil text, v ktorom opisoval, ako afroamerickí voliči podporujú Donalda Trumpa. K textu priložil aj obrázok, na ktorom bývalý americký prezident pózuje so skupinou Afroameričanov.
Pre BBC Kaye povedal: „Netvrdím, že je to pravdivé. Nehovorím, „aha, pozrite, Donald Trump bol na párty aj s týmito Afroamerickými voličmi. Sledujte ako ho milujú!““ Zároveň dodal, že „ak niekto volí jedným alebo druhým spôsobom kvôli jedinej fotografii, ktorú uvidel na facebookovej stránke, tak je to potom chyba toho človeka, a nie samotného príspevku“.
Podobnú fotografiu vytvoril aj iný anonymný fanúšik Donalda Trumpa. Tá na sociálnej sieti X (predtým Twitter) dosiahla viac ako 1,3 milióna interakcií. Niektorí ľudia v komentároch poukazovali na nepravosť fotografie, no väčšina používateľov, súdiac podľa ich reakcií, jej verila. Človeka, ktorý fotografiu zverejnil, sa ale BBC nepodarilo kontaktovať.
Aktivisti sa snažia na problém poukázať
Fotografie vygenerované umelou inteligenciou s Donaldom Trumpom boli šírené na sociálnych sieťach aj pred rokom. Vtedy zobrazovali, ako polícia Trumpa násilne zatýka v New Yorku. Niektoré z týchto fotografií vytvoril aj zakladateľ a kreatívny riaditeľ investigatívneho portálu Bellingcat, aby tak poukázal na problematiku falošných obrázkov vygenerovaných umelou inteligenciou.
V januári tohto roka bola zase prostredníctvom e-mailov zdieľaná nahrávka, v ktorej sa hlas podobný Joe Bidenovi prihováral voličom Demokratov, aby ho nevolili počas miestnych volieb. Tvrdil tiež, že ak tak urobia, nebudú môcť odovzdať svoj hlas počas tých federálnych. K vytvoreniu deepfake nahrávky sa prihlásil politický konzultant Steve Kramer. Snažil sa tak vzbudiť povedomie o potrebe regulácie obsahu vytvoreného umelou inteligenciou.
Meta chce začať označovať príspevky vytvorené umelou inteligenciou
Na rastúci počet fotografií vytvorených umelou inteligenciou reagovala spoločnosť Meta, ktorá chce v spolupráci s vývojármi aplikácií na generovanie obrázkov implementovať systém na označovanie takýchto príspevkov. Cieľom je tak pomôcť s identifikáciou falošného obsahu aj pred nadchádzajúcimi americkými voľbami.
„Ľudia sa u nás častokrát stretávajú s AI generovaným obsahom po prvý raz a hovoria nám, že by ocenili transparentnosť s touto novou technológiou. Preto je dôležité, aby sme ľuďom pomohli zistiť, že fotorealistický obsah, ktorý vidia, bol vytvorený pomocou AI,“ povedal prezident spoločnosti Meta pre globálne záležitosti Nick Clegg.
Podobne aj napríklad platforma TikTok začala od tvorcov vyžadovať, aby označovali videá, ktoré boli vygenerované pomocou umelej inteligencie. V opačnom prípade môžu byť ich príspevky odstránené.
Obsah vytvorený AI je problematický predovšetkým preto, že môže zavádzať používateľov, keďže dnešná umelá inteligencia vie vygenerovať obsah na nerozoznanie od skutočných videí či fotografií. Škodlivé sú predovšetkým deepfake obrázky, videá a nahrávky, ktoré sa v politickom boji používajú na diskreditovanie politikov a verejne činné osoby.
Dezinformácie generované umelou inteligenciou sú podľa Financial Times jednou z hlavných hrozieb pre blízku budúcnosť. Denník upozorňuje, že realistické deepfake videá a fotografie už zasiahli do konfliktu medzi Izraelom a Hamasom, ako aj do vojny na Ukrajine. Panujú okrem toho všeobecné obavy z toho, aký veľký vplyv bude mať obsah vygenerovaný umelou inteligenciou na voľby.
AI dezinformácie zasiahli aj do slovenských minuloročných parlamentných volieb, keď sa na internete šírili falošné nahrávky s predsedom Progresívneho Slovenska Michalom Šimečkom. Tie počas moratória videli státisíce ľudí.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
