Deepfake obsah je na vzostupe a je čoraz sofistikovanejší. Nemusí sa šíriť len v priestore sociálnych médií a zraniteľnou je v podstate každá sféra spoločnosti. Nástroje pre jeho vytváranie sú relatívne ľahko dostupné každému – otázkou je len to, kto možnosti generatívnej umelej inteligencie (AI) využije.
Vzhľadom na rastúcu kvalitu a dostupnosť deepfake obsahu sa stáva rozoznanie reality od fikcie čoraz náročnejším. Najväčšie nebezpečenstvo predstavuje schopnosť šíriť falošné informácie, ktoré sa tvária, že pochádzajú z dôveryhodných zdrojov. V hre je okrem iného aj ohrozenie demokratických procesov a integrity volieb.
Šírenie dezinformácií a manipulatívneho obsahu prinieslo v posledných rokoch nezdravú polarizáciu spoločnosti, viedlo k oslabeniu dôvery voči inštitúciám a médiám, stálo za nárastom toxicity v informačnom priestore. Zároveň pevne potvrdilo svoju pozíciu efektívneho nástroja politikov pre mobilizáciu voličov. Deepfake obsah posúva tento boj o srdcia a mysle ľudí na novú úroveň.
Na závažnosť problému poukázal v súvislosti s konaním parlamentných volieb v roku 2023 aj Národný bezpečnostný úrad (NBÚ). Varovanie úradu sa napokon potvrdilo, v závere predvolebného obdobia sme sa stretli s viacerými pokusmi o ovplyvnenie verejnej mienky prostredníctvom deepfake obsahu.
Vyfabrikovaný rozhovor predsedu Progresívneho Slovenska Michala Šimečku a novinárky Denníka N Moniky Tódovej však určite nebude posledným výplodom umelej inteligencie, ktorý by sa v slovenskom priestore snažil o manipuláciu spoločnosti. Predsa len sa blížia voľby do Európskeho parlamentu a voľby prezidenta.
Čo je to deepfake obsah?
Vo svojej podstate možno deepfake obsah predstaviť ako zavádzajúci a neautentický obsah, ktorý môže mať zvukovú a vizuálnu podobu. Prípadne ide o ich spojenie vo forme videí, ktorých hrozba v súčasnosti rezonuje najviac. Hoci vytváranie falošného obsahu nie je vôbec novinkou, deepfakes využívajú techniky strojového učenia a umelej inteligencie na syntetizáciu alebo generovanie obsahu, ktorý dokáže publikum oklamať efektívnejšie.
Slovo „deep“ pochádza z pojmu „deep learning“, ktorý predstavuje metódu trénovania počítačov a umelej inteligencie na obrovskom množstve údajov, aby dokázali vykonávať úlohy podobné tým ľudským. „Fake“ znamená, že ide o umelo vytvorené a ťažko odlíšiteľné médiá od tých, ktoré vytvoril človek.
V jednoduchosti, deepfake videá navonok napodobňujú výzor a hlas osoby, ktorá tak sprostredkúva falošnú informáciu či posolstvo vytvorené útočníkom. Najbežnejšie použitie tejto technológie zahŕňa nahradenie tváre a hlasu osoby vo videu tvárou a hlasom niekoho iného. To sa dá použiť na vytvorenie presvedčivých videí, ktoré vytvárajú dojem, že osoba hovorí alebo robí niečo, čo v skutočnosti nikdy nepovedala, resp. nerobila.
Vytváranie deepfake videí je ľahké predovšetkým v prípade verejne známych osôb. Dôvodom je to, že pre ich vytvorenie je potrebné mať banku vizuálnych (fotky, videá a podobne) alebo zvukových dát (napr. zvukové nahrávky), s ktorými AI následne pracuje.
Buď sa sústredí na syntetizáciu rôznych obsahov (manipulácia ich kombináciou a zosúladením), alebo sa prostredníctvom neurónových sietí natrénuje pre generovanie úplne nového neautentického obsahu. Tento proces zahŕňa zdokonaľovanie sa AI v napodobňovaní nielen vzorov reči a intonácií, ale aj podoby, charakteristík a mimiky konkrétnych osôb.
Pri vytváraní a zdokonaľovaní deepfake obsahu sa používajú predovšetkým dva algoritmy – generátor a diskriminátor. Generátor vytvára súbor trénovaných údajov na základe požadovaného výstupu, čím vytvára počiatočný falošný digitálny obsah. Diskriminátor analyzuje, nakoľko je počiatočná verzia obsahu realistická alebo falošná. Tento proces sa opakuje, vďaka čomu sa generátor zlepšuje vo vytváraní realistického obsahu a diskriminátor sa stáva zručnejším v odhaľovaní chýb.
Využitie a hrozba deepfake technológií
Oblasti, v ktorých sa deepfake technológia dá využiť, sa rôznia podobne ako motivácie tvorcov. Kľúčovým však je buď sledovanie finančného zisku alebo napĺňanie politických záujmov. Sem spadajú aj hybridné hrozby, v rámci ktorých sa deepfake obsah postupne stáva súčasťou propagandy alebo ďalšieho hybridného pôsobenia iných štátov s účelom uškodiť cieľu. Aktér môže v takomto prípade ohroziť dôveru v demokraciu či tradičné médiá, polarizovať spoločnosť, ovplyvniť voľby, prípadne spochybňovať zahraničnopolitickú orientáciu daného štátu.
Deepfake obsah veľmi úzko súvisí aj s otázkami narúšania súkromia, kyberšikany či obťažovania. Zároveň ide o dokonalý nástroj pre podvodníkov, ktorí môžu prostredníctvom vygenerovaných klonov dôveryhodných osôb (napr. priatelia či rodina) žiadať zaslanie peňazí. Neautentický zvuk jednoducho využijú počas telefonátu s nič netušiacou obeťou.
Niektoré webové stránky umožňujú zákazníkom zakúpiť si deepfake pornografiu s osobami, ktoré si zákazníci vyberú sami. V iných prípadoch zločinci spájajú verejne dostupné fotografie nič netušiacich ľudí, celebrít alebo dokonca neplnoletých osôb s pornografickými obrázkami a videami, a používajú ich na vydieranie alebo pomstu.
Ako sa brániť a čo si všímať?
Dnes vo všeobecnosti platí, že v online priestore by sme mali byť čo najviac ostražití ohľadom našej dôvery v zdroje a informácie, ktoré prijímame. Kvalita a možnosti deepfake obsahu rastú a v niektorých prípadoch sa bez špecializovaného softvéru stáva nerozlíšiteľným od reality. Napriek tomu existuje niekoľko kľúčových odporúčaní, ktoré môžu pomôcť pri jeho identifikovaní.
V snahe o rozlíšenie deepfake obsahu by sme sa mali sústrediť nielen na audiovizuálnu zložku, ktorú počujeme a vidíme, ale aj na samotný obsah a kontext. Motiváciou tvorcov deepfake videí je často vyvolať emócie, strach, neistotu alebo pobúrenie. Už len samotné škandalózne, ťažko uveriteľné alebo neočakávané vyhlásenia môžu nasvedčovať, že ide o deepfake. Špeciálne tomu tak je v kritických momentoch demokratických procesov či v období krízy.
Čo sa týka audiovizuálnej stránky, vo všeobecnosti odborníci odporúčajú všímať si najmä zvláštne alebo nepravidelné pohyby tváre, a to predovšetkým v oblasti očí a úst. Venujte preto pozornosť neprirodzeným výrazom tváre, žmurkaniu alebo pohybom pier. Varovným signálom sú aj nezrovnalosti v črtách tváre či tela – ich neprirodzená poloha, nepomer veľkosti hlavy k telu, nezvyčajný farebný odtieň pokožky, nesúlad sfarbenia tváre a tela osoby.
Nezrovnalosti sa môžu objaviť aj vo vzoroch reči, tóne a výslovnosti. Deepfakes nemusia presne kopírovať pôvodný hlas, čo môže viesť k tomu, že na videu ostanú tzv. zvukové pozostatky, napríklad robotický hlas. Problémom môže byť aj synchronizácia zvuku a videa. Medzi najbežnejšie chyby patrí práve nesúlad medzi rečou a pohybmi pier osoby alebo osôb vo videu.
Dôležité si je všímať aj vizuálnu stránku jednotlivých snímok videa. Môžeme nájsť najmä rozmazanie či skreslenia okolo tváre alebo iných objektov. Netreba zabúdať ani na pozadie videa, v ktorom sa môžu objaviť viaceré anomálie – napríklad vznášajúce sa predmety, neprirodzené osvetlenie či nezvyčajné tiene.
Ak sa subjekt (napríklad politik) objavuje v prostredí, ktoré nie je typické pre jeho obvyklý kontext, môže to byť znakom manipulácie. Zároveň platí staré dobré overenie zdroja. Ak je nespoľahlivý či nedôveryhodný, je vyššia pravdepodobnosť, že obsah, ktorý ponúka, je deepfake.
Článok vznikol s podporou NATO. Za obsah sú výhradne zodpovední jeho autori.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
