Podľa agentúry Reuters narastajú obavy o integritu amerických prezidentských volieb v roku 2024. Pomocou umelej inteligencie (AI) je totiž možné vytvoriť aj falošné videá, ktoré môžu byť využité práve na politické účely.
Príkladom môže byť známe video Hillary Clintonovej, bývalej nominantky Demokratickej strany na prezidentské voľby v roku 2016. Tá mala podľa zmanipulovaného videa vyjadriť podporu republikánskemu kandidátovi Ronovi DeSantisovi: „V skutočnosti mám Rona DeSantisa veľmi rada. Je to presne ten typ chlapa, ktorý táto krajina potrebuje, a to myslím naozaj.“
V apríli tohto roka bola tiež zverejnená politická kampaň Republikánskeho národného výboru generovaná AI. Republikánsky národný výbor je politický orgán, ktorý vedie Republikánsku stranu v USA.
V reklamnej kampani sa využívali falošné obrázky naznačujúce dystopický scenár, ktorý by údajne nastal v prípade, že by bol vo voľbách opäť zvolený Joe Biden. Reklama naznačovala napríklad útok Číny na Taiwan alebo zvýšenú kriminalitu v San Franciscu.
AI vytvára novú falošnú realitu
Využívaním AI je možné jednoduchým spôsobom vytvárať presvedčivé deepfake videá či iný zmanipulovaný alebo úplne vymyslený obsah, následne zdieľaný na sociálnych sieťach. Rozpoznávanie skutočných a falošných videí je pritom pre ľudí čoraz náročnejšie.
Zmanipulované videá či obrázky tohto typu majú potenciál ovplyvňovať s mienkou voličov. Pomocou AI by tak mohla vznikať aj viac či menej sofistikovaná politická propaganda smerovaná na voliča s cieľom dosiahnuť víťazstvo vo voľbách. Politickí aktéri by zároveň mohli využívať túto technológiu na diskreditáciu svojich oponentov.
Okrem toho, časté šírenie deepfake videí, ktoré napomáhajú miešaniu faktov a fikcie, môže prispieť k prehlbovaniu polarizácie spoločnosti. Úspešnosti manipulácie napomáha skutočnosť, že deepfake obsah je v mnohých prípadoch veľmi realistický.
Regulácia politického obsahu generovaného AI je zatiaľ nedostatočná
Sociálne siete ako Facebook, Twitter a YouTube sú už dnes zaplavené deepfake videami. 2. júna pritom YouTube oznámil, že tento typ obsahu prestane odstraňovať. Zástupcovia platformy v blogovom príspevku uviedli: „V súčasnom prostredí sme zistili, že aj keď odstránenie tohto obsahu obmedzuje niektoré dezinformácie, mohlo by to mať aj neúmyselný účinok obmedzenia politických prejavov.“
Podľa odhadov sa počet takýchto materiálov na sociálnych sieťach neustále zvyšuje a očakáva sa, že v roku 2023 sa môže na nich nachádzať približne 500-tisíc deepfake videí.
Niektoré spoločnosti, ako napríklad líder v odvetví AI OpenAI, ktorý vyvinul systém ChatGPT, obmedzujú používanie svojich generatívnych AI služieb v politickom kontexte. OpenAI napríklad neumožňuje svojmu generátoru obrázkov DALL-E vytvárať snímky s verejne známymi osobnosťami.
Niektoré menšie startupy však nemajú žiadne výslovné obmedzenia na politický obsah a používateľom umožňujú používať ich produkty aj v politickom kontexte.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
