Francúzska krajná pravica využívala pred druhým kolom parlamentných volieb nástroje generatívnej umelej inteligencie. Na sociálnych sieťach šírili politici zo strán ako Národné zhromaždenie (Rassemblement national) a Reconquest (Reconquête) AI generovaný obsah, ktorý klamlivo zobrazoval migráciu či témy spojené s Európskou úniou.
Vyplýva to z výskumu neziskovej organizácie AI Forensics. Tá preskúmala stránky 31 francúzskych politických strán na sociálnych sieťach Facebook, Instagram, X, TikTok, YouTube a LinkedIn. Cieľom bolo zistiť, či sa na nich v období od 1. mája do 28. júna 2024, teda počas volieb do Európskeho parlamentu a prvého kola francúzskych parlamentných volieb, nachádzal obsah vytvorený generatívnou AI.
Najčastejšie sa tieto obsahy objavovali v príspevkoch pravicovej politickej strany Národné zhromaždenie, ktorá po prvom kole viedla v prieskumoch verejnej mienky, ako aj menších nacionalistických strán Reconquest a Patrioti (Les Patriotes). Celkovo bolo identifikovaných 51 prípadov obrázkov vygenerovaných umelou inteligenciou.
Krajná pravica využívala strašenie aj útoky na oponentov
Skúmané príspevky publikované na sociálnych sieťach obsahovali najmä AI generované obrázky démonizujúce moslimov, zobrazujúce migrantov, ktorí pristávajú na francúzskej pôde, ale aj materiály útočiace na francúzskeho prezidenta Emmanuela Macrona či šéfku Európskej komisie Ursulu von der Leyenovú.
Podľa správy AI Forensics väčšina obrázkov „vyjadruje posolstvá o protiimigračnom postoji, nedostatočnej bezpečnosti vo Francúzsku, nedostatočnej slobode prejavu, chybnom súdnom systéme a slabej ochrane poľnohospodárstva“. Cieľom ich distribúcie teda bola hlavne snaha polarizovať spoločnosť v týchto témach a tvoriť falošný obraz o tom, že jedine krajne pravicové strany môžu upadajúci štát zachrániť.
Výskumníčka AI Forensics Miazia Schülerová tvrdí, že takéto obrázky sa používajú „ako technika vyvolávania strachu s cieľom povedať, že Francúzsko nie je v EÚ bezpečné a že sa veľmi priživuje na zraniteľných ľuďoch v našej spoločnosti“.
V prípade Národného zhromaždenia pritom nejde o novú taktiku. Strana používala AI generované obrázky už počas kampane do eurovolieb. V danom čase vytvorila webovú stránku s názvom „Európa bez nich“ zameranú najmä na antikampaň proti Macronovi a von der Leyenovej.
Podľa správy výskumnej organizácie Digital Forensic Research Lab (DFRLab) sa na stránke, ktorá je naďalej v prevádzke, nachádzajú najmenej tri obrázky vytvorené umelou inteligenciou. Tie zobrazujú petície proti „pohŕdaniu národmi zo strany EÚ, masívnej imigrácii a propagácii hidžábu“.
Na tvorbu falošných obrázkov použili Midjourney
Národné zhromaždenie aj Reconquest priznali, že vo veľkom rozsahu používajú obrazové a video materiály vytvorené prostredníctvom umelej inteligencie. „Používame najmä Midjourney. Niektorí hovoria, že generované obrázky sú neautentické, ale je obrázok autentickejší?“ vyjadril sa Samuel LaFont, ktorý má na starosti digitálnu komunikáciu Reconquestu.
Midjourney je softvér umelej inteligencie, ktorý dokáže ľahko vytvoriť skutočne realistické obrázky. Francúzske krajne pravicové strany sa pri jeho používaní odvolávajú na inovácie a kreatívne postupy v kampani, zatiaľ čo otázku etiky pri zverejňovaní klamlivých obrázkov úplne prehliadajú.
Používanie AI nástrojov sa pritom môže dotýkať aj finančnej stránky kampane. Menšie politické strany, ktoré nemajú dostatok financií na veľkú kampaň, a zároveň používajú nekonvenčné postupy, aby sa dostali do povedomia verejnosti, totiž môžu preferovať tvorbu AI obsahu ako lacnejšiu, ale aj efektívnejšiu cestu k získavaniu vizuálnych materiálov.
Aurélien Lopez-Liguori, člen Národného zhromaždenia, povedal: „Keď si porovnáte cenu predplatného Shutterstock [za stockové obrázky] a predplatného Midjourney, Shutterstock sa stáva irelevantným.“ Táto optika je úmyselne zúžená, keďže je možné využívať rôzne bezplatné fotobanky, prípadne zaplatiť menšie sumy za samotné obrázky. Každopádne je však evidentné, že AI nástroje poskytujú politickým stranám rýchlejšiu možnosť tvorby obsahu, ktorá je pre ne šitá na mieru – môže zobraziť realitu tak, ako si to vyžaduje kampaň.
Sociálne platformy falošný obsah neoznačili
Ďalším rozmerom problému je skutočnosť, že sociálne siete stále nedokážu dostatočne rozpoznávať AI generovaný obsah a v mnohých prípadoch ho v praxi neoznačujú. Používanie takéhoto obsahu nie je ilegálne, stojí však na hranici etickosti, najmä pokiaľ ide o materiály použité na podporu argumentov v politickej kampani. Obrázky či videá by mali byť jasne označované ako obsah vytvorený nástrojom AI, v opačnom prípade môžu skresľovať a manipulovať diskusiu o dôležitých témach.
Platformy Meta a X majú existujúce politiky týkajúce sa označovania takzvaného syntetického obsahu. Napriek tomu, žiadny z obsahov vytvorených umelou inteligenciou nebol korektne označený. Zaujímavé tiež je, že obe spoločnosti sú signatármi takzvaných AI Election Accords, teda dobrovoľného záväzku informovať voličov, keď sa im zobrazuje stranícky materiál generovaný umelou inteligenciou.
Zistenia neziskovej organizácie AI Forensics tak odhaľujú slabé miesta nielen v definovaní toho, čo je v politickej kampani dovolené a vhodné, ale aj v dodržiavaní záväzkov platforiem v označovaní takéhoto obsahu a zvyšovaní transparentnosti.
Vo februári 2024 pritom veľké technologické spoločnosti ako Google, OpenAI, Meta a TikTok podpísali dohodu, ktorá sa zameriava práve na klamlivý volebný obsah vytvorený umelou inteligenciou pred voľbami do Európskeho parlamentu. Dohoda stanovuje, že platformy budú „identifikovať realistické obrázky vytvorené umelou inteligenciou a/alebo osvedčovať pravosť obsahu a jeho pôvod“.
Okrem toho, niektoré politické strany podpísali vlastnú verziu tejto dohody s Európskou komisiou. V nej sa okrem iného uvádza, že signatári sa „zaväzujú predchádzať úmyselnému klamaniu verejnosti, a to aj prostredníctvom používania umelej inteligencie“. Zaujímavé je, že pod znením dohody sa ako jeden zo signatárov nachádzala aj skupina Európskeho parlamentu Identita a demokracia (ID), ktorej členom bolo v danom čase aj francúzske krajne pravicové Národné zhromaždenie.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
