Generatívna umelá inteligencia (AI) umožňuje šíriteľom dezinformácií tieto materiály produkovať rýchlejšie a ľahšie ako kedykoľvek predtým. V snahe úmyselne zavádzať je často používaný aj takzvaný deepfake obsah, ktorý zahŕňa falošné hlasové nahrávky, fotografie či videá. Táto technológia zasiahla aj do predčasných parlamentných volieb 2023 na Slovensku.
Jej použitia a dôsledkov na integritu prezidentských volieb v roku 2024 sa obávajú aj v Spojených štátoch amerických. V štáte Arizona sa na možnosť využitia generatívnej AI na politické účely pripravujú simuláciami.
Demokracia v ohrození
Dezinformáciami nasýtené americké prezidentské voľby v roku 2020 a ich pravdepodobný výskyt v tých nadchádzajúcich robia starosti politikom a odborníkom v celej krajine.
Počas minulých volieb bola jednou z najznámejších konšpiračná teória „SharpieGate“, podľa ktorej volebné komisie v Arizone dávali voličom Republikánskej strany fixky namiesto pier. Ich použitie malo údajne zneplatniť hlas, ktorý volič Republikánskej strany odovzdal v prezidentských voľbách Donaldovi Trumpovi. Tento falošný naratív bol lokálnymi fact-checkermi a volebnými úradníkmi vyvrátený.
V roku 2020 falošné tvrdenia o „ukradnutých voľbách“ vyvolali v USA protesty. Tvrdenia o údajných podvodoch počas volieb šíril vo svojich prejavoch a na sociálnej sieti X (predtým Twitter) samotný Donald Trump.
Jeden z protestov proti výsledkom volieb sa odohral tiež pred volebným centrom okresu Maricopa v Arizone a zúčastnil sa ho aj známy konšpirátor Alex Jones. Jones dlhodobo šíri konšpiračné teórie týkajúce sa napríklad teroristických útokov z 11. septembra 2001 či strelieb v školách. Teroristický útok na Svetové obchodné centrum bol podľa neho zosnovaný v USA, streľby na školách považuje za „hoaxy“ a rodiny ich obetí za „platených hercov“.
Jones je jedným z hlavných propagátorov „Pizzagate“ hoaxu a jeho účty boli zablokované na niekoľkých platformách. Konšpiračná teória Pizzagate vykresľuje niekdajšiu kandidátku na prezidentku Hillary Clintonovú ako šéfku pedofilnej skupiny, ktorá sa mala schádzať v pizzérii vo Washingtone.
Azda najznámejším dôsledkom volebných dezinformácií v USA je útok na washingtonský Kapitol, v ktorom zasadá Kongres USA. Dňa 6. januára 2020 zaútočili podporovatelia Trumpa na budovu Kapitolu s cieľom zvrátiť výsledok volieb. Na základe mýtu o „ukradnutých voľbách“ totiž verili, že voľby mal právoplatne vyhrať Donald Trump, a Joe Biden sa prezidentom stal podvodom.
Na základe klamlivých informácií sa podporovatelia bývalého amerického prezidenta Trumpa pokúsili zvrátiť výsledok volebného procesu. Ten je jedným z pilierov demokratického politického systému. Aj z toho dôvodu predstavujú dezinformácie serióznu hrozbu pre demokraciu.
Arizona chce byť pripravená
Dezinformácie podkopávajú demokraciu aj narúšaním dôvery v inštitúcie, a tak bránia ľuďom robiť informované rozhodnutia. Po skúsenosti so „SharpieGate“ si to uvedomujú aj poprední politici v štáte Arizona.
V snahe predísť tomu, aby nasledujúce prezidentské voľby sprevádzali AI generované volebné hoaxy, zorganizoval štát sériu cvičení s cieľom pripraviť sa na možné hrozby. Štátny tajomník Adrian Fontes sa rozhodol pre zavedenie novinky do simulácií volebného procesu: deepfake obsah.
Na dvojdňovej simulácii sa zúčastnilo približne 200 zainteresovaných osôb a tiež niekoľko členov federálnej vlády. Účastníci boli vystavení dezinformáciám, a to v podobe deepfake audio a video súborov. Vo videách a nahrávkach bol zachytený štátny tajomník Fontes a niekoľko úradníkov, ktorí šírili nepravdy.
Cieľom cvičenia v Arizone bolo pripraviť sa na veľmi pravdepodobnú možnosť, že deepfake obsah bude v nadchádzajúcich amerických prezidentských voľbách v roku 2024 použitý na politické účely. Fontes sa pre portál POLITICO vyjadril, že AI generovaný obsah zneužíva kontextové indície, na ktoré sa ľudia spoliehajú pri rozhodovaní o relevancii informácií, napríklad hlas či tvár politika, ktorému dôverujú.
Ľudia totiž nie sú schopní efektívne rozoznať deepfake od skutočného videa či audia. Deepfake obsah je stále sofistikovanejší a pôsobí čoraz hodnovernejšie. To sťažuje identifikáciu falošného obsahu. Vo väčšine prípadov ľudia navyše zvyknú preceňovať svoju schopnosť rozoznať čo je skutočné a čo deepfake. Posilnenie schopnosti rozlíšiť medzi podvrhom a skutočnosťou bolo cieľom arizonského cvičenia.
Arizonská iniciatíva bola ocenená aj hlavnou poradkyňou riaditeľa americkej Agentúry pre kybernetickú bezpečnosť a bezpečnosť infraštruktúry Cait Conleyovou. Podľa nej ide o jeden z najlepších spôsobov ako pripraviť štáty na nadchádzajúce voľby. Podľa informácií POLITICO plánuje podobné cvičenie aj štát Michigan. Ten je tiež jedným z prvých amerických štátov, ktoré budú legislatívne regulovať AI generované politické reklamy v období volieb.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
