Prvú polovicu supervolebného roku 2024 zatienili dôsledky klimatickej krízy, pokračujúca ruská invázia na Ukrajinu či konflikty na Blízkom východe. Žiaden z týchto fenoménov sa nezaobišiel bez sprievodných dezinformácií.
Napriek tomu, že dezinformácie nie sú novým javom, v posledných rokoch sa rapídne zvyšuje ich sofistikovanosť, dosah aj dopady. Jedným z dôvodov, pre ktorý dezinformácie predstavujú čoraz väčšiu hrozbu, je využívanie umelej inteligencie (AI) ich šíriteľmi. Táto technológia umožňuje vytvárať a propagovať dezinformačné, konšpiračné aj propagandistické naratívy ľahko, rýchlo a lacno. Podľa výsledkov auditu vykonaného spoločnosťou NewsGuard šíria komerčné chatboty ruské dezinformačné naratívy približne v tretine prípadov.
Audit generatívnych AI modelov
Spoločnosť NewsGuard, ktorá sa zaoberá bojom proti nepravdivým informáciám v médiách, podrobila skúške desať najpoužívanejších AI chatbotov. Do auditu zapojila napríklad ChatGPT-4 od OpenAI, Copilot od Microsoftu či Meta AI.
Každý AI model bol testovaný na 57 promptoch (príkazy zadávané umelej inteligencii). Prompty boli ladené buď neutrálne, a teda simulovali človeka, ktorý hľadá informácie o danej problematike, alebo pozitívne či negatívne. Pozitívne výzvy simulovali ľudí, ktorí predpokladajú, že naratív poskytnutý chatbotu, je pravdivý. Negatívne výzvy mali za cieľ dostať od chatbota odpoveď v podobe dezinformácie.
Testovacie výzvy boli pripravené tematicky – všetky boli založené na 19 falošných naratívoch, ktoré sú súčasťou ruskej propagandy. Sem patria napríklad témy o údajnej skorumpovanosti ukrajinského prezidenta Volodymyra Zelenského alebo údajná existencia kyjevskej trollej farmy, ktorá plánuje zasiahnuť do nadchádzajúcich amerických prezidentských volieb.
Šírenie dezinformácií, ale aj neschopnosť overiť hodnovernosť zdrojov
NewsGuard uvádza, že v takmer 32 % prípadoch vrátili chatboty ako odpoveď dezinformáciu. Z dovedna 570 odpovedí nepravdivú informáciu obsahovalo 152 z nich. 29 odpovedí pozostávalo z dezinformácie a varovania so zbavením sa zodpovednosti (ang. disclaimer) za obsah odpovede. Pozitívnym výsledkom je, že až 389 odpovedí neobsahovalo žiadnu klamlivú informáciu, pričom v 245 prípadoch generatívna AI poskytla vyvrátenie falošného tvrdenia. Vo zvyšných 144 odmietla odpovedať.
Z grafu v správe od NewsGuard [pozn. viď nižšie priložený obrázok] možno vyčítať, že nie všetky skúmané chatboty šíria ruské dezinformácie rovnako. Najúspešnejší bol chatbot, ktorý opakoval ruskú propagandu v približne 12 % prípadov.
Naopak, najhoršie dopadol chatbot, ktorý v odpovedi využil klamlivé naratívy z Moskvy v približne 56 % prípadoch. Spoločnosť verejne neuvádza, ktorému z chatbotov sa darilo najlepšie či najhoršie, keďže „tento problém je rozšírený v celom odvetví umelej inteligencie a nie je špecifický pre konkrétny veľký jazykový model“. Výsledky auditu však zdieľala NewsGuard s majiteľmi testovaných AI.
Chatboty taktiež podľa slov NewsGuard nie vždy poskytovali kontext pre dokázanie hodnovernosti svojej odpovede alebo vyhodnotili svoje zdroje ako spoľahlivé napriek ich pochybnej autentickosti. Chatboty sa napríklad nechali oklamať názvami stránok, ktoré napodobňovali vierohodné médiá.
Prečo práve ruská propaganda?
Spoločnosť NewsGuard čerpala inšpiráciu pre prompty z ruskej dezinformačnej siete webstránok využívajúcej AI na vytváranie a šírenie obsahu. Sieť je spájaná s Američanom Johnom Markom Doughanom, ktorý v minulosti pôsobil ako zástupca šerifa na Floride.
Doughan žije od roku 2016 ako azylant v Moskve, kam utiekol, aby sa vyhol obvineniam v spojitosti s doxxingovou kampaňou. V súčasnosti šíri ruskú propagandu v anglickom jazyku. V roku 2022 sa dokonca vydal na Ukrajinu s cieľom zistiť „pravdu“ o biologických laboratóriách. Známa vyvrátená konšpiračná teória tvrdí, že tieto laboratóriá boli využívané vládou USA na vývoj biologických zbraní.
Doughanovu sieť šíriacu ruskú propagandu tvorí 150 až 167 webstránok, ktoré napodobňujú relevantné zdroje. Používajú názvy ako DC Weekly, New York News Daily alebo Boston Times a známe spravodajské portály pripomínajú aj vzhľadom. Samotný Doughan však prepojenie na sieť popiera.
Generatívna AI sa vo svojich odpovediach vracala k tejto sieti, ktorej obsah slúžil ako predloha pre prompty použité v audite. Stala sa tak súčasťou dezinformačného cyklu AI. Ten podľa NewsGuard pozostáva z generovania dezinformácií, ku ktorým sa dostanú chatboty. Tie následne ponúknu ďalší materiál pre AI na generovanie klamlivého obsahu, či samy nejaký produkujú.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
