Výhody používania umelej inteligencie si veľmi dobre uvedomujú aj teroristické organizácie. Dôkazom je napríklad snaha takýchto skupín vzdelávať svojich členov v oblasti umelej inteligencie. Napríklad skupina blízka al-Káide vydala 50-stranovú príručku s názvom „Neuveriteľné spôsoby využitia chatbotov“, v ktorej v úvode píše, že „ChatGPT je mocný nástroj“. Rovnaká teroristická organizácia plánuje spustiť aj online workshopy na tému AI.
Nové technológie chcú vo svoj prospech využiť aj podporovatelia hnutia Islamský štát (ISIS). Používateľ vystupujúci pod menom Al Kurdi 500 napísal na súkromnom komunikačnom serveri príspevok, v ktorom vyzdvihuje rolu umelej inteligencie v šírení propagandy. Pripomína, že „médiá sú rovnako dôležité ako fyzická vojna, ak nie ešte dôležitejšie“.
Odborníci, ktorí dlhodobo monitorujú teroristické organizácie, nie sú prekvapení. Ako uviedol Moustafa Ayad, výkonný riaditeľ pre Afriku, Blízky východ a Áziu v Inštitúte pre strategický dialóg (ISD) so sídlom v Londýne, teroristické skupiny a ich stúpenci sú pomerne rýchli v osvojovaní si nových technológií, ktoré potom používajú vo svoj prospech. Už v roku 2014 vytváral ISIS prepracované videá, ktoré slúžili na regrutáciu nových členov. Aj hnutie Taliban sa udomácnilo v digitálnom priestore, čo mu v konečnom dôsledku pomohlo pri opätovnom zmocnení sa Afganistanu v roku 2021.
Dostať sa k tým najzraniteľnejším
Čo sa týka regrutovania, majú dnes teroristické organizácie rozšírené možnosti. Jedno z mnohých rizík, ktoré vyplýva z používania umelej inteligencie teroristami, je interaktívny nábor nových členov.
V interaktívnom nábore hrajú značnú rolu chatboty. V prvej fáze verbovania komunikujú s potenciálnymi regrútmi práve ony. Využívajúc umelú inteligenciu im podsúvajú na mieru ušité informácie tak, aby sa zdalo, že regrútove záujmy a názory korešpondujú s hodnotami danej teroristickej organizácie. Úlohou chatbota pri nábore je teda najmä získať si pozornosť človeka a prostredníctvom interakcie si ho pripútať. Neskôr ho môže pri činnosti vystriedať človek.
Takto môžu teroristi naverbovať oveľa viac ľudí za kratší čas. Chatboty im totiž umožňujú vybudovať si s potenciálnymi regrútmi bližší vzťah bez toho, aby s nimi musel človek interagovať už od prvej chvíle. Interaktívny nábor má podľa Medzinárodného centra pre boj proti terorizmu potenciál zachytiť zraniteľných jedincov, ktorí môžu byť ľahko manipulovateľní.
Medzi tých najzraniteľnejších patria rozhodne mladiství. K tým sa teroristické skupiny rozhodli dostať prostredníctvom spájania popkultúry a extrémistického obsahu. Na internete sa totiž v poslednom čase objavili deepfake videá zobrazujúce postavy z animovaných seriálov, napríklad zo Spongeboba alebo Ricka a Mortyho, a známych youtuberov, ktorí spievajú bojové nasheedy. Ide o piesne, ktorých najčastejší cieľ je burcovať džihádistov do boja.
Napriek tomu, že obsah pôsobí na prvý pohľad nevinne, ide o súčasť sofistikovanej stratégie. Využívanie popkultúry umožňuje extrémistom dostať sa k širšiemu publiku. Dobre známe animované postavy a youtuberi vzbudzujú dôveru najmä u mladších sledovateľov. Cez nich sa neskôr môžu dostať k ďalšiemu extrémistickému obsahu.
Obsah generovaný umelou inteligenciou ako nástroj manipulácie
V súvislosti s konfliktom medzi Izraelom a teroristami z Hamasu sa na internete šíri množstvo dezinformácií a deepfakeov. Deepfake je klamlivé video alebo fotografia, ktoré je vytvorené pomocou umelej inteligencie a jeho úlohou je pôsobiť autenticky.
Falošné fotografie zranených detí z dielne podporovateľov Hamasu majú v ľuďoch burcovať emócie. Dezinformačná kampaň, v rámci ktorej skupina blízka Hamasu rozšírila informáciu o tom, že izraelskí vojaci vraj nosia plienky, mala zas za cieľ kompromitovať protivníka. Sociálne siete TikTok a X zakrátko zaplavili príspevky, ktoré zobrazujú vojakov v plienkach a s detskými cumlíkmi. Populárnym sa stal hashtag #IsraeliDiaperForce (#IzraelskáPlienkováSila).
Hoci bolo na prvý pohľad jasné, že ide o obsah generovaný umelou inteligenciou, nepodložená informácia o izraelských vojakoch sa rýchlo rozšírila a s ňou aj dojem o zbabelosti izraelskej armády.
Daniel Siege, americký výskumník, tento jav opísal pre Global Network on Extremism&Technology ako Synthetic Narrative Amplification Phenomenon (SNAP). Ide o jav, keď obrázky, ktoré sú očividne generované umelou inteligenciou, dokážu zjednodušiť komplexné naratívy na ľahko stráviteľný obsah a ten sa potom rýchlo stane virálnym. Čím rozšírenejší takýto obsah je, tým viac ľudia pochybujú o overených informáciách a prijímajú virálny obsah za pravdivý.
Siege konštatuje, že v podobných prípadoch je zbytočné, aby online platformy pridávali štítky, ktoré upozorňujú na neautenticitu zdieľaného obsahu. Cieľom takéhoto obsahu totiž nie je presvedčiť o svojej autentickosti, ale spraviť ho virálnym.
Teroristické spravodajstvo z celého sveta
Štyri dni po teroristickom útoku na koncertnú halu neďaleko Moskvy sa objavilo krátke video, v ktorom reportér vo vojenskej prilbe informuje o útoku. „Nebola to teroristická operácia, ale súčasť prebiehajúceho boja medzi Islamským štátom a krajinami, ktoré bojujú proti islamu,“ hovorí vo videu reportér.
Išlo o pilotný diel týždenného spravodajstva s názvom News Harvest z dielne ISIS. Cieľom programu je informovať o akciách organizácie po celom svete. Správy prednáša reportér vygenerovaný umelou inteligenciou, ktorý je oblečený vo vojenskej uniforme alebo v tradičnej tunike. Napravo od neho môžu diváci sledovať zábery z jednotlivých útokov.
Umelá inteligencia takto umožňuje džihádistom krátko po útoku vytvoriť propagandistický materiál, ktorý vyzerá profesionálne a je cenovo dostupný. Teroristi už takto informovali o svojich akciách v Nigérii, Kamerune, Iraku či Sýrii.
Avšak používanie umelej inteligencie na vytváranie obsahu, ktoré zobrazuje ľudí, je pre niektorých podporovateľov ISIS problematické. Moslimské tradície totiž radia svojim prívržencom, aby sa vyvarovali zobrazovaniu živých bytostí, vrátane zvierat. Táto tradícia vychádza z toho, že život vytvára iba Alláh, a preto znázorňovanie živých bytostí neprináleží človeku.
Drobné nezhody vo vnútri organizácie však nemenia nič na tom, že sa umelá inteligencia stáva v rukách teroristov nástrojom efektívnej manipulácie. Nielenže im ponúka možnosť ako zjednodušiť nábor nových posíl, ale dokáže pomôcť aj s naplánovaním útokov. Obsah vytvorený umelou inteligenciou zas dokáže upútať a rýchlo sa rozšíriť medzi masy, kde ohýba verejnou mienkou.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
