Zdá sa, že umelá inteligencia je v dezinformačných kampaniach využívaná len sporadicky. Vďaka neustále sa zlepšujúcej schopnosti sociálnych platform zachytiť botov, leží najväčšia hrozba v rýchlosti či rozmanitosti dezinformácií, ktoré sa šíria za jej pomoci.
Čo je to bot?
Lacným spôsobom ako šíriť veľké množstvo dezinformácií je používanie botov na sociálnych sieťach.
Sociálny bot, alebo proste bot, je plne automatizovaný účet na sociálnej sieti. Kyborg je čiastočne automatizovaný účet bota, prostredníctvom ktorých môže človek z času na čas šíriť špecifické príbehy.
Boti môžu byť využívaní pre vytváranie umelej podpory politických kampaní, alebo, naopak, generovanie antikampaní. Taktiež často rozširujú skreslené informácie s cieľom ovplyvniť verejnú mienku, čo je známe ako astroturfing.
Štúdie z roku 2019 ukázali, že najviac botov sa vyskytlo na Telegrame, Twitteri, Facebooku a Reddite.
V decembri 2019 bola sieť viac ako 900 stránok, skupín, a účtov na Facebooku a Instagrame identifikovaná ako prípad „koordinovaného neautentického správania“ a nasledovalo jej stiahnutie. To znamená, že táto sieť nebola používaná ľuďmi, ale botmi.
Biznis s botmi
Výskumníci z univerzít v Zürichu a Münsteri preskúmali v roku 2019 30 trhov s botmi na internete, a 31 trhov na darknete. Zistili, že „neautomatizovaní falošní sledovatelia“, simulujúci sociálnu podporu, boli relatívne lacní. 3-tisíc sledovateľov na Instagrame totiž stálo 18,24€.
Na druhej strane, aktívne vytváranie obsahu bolo zriedkavejšie a aj drahšie. Jeden náhodný komentár na Instagrame stál na darknete 62 centov.
Deepfake
Doteraz sa pri dezinformačných operáciách využívali hlavne deepfakes (technika, kedy sa pomocou umelej inteligencie a fotografií človeka vytvorí realistické falošné video) nízkej kvality, čo vďaka relatívne ľahkej rozpoznateľnosti mohlo vyvolávať zdanlivý pocit bezpečia.
Táto ilúzia nám môže brániť v rozpoznaní falošných správ vyššej kvality, ktoré akceptujeme ako skutočné informácie. Deepfakes sa stávajú čoraz náročnejšími na odhalenie, ako aj čoraz dostupnejšími širokej verejnosti.
Analytici sa na sociálnych sieťach stretávajú aj s profilovými obrázkami vygenerovanými umelou inteligenciou. V roku 2019 bot vygeneroval stovky profilových obrázkov na Facebooku. Tie pravdepodobne vyrobili cez GAN (generative adversial network).
Možné trendy pre dezinformácie poháňané umelou inteligenciou
Výskum umelej inteligencie prispieva k vývoju deepfake a umožňuje ľahšie a dostupnejšie nástroje k jeho vytvoreniu. Môžeme teda predpokladať, že rôzne typy deepfake sa v budúcnosti stanú dôveryhodnejšími.
Veľmi pravdepodobné je aj efektívne napodobňovanie vzorcov aktivity na sociálnych sieťach. To by znamenalo, že by bolo aktivitu botov náročné odhaliť. Aby správcovia sociálnych sietí udržali krok, budú pravdepodobne implementovať oveľa prísnejšie bezpečnostné prvky.
Potencionálne najnebezpečnejším by bol vývoj umelej všeobecnej inteligencie (AGI – artificial general intelligence). Takýto komplexný algoritmický systém by bol schopný uvažovať na úrovni priemerného človeka, čo by prinášalo riziko vytvárania vysokokvalitných dezinformácií, ktoré by sa nedali odhaliť ako umelo vytvorené. Experti sa domnievajú, že vývoj AGI vyžaduje ďalších sto rokov výskumu.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
