Nedávno vydaná epizóda podcastov Disinfo Report sa zameriava na to, prečo je dôležité monitorovanie online priestoru či ako fungujú nástroje na jeho monitorovanie. Témou rozhovoru bolo aj to, ako sa budú v najbližších rokoch vyvíjať technológie, ktoré môžu byť využité na boj s dezinformáciami.
V podcaste, ktorý vznikol s podporou ambasády USA na Slovensku sa Tonka Zsigmondova s riaditeľom spoločnosti Gerulata Technologies Michalom Trnkom.
V rozhovore sa okrem iného dočítate:
- Prečo je dôležité monitorovať online priestor?
- Na akej úrovni sú nástroje na jeho monitorovanie?
- Čím je špecifický produkt na monitorovanie online priestoru, ktorý vyvinula Gerulata Technologies?
- Na čo všetko sa dá tento nástroj využiť a pre koho je určený?
- Ako sa budú v budúcnosti vyvíjať technológie na boj s dezinformáciami?
Dnes sa budem rozprávať s riaditeľom spoločnosti Gerulata Technologies Michalom Trnkom. Veľmi všeobecná otázka: z akého dôvodu je dôležité monitorovať online priestor?
Je dôležité uvedomiť si, že online priestor je v podstate primárny zdroj informácií pre väčšinu ľudí. Aj ľudia, ktorí nesledujú internet a sledujú offline-ové médiá, tak tie offline-ové médiá čerpajú veľmi často práve z online-u. Informácie sú úplne kľúčové pre fungovanie zdravého demokratického procesu, a ako sa ukazuje, aj iných procesov, napríklad zdravotnej starostlivosti, čo môžeme sledovať teraz v tej covidovej dobe.
Dá sa povedať, že ten online priestor má úplne kľúčový význam pre celú spoločnosť. Takže z môjho pohľadu je úplne logické, že je to predmetom legitímneho záujmu štátnych inštitúcií. Príde mi dôležité, aby tieto inštitúcie mali prehľad o tom, čo sa v tom informačnom priestore deje, aké sú trendy, prípadne aké sa šíria naratívy a či by niektoré z nich mohli byť hrozbou pre spoločnosť.
Na akej úrovni sú dnes nástroje na monitorovanie nášho informačného prostredia?
Existuje veľa rôznych nástrojov, ale povedal by som že vo všeobecnosti sú zamerané skôr na komerčné použitie, ako napríklad podpora contentového marketingu alebo podpora performance marketingu atď.
Podľa môjho názoru sa z tohto určenia odvíjajú určité limitácie. Keby sme chceli tieto nástroje použiť v oblasti práce strategickej komunikácie alebo boja proti dezinformáciám, narazíme na veci ako napríklad slabé pokrytie platforiem, či už do hĺbky alebo do šírky. Alebo napríklad možnosti presného vyhľadávania.
Poviem príklad. V marketingových použitiach si veľmi často vystačíte s nejakými základnými kľúčovými slovami, ktoré chcete hľadať, pretože máte názov značky a zaujíma vás „mentions“ tej značky. V oblasti dezinformácií to vôbec takto nie je. Potrebujete riešiť nuansy atď.
Takže z môjho pohľadu veľká časť tých existujúcich nástrojov sú použiteľné aj sa používajú analytikmi, ale tie ich funkcie sú relatívne obmedzené a nie sú úplne vhodné práve na takýto typ použitia.
Pôsobíte ako riaditeľ spoločnosti Gerulata Technologies, ktorá vyvinula produkt na monitoring online priestoru. Môžete nám o ňom povedať viac? Ako funguje?
V prvom rade by som k tomu možno rád povedal ešte to, že okrem monitoringových nástrojov sa zameriavame aj na analytické nástroje. Čiže naším cieľom je obsah nie len zachytiť, ale aj ho spracovať tak, aby sme získali čo najväčšiu informačnú hodnotu.
Na začiatku toho procesu je, samozrejme, monitoring aj u nás, čiže potrebné je zozbierať informácie, to znamená obsah, ktorý sa šíri. Náš systém zbiera dáta z viacerých otvorených zdrojov, vrátane webu, sociálnych médií alebo message-ingových aplikácií.
Všetok obsah, ktorý zachytíme, sa spracuje tak, aby bol dobre prehľadávateľný a filtrovateľný. Vieme nájsť obsah, v ktorom sa spomínajú napríklad aj kľúčové slová alebo sa v ňom spomína alebo vyskytuje určitá definovaná téma alebo naratív. Zároveň používame pokročilú umelú inteligenciu, vďaka čomu vieme nachádzať obsah aj na základe podobnosti významu. Čiže nebavíme sa teraz o textovom vyhľadávaní, ale o tvrdeniach alebo o obsahu, ktorý významovo vyhovuje tomu, čo hľadáme, nezávisle od konkrétnej formulácie.
„Naše produkty umožňujú nie len efektívne monitorovať a vyhľadávať v tom obsahu, ale aj porozumieť kontextu a súvislostiam. Povedzme, identifikovať koordináciu medzi aktérmi, analyzovať rôzne vzorce a aktivity.“
Potom tento zachytený obsah vstupuje do analytickej pipeline, kde z neho extrahujeme všetky informácie, ktoré majú nejakú potenciálnu intelligence hodnotu. Čiže napríklad metadáta v prípade obrázkov, ale aj rôzne entity, ktoré sa môžu spomínať v texte atď.
Na záver sa všetky získané informácie zapíšu do grafovej databázy, čo si v podstate môžeme predstaviť ako takú obrovskú sieť prepojení a súvislostí medzi zdrojmi a rôznymi entitami a obsahmi.
Aby som sa dostal k odpovedi na otázku, tak vďaka týmto technológiám naše produkty umožňujú nie len efektívne monitorovať a vyhľadávať v tom obsahu, ale aj porozumieť kontextu a súvislostiam. Povedzme, identifikovať koordináciu medzi aktérmi, analyzovať rôzne vzorce a aktivity atď.
Zároveň máme nástroje na vizualizáciu týchto informácií a kolaboráciu v rámci potenciálnych analytických tímov. Je teda možné analyzovať retrospektívne, a aj aktuálne trendy. Je možné zostavovať rôzne reporty atď. Čiže tých možností je naozaj pomerne veľa, dá sa povedať, že je to také „all in one“ riešenie pre potreby informačnej analýzy alebo strategickej komunikácie.
Na čo všetko sa dá vaša platforma využiť? Inými slovami, je vhodná pre bezpečnostných analytikov, ktorí sledujú šírenie dezinformácií alebo ju môžu využívať napríklad aj zamestnanci marketingových oddelení?
Typickí používatelia sú práve tí bezpečnostní alebo informační analytici. Potom aj profesionáli z oblasti strategickej komunikácie, pretože tam jednoducho vidíme najväčšiu pridanú hodnotu našej technológie.
Naše produkty, hlavne monitoring, je určite možné používať aj na komerčné účely. Ale na rovinu, pre väčšinu marketingových potrieb sú tie naše riešenia možno zbytočne komplexné a možno aj príliš drahé.
Keďže v našom podcaste riešime primárne dezinformácie, ďalšia otázka sa bude týkať tejto témy. Ako si vy ako zástupca súkromnej spoločnosti predstavujete ideálny prístup pri boji s dezinformáciami? Inak povedané, kde v systéme, v ktorom fungujú štátne inštitúcie, médiá a mimovládny sektor vidíte úlohu spoločností ako Gerulata Technologies?
Ja by som sa možno zastavil pri tom slovíčku „fungujú“ štátne inštitúcie, pretože to je pre nás absolútne kľúčové. V systéme, kde by štátne inštitúcie nefungovali alebo by neplnili dobre svoju úlohu, by bola hodnota našej technológie silne obmedzená.
My vieme poskytnúť intelligence, vieme poskytnúť dáta a informácie. Ale vyhodnotiť tieto informácie, rozhodnúť sa, čo s nimi treba robiť a potom aj vykonať tú akciu, to nevieme, respektíve v tom nevidíme našu úlohu. Našu úlohu vidíme práve v poskytovaní spoľahlivých, včasných, presných informácií. Na štátnych inštitúciách je tiež to, aby na základe informácií a dát mohli robiť kvalitné rozhodnutia a nejakým spôsobom konať.
„Z nášho pohľadu také najnižšie visiace ovocie takpovediac vidíme v zlepšení strategickej komunikácie štátu. V praxi to znamená napríklad to, aby štát bol schopný rýchlo zachytiť nejakú vznikajúcu informačnú hrozbu a reagoval na ňu tak, aby obyvateľov neponechal v informačnom vákuu dlhú dobu.“
V čom by mohol byť vhodný prístup štátnych inštitúcií? Tých možností je určite viacero. Z nášho pohľadu také najnižšie visiace ovocie takpovediac vidíme v zlepšení strategickej komunikácie štátu.
V praxi to znamená napríklad to, aby štát bol schopný rýchlo zachytiť nejakú vznikajúcu informačnú hrozbu a reagoval na ňu tak, aby obyvateľov neponechal v informačnom vákuu dlhú dobu, aby ich neponechal napospas rôznym dezinformačným aktérom. Toto sa nám zdá byť také najjednoduchšie implementovateľné, a zároveň aj veľmi efektívne riešenie tejto hrozby.
Na záver možno trochu prorocká otázka. Máte nejaký osobný odhad, ako sa budú v najbližších rokoch vyvíjať technológie, ktoré môžu byť využité na boj s dezinformáciami, prípadne na ich efektívnejšie šírenie?
Tých trendov, ktoré vidíme, je viacero. Keby som mal povedať jeden, tak určite tá kľúčová technológia by bola umelá inteligencia. V rôznych jej variáciách. Čiže napríklad, máme tu tie pokročilé jazykové modely, čo som spomínal, že používame aj my. Tie umožňujú strojom chápať obsah textu, vyložene význam textu, a tým pádom vedia napríklad lepšie vyhľadávať hrozby.
Iný príklad sú grafové neurálne siete, ktoré umožňujú predpovedať vlastnosti nejakých uzlov v tej informačnej sieti, čiže napríklad informačných aktérov. To sa dá využiť na to, aby sa lepšie dalo stanoviť, do akej miery je určitý zdroj, povedzme, problematický alebo, naopak, kredibilný.
Takéto technológie sa dajú použiť na to, aby sa nejakým spôsobom informačné prostredie skvalitnilo, vyčistilo od spamu a vyčistilo od nejakých toxických nánosov. Na druhej strane, treba povedať to, že to funguje, samozrejme, aj z druhej strany. Čiže napríklad spomínané jazykové modely vedia vygenerovať veľmi realistický text, ktorý je pre človeka veľmi ťažko rozpoznateľný od niečoho, čo by napísal človek. Taktiež sa vedia zapájať automaticky do konverzácií. Viem si predstaviť, že v budúcnosti takéto AI automaty môžu byť veľmi presvedčivé a veľmi účinné v zasievaní pochybností v rámci širšej populácie.
Technológie ako napríklad deep fake všetci poznáme. Táto technológia je veľmi dobre dostupná. Nemusí pritom ísť o klasické face swap-ové videá, ale napríklad aj o klonovanie hlasu alebo iné techniky, ktoré v podstate umožňujú dezinformačným aktérom vyfabrikovať falošné fakty z alternatívnej reality.
„Skôr by som to čakal od nepriateľských štátnych aktérov viac ako od takých „bežných“ dezinformátorov. Pod tými myslím dezinformačné weby, ktorým ide o profit. No aj tam by sa umelá inteligencia vedela určite negatívne uplatniť, tým že vygenerujú stovky článkov.“
Keď si to celé poskladáme, tak si viem predstaviť napríklad botov alebo nejaké automaty, ktoré vystupujú ako reálni ľudia a v masovom merítku sa zapájajú do diskusií práve s použitím týchto technológií. Napríklad si aj priamo píšu správy s ľuďmi, dokážu využívať micro targeting tak, že vyprodukujú naozaj veľmi presvedčivo znejúce falošné argumenty. Tie sú našité na každého užívateľa tak, aby mali čo najväčšiu šancu ho nejakým spôsobom zneistiť v názoroch.
Čiže takéto niečo si viem predstaviť. Samozrejme, to by bol veľmi sofistikovaný dezinformačný systém, ktorý podľa mojich znalostí ešte neexistuje, ale na druhej strane, jeho stavebné prvky sú voľne dostupné na internete. Takže je možné, že niečo takéto príde.
Skôr by som to čakal od nepriateľských štátnych aktérov viac ako od takých „bežných“ dezinformátorov. Pod tými bežnými dezinformátormi myslím dezinformačné weby, ktorým ide o profit. No aj tam by sa umelá inteligencia vedela určite negatívne uplatniť, tým že vygenerujú stovky článkov. Napríklad o tom, ako ivermektín pomáha alebo ako nám civilizáciu prídu ovládnuť jaštery.
Tieto technológie treba brať tak, že majú taký ten dual-use. Dajú sa použiť na to, aby sa to prostredie mohlo nejakým spôsobom skvalitniť a vyčistiť. Na druhej strane, môžu byť aj zneužité. Čiže vo vývoji AI vidím taký zásadný trend.
Toto bol riaditeľ spoločnosti Gerulata Technologies Michal Trnka.
Podcast nájdete TU.
Podcasty si môžete vypočuť aj cez Apple Podcasts, Spotify, Google Podcast a YouTube.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
