Pri predstavovaní virtuálnej reality sa objavil bot, ktorý šíril dezinformácie

Technologický svet sa sústreďuje na vývoj virtuálneho sveta, tzv. metaverza. Ukazuje sa, že problém dezinformácií a šírenie nenávistných prejavov sa tým môže znásobiť.

V poslednom období ohlásili viaceré spoločnosti zámer vytvoriť metaverzum, čo sa dá voľne preložiť ako virtuálny svet alebo virtuálna realita.

Metaverzum by malo byť digitálnou platformou, na ktorej by sa mohli stretávať užívatelia bez ohľadu na to, kde sa nachádzajú. Ľudí budú reprezentovať avatary, ktorých si sami vytvoria. Tí budú môcť v digitálnom svete robiť v podstate všetko, čo sa dá vykonávať v reálnom živote, od stretávania sa v práci cez chodenie na koncerty, až po nakupovanie.

Tvorcovia sľubujú vysoko realistický zážitok. Podľa Marka Zuckerberga, majiteľa a zakladateľa spoločnosti Meta, predtým známej ako Facebook, je metaverzum nástupcom mobilného internetu.

Na vytvorení virtuálneho sveta pracujú aj spoločnosti ako Sensorium Corp., Google, Microsoft alebo Apple.

V metaverze sa objavili medicínske dezinformácie

Tento rok sa v Lisabone uskutočnila technologická konferencia, na ktorej došlo k predstaveniu virtuálneho sveta startupu Sensorium Corp., ktorý vlastní ruský miliardár Michail Prokhorov.

Účastníci konferencie mali možnosť chatovať s virtuálnymi osobami, medzi ktorými sa objavil aj bot David. Ten pri otázke, čo si myslí o vakcínach, začal generovať zdravotnícke dezinformácie.

Tvrdil napríklad, že vakcíny sú niekedy nebezpečnejšie ako samotné ochorenie, ktorému majú zabrániť.

Tvorcovia po konferencii uviedli, že plánujú pridať filtre, ktoré obmedzia, čo môžu virtuálne osoby hovoriť o citlivých témach. Incident je však predzvesťou problémov, ktoré môže tento nový svet so sebou priniesť.

Virtuálny svet bude pravdepodobne regulovateľný ťažšie ako sociálne siete

Aj napriek tomu, že potrvá ešte roky, kým sa metaverzum plne vyvinie, odborníci už dnes upozorňujú na jeho slabiny.

V prvom rade, metaverze sľubuje zážitky, ktoré sa budú do vysokej miery podobať realite. Tento pocit skutočnosti však môže byť veľmi nebezpečnou zbraňou v rukách aktérov, ktorí šíria nenávisť a propagujú násilie a terorizmus.

Po druhé, už dnes existujú viaceré hry obsahujúce prvky podobné tým, ktoré sa budú nachádzať vo virtuálnom svete. Ako príklady môžeme uviesť Fortnite, Roblox či Animal Crossing: New Horizons. Na nich je možné pozorovať značné množstvo problematického obsahu, ktorý bude s veľkou pravdepodobnosťou prenesený aj do metaverza. Časté sú napríklad prejavy rasizmu, homofóbia a transfóbia, sexuálne obťažovanie a uctievanie nacizmu.

Medzi ďalšie slabiny môže patriť nízka ochrana súkromia užívateľov, ale aj ľudí v ich okolí, či digitálne obťažovanie.

V neposlednom rade sa do popredia dostáva otázka, do akej miery je vhodné kontrolovať súkromné konverzácie, cez ktoré sa šíri veľká časť dezinformácií a nenávistných prejavov. 

Andrea-Emilio Rizzoli, riaditeľ švajčiarskeho Inštitútu pre výskum umelej inteligencie Dalle Molle, zdôraznil, že regulátori stoja pred závažnou otázkou. Tá znie, či by mala umelá inteligencia upozorňovať ľudí, že ich konverzácie nie sú založené na faktoch, alebo im dokonca v komunikácii zabraňovať.

Sociálne siete sa s mnohými problémami nevysporiadali doteraz

Na slabiny sociálnych sietí naposledy poukázala séria dokumentov známych ako Facebook Files či Facebook Papers.

Tie odhalili, že sociálne platformy majú plno chýb, ktoré spôsobujú veľké škody. Medzi najzávažnejšie patrí šírenie dezinformácií, extrémizmu, nenávistných prejavov, toxického obsahu a štvavej rétoriky. Spoločnosť Marka Zuckenberga však robí málo, aby tomu zabránila.

Facebook Papers navyše ukázali, že spoločnosť má tiež dôkazy, že ofenzívny obsah s najväčšou pravdepodobnosťou prejde zo sociálnych platforiem do nového virtuálneho sveta.

Podľa Andrea-Emilio Rizzoliho závisí miera bezpečnosti metaverza do istej miery na tom, ako spoločnosti vytrénujú umelú inteligenciu na moderovanie platforiem.

Ďalším dôležitým faktorom bude, či užívatelia budú v metaverze fungovať v malých skupinách alebo v otvorenom digitálnom prostredí.

Alex Cadier, výkonný riaditeľ spoločnosti NewsGuard vo Veľkej Británii, však uviedol, že ak spoločnosti nedokážu účinne bojovať proti dezinformáciám na jednoduchších platformách, ako Facebook, Instagram či Twitter, je nízka pravdepodobnosť, že sa im to podarí v oveľa zložitejšom metaverze.

CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/

Študentka magisterského stupňa Medzinárodných vzťahov na Karlovej univerzite v Prahe. Venuje sa vnútroštátnym vojnám a faktorom, ktoré občianske konflikty podporujú. Zaujíma sa taktiež o globálne dopady klimatických zmien, propagandu ako nástroj zahraničnej politiky štátov a ruský vplyv v regióne strednej Európy. Kontakt: katarina.drevena@infosecurity.sk