Čoraz obľúbenejšia sociálna sieť TikTok čelí viacerým problémom. Okrem obáv z poskytovania osobných údajov svojich používateľov čínskej vláde prostredníctvom svojej materskej spoločnosti ByteDance sa na ňu zniesla kritika za obsah, ktorý je na platforme tolerovaný. Spomenúť možno veľké množstvo dezinformácií, ktoré sa na sieti šíria, a to napriek údajným snahám platformy o ich obmedzenie.
Raj pre extrémistov
Inštitút pre strategický dialóg (ISD) nedávno zistil, že platforma hosťuje účty zamerané na šírenie nacistickej ideológie. Výskum odhalil sieť tvorenú 200 účtami, ktoré „výslovne propagovali nacizmus alebo používali nacistické symboly vo svojich menách, profilových obrázkoch a pod.“.
Obsah týchto účtov tvorili napríklad videá popierajúce holokaust či glorifikujúce Adolfa Hitlera alebo nacistické Nemecko. Ďalej sa objavovala podpora strelcov vyznávajúcich ideológiu nadradenosti bielej rasy. Jedným z príkladov je americký strelec z El Paso (Texas), ktorý v roku 2019 zastrelil 23 ľudí. Jeho útok bol rasovo motivovaný a sám strelec sa označuje za „bieleho nacionalistu“.
Nacistické účty zamerané na šírenie nacistickej ideológie často využívajú nástroje umelej inteligencie (AI). Pomocou nich sú schopní vytvoriť nielen obrázky, ale aj falošné nahrávky či videá zobrazujúce nacistických funkcionárov. Keďže AI je schopná tieto materiály vytvoriť v rôznych jazykoch, takto generovaný obsah dokáže osloviť väčšie množstvo ľudí.
Nástroje platformy pomáhajú obsah šíriť ďalej
Algoritmus TikToku, ktorý je nastavený tak, aby ponúkal obsah podobný tomu, s ktorým používateľ interagoval, pomáha šíriť videá z (nielen) nacistických účtov pomerne rýchlo. Podľa ISD stačila krátka interakcia testovacieho účtu s obsahom nacistických profilov na to, aby sa mu podobné videá zobrazili na hlavnej stránke platformy, tzv. For You Page (FYP).
Veľkou výhodou v šírení želaného obsahu je aj forma a dĺžka videí. Krátke a pútavé videá totiž umožňujú konzumovať väčšie množstvo obsahu v kratšom čase. Nacistickí tvorcovia si pomáhajú aj zvukovými stopami, ktoré je na TikToku možné dodatočne pridať do videa.
Zvukové stopy sú obyčajne verejne dostupné, stačí len kliknúť na ikonu zvukovej stopy vo videu a zobrazia sa videá, ktoré ju v minulosti použili. To pomáha záujemcom nájsť podobný obsah pokope a sledovať ho ľahšie.
Nacistické tiktokové videá taktiež slúžia na propagáciu účtov na iných sociálnych sieťach, najmä Telegrame. Účty na platformách TikTok a Telegram sú prepojené alebo spolupracujú, čím si vzájomne pomáhajú zvyšovať sledovanosť či počty odberateľov.
Nedostatočná moderácia TikTok obsahu
ISD testoval aj regulačné schopnosti TikToku. Z odhalených 200 účtov výskumníci nahlásili platforme 50. Odvolali sa pritom na pokyny pre komunitu, ktoré napríklad zakazujú „nenávistné prejavy, nenávistné správanie“ a „propagáciu nenávistných ideológií“.
Prvotnou odpoveďou platformy bolo, že konkrétne účty neporušujú žiadne zo zásad komunity. Po dvoch týždňoch však bolo 15 z nahlásených účtov zablokovaných. Mesiac po nahlásení sa počet zablokovaných vyšplhal na 23.
Nedostatočná moderácia obsahu na TikToku, teda neschopnosť rozoznať škodlivý obsah či už samostatne alebo po nahlásení, v spojení s pomerne dlhou dobou reakcie umožňuje problematickým účtom získať relatívne veľký dosah. Podľa ISD sa zablokovaným účtom podarilo získať dokopy približne dva milióny zhliadnutí predtým, než boli zablokované.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
