Sociálne siete nám sľubovali slobodu slova. To, čo nám dali, je však skôr priestor, kde najhlasnejším hejterom umelo zvyšujú dosah a odkiaľ preto slušní diskutéri radšej odchádzajú.
Za tri roky prečítala umelá inteligencia TrollWallu šesťdesiatosem miliónov komentárov a dvadsať miliónov z nich skryla, pretože schvaľovali násilie, vyzývali na zabíjanie alebo dehumanizovali celé skupiny ľudí.
Ako je možné, že spoločnosť Meta, ktorá mala za posledný rok zisky dvakrát vyššie ako slovenský štátny rozpočet, napriek opakovaným vyhláseniam o bezpečnosti a zodpovednosti nedokáže robiť to, čo zvláda malý startup zo Slovenska
O politike sa už dávno nerozhoduje iba v parlamente. Rozhoduje sa aj na sociálnych sieťach, ktoré pokútnym spôsobom a na vlne nenávisti formujú predvolebné kampane do národných volieb aj volieb v krajinách Európskej únie. Tým zásadným spôsobom ovplyvňujú aj naše demokracie.
Vo videopodcaste sa dozviete:
- ako slovenský startup dokáže to, čo Meta s miliardovými rozpočtami odmieta robiť;
- prečo Zuckerbergovo zrušenie fact-checkingu zvýšilo počet nenávistných komentárov pod slovenskými profilmi štyri- až päťnásobne;
- kde presne vedie hranica medzi nepohodlným názorom a nenávistným prejavom, keď o nej rozhoduje súkromná firma a jej umelá inteligencia;
- prečo je terčom najsexualizovanejších útokov žena v politike bez ohľadu na krajinu a prečo bola Zuzana Čaputová historicky najväčším terčom na Slovensku;
- ako vyzerajú koordinované vlny komentárov pred voľbami a v čom sa rumunský scenár podobá slovenskému;
- že slobodu slova, nie je slobodu dosahu, ktorú sociálne siete umelo dávajú najtoxickejším hlasom;
- čo môže urobiť obyčajný používateľ Facebooku už dnes.
Tomáš, my dvaja sa poznáme ešte z čias, keď si pracoval ako fotoreportér, dávno predtým, než si začal robiť to, čo robíš dnes. Keď sa obzrieš späť, vidíš v svojej bývalej profesii niečo, čo ťa nasmerovalo tam, kde si dnes?
Určite áno. Fotografia je o stretávaní sa s ľuďmi, o masovej komunikácii, o budovaní vzťahov a o verejnom vystupovaní. Veľa z toho používam aj teraz, hoci je tá práca úplne iná.
Na jar 2022 sa rozbehla vojna na Ukrajine a ty si v tom čase robil community management pre iniciatívu Kto pomôže Ukrajine. Vieš popísať tú chvíľu, keď ti došlo, že v komentároch pod príspevkami neprebieha normálna diskusia medzi ľuďmi s odlišnými názormi, ale niečo iné?
Bola to šialená doba. Sotva skončil covid a prišla vojna, akú sme v Európe dlho nevideli. V iniciatíve Kto pomôže Ukrajine sme spájali ľudí, ktorí chceli pomôcť, s tými, ktorí utekali pred vojnou, väčšinou matky s deťmi alebo starí rodičia s deťmi. Dostávali sme stovky správ od ľudí, ktorí ponúkali bývanie, dom, prístrešie. Ale popri tom prichádzali aj komentáre, ktoré ťa jednoducho šokovali.
Doteraz si pamätám jeden štvrtok večer, asi 9:30. Prišla nám správa od matky s dvomi malými deťmi, práve dorazili na hlavnú stanicu, prosím, kam môžu ísť. Začali sme spájať, riešiť. A v tej istej chvíli pod tým niekto písal, že nech sa vrátia, veď tam predsa bomby nepadajú až tak, nech si zvyknú. A oveľa, oveľa horšie veci. Veci, ktoré nechceš čítať a nechceš, aby ich čítal ktokoľvek iný.
S dobrovoľníkmi sme to ručne mazali a skrývali. Po čase sme si povedali, že je toho priveľa, ničí to psychiku a demotivuje to. Vtedy som sa rozhodol nájsť technologické riešenie. Žiadne neexistovalo. Aspoň žiadne, ktoré by dávalo plnú kontrolu, rozumelo slovenčine a chápalo kontext. Tak sme začali pracovať na Trollwalle.
So slovenčinou je to obzvlášť problematické. Hovorí sa tomu low resource language, jazyk, na ktorý má umelá inteligencia málo dát, aby ho dokázala uchopiť, nieto ešte pracovať s nuansami. A v komentároch často nejde o ľubozvučnú štúrovskú slovenčinu. Medzi prvým nápadom a fungujúcim prototypom, čo všetko si musel urobiť, s kým si sa stretol?
Najprv som zavolal kamarátovi Filipovi Strýčkovi. Bol taký zlatý, že na otázku, či nám niečo nakóduje, povedal áno. Ja, ako človek, ktorý v živote nič nekódil, som si naivne predstavoval, že to musí byť veľmi jednoduché.
Dali sme dokopy tím s ďalšími kamarátmi, s ktorými sme už pracovali na predošlých projektoch, Pavlom Bujňákom a Tomášom Koctúrom, odborníkom na AI. Začali sme robiť na prototype. Bol veľmi škaredý, ale začal fungovať a chytal tie najväčšie hejty. Potom postupne, ešte toto treba pridať, ešte tento kontext nechápe, ešte tieto slová. Trvalo to pár mesiacov, kým sme mali niečo dosť dobré. A pol roka, kým sme mali niečo, čo sme sa nehanbili ukázať aj iným ľuďom.
Každá firma má zakladateľský mýtus, buď začínaš v garáži, piješ priveľa kávy, alebo prespávaš u kamarátov. Ako to bolo u vás v prvých týždňoch?
My sme už neboli takí mladí, aby sme spali v garáži. Všetci sme mali stabilné zamestnanie, viacerí jedno či dve deti. Neboli sme dvadsaťroční startupisti zo Silicon Valley.
Robili sme na tom cez víkendy a po večeroch, keď deti spali. Týždňové stretnutia sme mali o ôsmej večer v pondelok a často sa pretiahli do polnoci. Prvotná myšlienka bola jednoducho spraviť niečo, čo pomôže. My sme tie komentáre čítali ako bežní používatelia sociálnych sietí a videli sme, že to vieme zlepšiť. Až postupne sa nás začali pýtať, či pošleme aj nejakú faktúru. Vtedy nám došlo, že by sme mohli založiť firmu.
Z aktivizmu do biznisu.
Áno. A bola to veľká zmena mindsetu. Videli sme, že dopyt je väčší, než sme čakali. Začali sa nám ozývať firmy, od ktorých sme to nečakali. Medzi prvých klientov patrili Telekom, O2, dnes aj Slovenská sporiteľňa. Boli sme prekvapení, že hejty dostávajú aj oni. Tak sme založili firmu, ale stále sme to mali ako bočný projekt. Až keď sme videli, že máme klientov aj v Česku a celé to rastie, išli sme po prvú investíciu, aby sme mohli robiť na plný úväzok.
Kedy prišla tá prvá investícia?
Na konci roku 2023. Tri roky sme firmu mali ako vedľajšiu vec a od januára 2024 sme začali fungovať fulltime. Pomohla nám zobrať prvých zamestnancov a expandovať. Najprv prišla angličtina, potom čeština, poľština, rumunčina, nemčina. Dnes máme štrnásť jazykov.
Predstav si, že nás počúva človek, ktorý si pod umelou inteligenciou predstaví ChatGPT alebo AI mód v Google vyhľadávaní. Ako si máme predstaviť, čo sa deje, keď niekto napíše nenávistný komentár? Ako funguje Trollwall v pozadí?
Sú tam dve časti. Prvá je, ako tú AI trénujeme. Druhá, ako funguje v praxi.
Pri trénovaní, keď to vysvetľujem rodine, hovorím: predstavte si veľmi šikovného študenta, ktorý je inteligentný, ale o svete nevie nič. Nikdy nečítal nenávistné komentáre, nevie ich rozlíšiť. Tak my stiahneme desiatky a stovky tisíc komentárov a ukážeme ich reálnym ľuďom. Najprv sme to robili my zakladatelia, potom prekladatelia a experti na jazyk. V našom softvéri označujú: tento je vulgárny, tento nenávistný. Riadia sa našimi guidelines.
Čiže živí ľudia trénujú umelú inteligenciu.
Živí ľudia. A keď sa traja až štyria zhodnú na rovnakom označení toho istého komentára, až potom ho ukážeme AI a hovoríme jej: toto áno, toto nie.
A ľudia sa často nezhodnú. Niekto je inak citlivý, niekto nechápe kontext. My sme si naivne mysleli, že vieme natrénovať češtinu sami, a zistili sme, že nerozumieme českým nadávkam ani českému kontextu. Museli sme najať Čechov.
Funguje to vo veľkej škále. Stokrát ukazujeme, toto je čierna, toto biela, toto čierna, toto biela. Keď AI potom vidí nový komentár, povie si, toto je na deväťdesiat percent bližšie k čiernej. A vie, že je to nenávistný komentár, ktorý má skryť. Je za tým veľmi veľká matematika. Náš spoluzakladateľ má z umelej inteligencie doktorát a vedel by o tom hovoriť dve hodiny. Ja to len veľmi zjednodušujem.
V praxi sme oficiálne registrovaná aplikácia s Facebookom, Instagramom, YouTubom a TikTokom. Naši klienti pripoja svoje stránky k Trollwallu. Facebook nám pošle komentár, naša AI ho v priebehu sekúnd prečíta, vyhodnotí a pošle naspäť informáciu: skryť. Dnes už k tomu robíme aj analýzu sentimentu a ďalšie analýzy pre klientov.
Do akej miery sa to podarilo zautomatizovať? Sú prípady, ktoré AI klasifikuje s nižšou pravdepodobnosťou a musia ísť k človeku?
Vývoj nikdy nekončí. Modely updatujeme dvakrát do mesiaca vo všetkých jazykoch, lebo neustále prichádzajú nové dáta a nové témy. Z úplných začiatkov mám jeden vtipný príbeh.
Naša AI bola vtedy naučená na vážnych príspevkoch a ukazovali sme jej takzvané out of domain, niečo, čo nikdy nevidela. Objavila sa súťaž na Facebooku: napíšte svoje obľúbené jedlo. Ľudia písali „Guláš!“ „Sviečková!“ Naša prvá verzia bola matematicky naučená, že keď niekto použije jedno slovo a výkričník, pravdepodobne ide o novú nadávku. Tak nám AI začala hlásiť: toto je hejt!
Dnes je to lepšie, ale jazyk sa vyvíja a vstupujeme do nových krajín. Každý týždeň vezmeme určité množstvo komentárov, ukážeme ich reálnym ľuďom a overíme, či AI rozhoduje dobre, alebo treba dotrénovať.
Aké sú tie spôsobilosti, ktoré Trollwall ešte nemá, ale chceli by ste ich doplniť?
V prvej fáze sme brali do úvahy iba samotný komentár. Muselo v ňom byť priamo napísané niečo vulgárne alebo nenávistné. Fungovalo to dobre, lebo väčšina ľudí si servítku pred ústa neberie a píše hnusné veci úplne otvorene. Teraz sa model učí aj kontext celej diskusie a dokonca celého príspevku.
Konkrétny príklad. Máme klienta Amnesty International. Predtým musel niekto explicitne napísať, že treba utečencov utopiť, alebo že škoda, že sa ich utopilo iba deväťdesiatdva, veď sú to potkany. Takéto hnusné veci tam ľudia písali.
Dnes nám stačí, že pod príspevkom o tom, že sa potopila loď s utečencami a zomrelo desať detí, niečo, čo by sa na tomto svete nemalo diať, niekto napíše: veď sú to potkany. Tá veta sama osebe nenávistná nie je. V úplne inom kontexte je to len konštatovanie, že sú niekde na ulici. Ale tu, v tomto kontexte, je to otvorená dehumanizácia.
Presne. A tu vchádza umelá inteligencia, ktorá cez veľké jazykové modely dokáže vyhodnotiť kontext spolu s konkrétnym komentárom. To je niečo, čo klasické filtre založené na kľúčových slovách, ktoré sa dajú ľahko obísť, nedokážu. Ale stále sa pýtam, čo je tá schopnosť, ktorú Trollwall ešte nemá a chcel by si?
Toto je kontinuálne. Stále sa učíme rôzne kontexty v rôznych krajinách. Napríklad „poslať do plynu“ alebo „poslať Židov do plynu“. Nie v každej krajine je úplne jasné, čo to znamená. U nás v našom kontexte sa to, žiaľ, používa. Sú tam takéto kultúrne veci.
A kam sa Trollwall posúva ďalej. Klientom, ktorých to zaujíma, robíme analytiku, sentiment, čo ľuďom vadí, s ktorým produktom sú nespokojní, ako moc, ako im potom zlepšiť komunikáciu. Ďalšia vec, ktorú už naša AI robí, je pomoc s odpovedaním. Keď klient dostane otázku, aké je zloženie nejakého produktu, social media manažér nemusí hľadať v interných dokumentoch.
Čiže sa posúvaš od samotného moderovania a skrývania smerom k biznisovému servisu, ktorý klientom uľahčuje priamo reagovať na otázky.
Áno. Moderácia je to, na čom sme vyrástli, ale dnes je u veľkej časti klientov vlastne menšou časťou ponuky. A robíme to vo viacerých krajinách. Ešte dodám, že moderáciu vieme aj jemnejšie nastavovať. Napríklad futbalový klub. Máme niektoré futbalové kluby ako klientov, im neprekážajú trošku nadávky, taká je tam tá diskusia. V banke to už, samozrejme, vadí. Ale aj futbalovému klubu vadí, keď tam niekto napíše vyslovene rasistické veci. Vieme to nastaviť presnejšie ako predtým. Každý klient má iné požiadavky a každý jazyk je nová výzva.
Koľko jazykov teraz vlastne máte?
Štrnásť. Dokonca máme tri verzie španielčiny. Mali sme projekt v Latinskej Amerike a tá mexická španielčina je úplne iná. Ste vlastne na celom svete. Ja to vnímam tak, že Slovensko nie je váš primárny trh.
Slovensko je už malý trh. Pre nás je dnes dôležité Slovensko, Česko, Rumunsko, kade-tade po Európe. Niekedy už sám neviem, kde máme klientov. Máme aj klientov z USA, prvé testy z Kanady, prvé kontakty v Južnej Amerike.
Je dobré, keď sám nevieš, kde sú klienti.
Máme dobrých kolegov.
Si jeden z mála ľudí, ktorý vidí veľkú časť toho, čo sa reálne píše pod slovenskými verejnými profilmi. Necháme zatiaľ bokom, kto za útokmi môže stáť, k tomu sa dostaneme. Kto je terčom najčastejšie? Ženy, menšiny, cudzinci, konkrétni politici, novinári, médiá?
Čo vidíme, a nielen na Slovensku, ale aj v iných krajinách, z politického hľadiska je primárnym terčom vždy hlava štátu, premiér a šéf opozície.
Univerzálna rovnica.
Univerzálna rovnica. Polarizácia a politika sú polarizované všade, nielen u nás.
Rozdiel je v tom, že robíme aj s viacerými ženami v politike a vo verejnom priestore. Útoky a hejt na ženy sú iné, sú viac sexualizované. Sú tam fakt hnusné narážky na výzor, na rodinný život, niekedy aj na sexuálnu orientáciu.
Historicky najväčším terčom u nás bola pani prezidentka Čaputová.
To si všetci pamätáme.
Dnes je to viac o tom, že máme predsedu vlády a predsedu opozície. Schytáva to aj predseda vlády.
Naše čisté svedomie je, že keď bol atentát, my sme to brali principiálne. Naša AI je naučená moderovať nie názor, ale hejt a vyzývanie či schvaľovanie útoku alebo zabitia. Je jedno, či ide o premiéra Fica alebo premiérku Radičovú. Po atentáte sme čistili krížom-krážom, je úplne jedno, či to bolo nejaký smerom.
Som na to hrdý, lebo neberieme stranu, a vieme to ani v iných krajinách. Aj keď máme klientov v rôznych krajinách na opačných stranách spektra, kresťanské organizácie aj LGBT organizácie. Keď bol tragický útok na Tepláreň, vtedy sme ešte mali beta verziu Trollwallu, ponúkli sme ho všetkým LGBT organizáciám, dodnes nás používajú bezplatne.
Kresťanské organizácie sa nás pýtali, či keď niekto napíše, že neschvaľuje manželstvo medzi gejmi, či to budeme skrývať ako nenávistný prejav. Povedal som im: vyskúšajte si to, napíšte to tam a uvidíte priamo v Trollwalle, máme úplnú transparentnosť. Napísali to a nie, lebo AI nie je naučená na to, či ste za niečo alebo proti niečomu, ale ako to napíšete. Môžeme mať rôzne názory a môžeme ich povedať slušne, alebo ich môžeme napísať veľmi hejtovo z každej strany. Kým niekto píše svoj názor slušne, nie je moderovaný.
A presne tú tenkú čiaru sa dnes pokúsime rozlúsknuť, kde leží predel medzi názorom a hejtom. Lebo je úplne jedno, či komentár prichádza z centristickej, pravicovej alebo ľavicovej strany spektra. Ide o to, či nesie v sebe nenávisť, alebo nie.
Presne tak. Naše guidelines máme nastavené štandardne. Definícia nenávistného prejavu, to sú útoky na skupinu osôb na základe národnosti, sexuálnej orientácie, inej identity, ďalej výzvy na násilie a schvaľovanie násilia. Potom sú tam vulgarizmy. Väčšina komentárov sú skôr vulgarizmy, čo je, ako sa hovorí, lawful but awful. Je to zlé na sociálne siete, ale nejde o tie naozaj nenávistné prejavy.
Existuje teória niekoľkých stupňov ku genocíde. Jeden z týchto stupňov je dehumanizácia.
Je to taký všeobecný framework, ktorý vznikol po druhej svetovej vojne.
Áno, a aplikuje sa na rôzne konflikty. Preto si veľmi dávame pozor na dehumanizáciu, je jedno akej skupiny osôb. Mali sme prípad „pliaga“. Pamätáš si ten case?
Pripomeň mi ho.
Niekto napísal, že LGBT je pliaga, a bola o tom diskusia.
Podľa našich definícií povedať, že nejaká skupina osôb je pliaga, je forma dehumanizácie. „Pliagu treba vykynožiť.“ V komentároch boli ľudia, ktorí písali, že LGBT ľudia sú pliaga, a iní, ktorí potom napísali opačne, že kresťania sú pliaga.
Bola o tom diskusia, nie u nás, ale my sme samozrejme oboje moderovali.
Áno, k tomu som mal aj virálny post na Facebooku. Vtedy som napísal, že pliaga som aj ja.
Na to máme naučenú umelú inteligenciu. Na seba môžeš povedať skôr čokoľvek, kým to nie je vulgarizmus. Ten by sme ešte odmoderovali. Ale keď o sebe povieš „ja som pliaga“, to je v poriadku.
To je rozlišovanie v kontexte.
Áno, a bolo za tým veľa trénovania. Našťastie už keď bola kauza pliaga, bolo to pod naším guideline a AI to vtedy pochopila. V ďalších krajinách sú rôzne podobné kultúrne prípady, na ktoré sa snažíme trénovať. Nikdy to nekončí a určite nie sme neomylní.
Hlavne pracujeme na veľkej škále. Zatiaľ sme skontrolovali už cez šesťdesiatosem miliónov komentárov, väčšinou mimo Slovenska, a z toho sme skryli a odmoderovali cez dvadsať miliónov. Máme klienta s pol miliónom komentárov mesačne. O koľko je lepšia diskusia pre tých milióny ľudí, ktorí ju sledujú, keď z nej zmizne dvadsať percent toho, kde si ľudia nadávajú a schvaľujú si násilie. Diskusia potom nie je ružová, neznamená to, že všetci so sebou súhlasia.
Ale je konštruktívnejšia.
Áno. Neriešime argumentáciu z Oxfordu, ale priestor, v ktorom diskusia môže prebehnúť, namiesto toho, aby sa ľudia sústredili na hejt a mali nutkanie reagovať, odsúdiť. Tam to potom vôbec nie je.
Vidíš v dátach aj časové vlny alebo iné vzorce? Dni, keď je diskusia horšia ako inokedy? Pri nejakej udalosti, pred voľbami, pri polarizujúcich výrokoch, keď sa niečo stane?
Niekoľko vzorcov sme videli na Slovensku aj v iných krajinách. Pri veľkých udalostiach, či už terorizmus alebo niečo podobné. Robili sme analýzu pri teroristickom útoku v Mníchove pred voľbami v Nemecku, alebo pri útoku na pražskej univerzite. Vtedy sa všeobecne zvyšuje počet komentárov, lebo veľa ľudí udalosť zasiahne, chcú sa vyjadriť. S tým sa zvyšuje aj počet vulgárnych a nenávistných prejavov.
Ak je teroristický čin spôsobený niekým z minority, alebo na niekoho z minority, spustí sa to. Videli sme to v Nemecku, ktoré je všeobecne lepšie moderované, a aj tam sme na verejných profiloch top nemeckých politikov videli vo veľkej škále schvaľovanie násilia proti minoritám.
Voľby sú vždy hejtovejšia diskusia. A potom vidíme, kedy je naopak pokoj. V lete je menej hejtu, ľudia sú vonku, na dovolenkách. Cez Vianoce ho je tiež menej.
Inak cez rok je zaujímavá štatistika, ktorú máme zverejnenú aj na bezhejtu.sk. V noci sa počet komentárov všeobecne znižuje, ale percento hejtu sa zvyšuje. Bežne je to nejakých jedenásť až trinásť percent.
Niektorí majú problémy so spánkom.
Buď problémy so spánkom, alebo majú takú prácu, alebo sú v noci ľudia prchkejší. Sú za tým psychologické fenomény.
Zaujímavé je sledovať diskusiu, keď je už moderovaná. Zo štúdií vieme, že pri nemoderovanej diskusii časom dominuje hlučná menšina, a ľudia, ktorí sú menej istí svojím názorom, alebo sú z menšín, niekedy aj iba ženy, sa zapájajú menej.
To si viem predstaviť. Tak ako v bežnej skupine, keď tých ľudí dáš do miestnosti a sú tam krikľúni, tí ostatní, ktorí majú čo povedať a sú možno na tom kognitívne lepšie ako tí krikľúni, povedia si: načo. Aj tak sa tu o ničom diskutovať nebude, lebo títo kričia.
Presne. „Nechcem, aby na mňa kričali.“ Tým pádom si je dotyčný istý, že tá diskusia de facto neprebehne. Preto hovoríme, že podporujeme slobodu slova práve tým, že dávame bezpečnejší priestor všetkým sa vyjadriť, nielen tým, ktorých nikdy nikto nezastaví.
Pre mňa to dáva úplný zmysel. Sociálne siete, a hovorím to už od roku 2018, majú ako jeden zo svojich toxických prvkov to, že zvyšujú dosah ľudí, ktorí majú práve takúto tendenciu byť toxickí, hluční, mimoriadne nekonštruktívni. A zakrýva sa to pod rúškom slobody slova.
Pritom nejde o slobodu slova, ale iba o slobodu dosahu. Áno, každý máme slobodu vyjadriť svoj názor, na tom sú postavené naše demokracie. Ale sociálne siete ľuďom, ktorí by inak nikdy nemali taký dosah, ten dosah umelo vytvárajú, aby vybičovanou atmosférou udržali ľudí na sieti, servírovali im reklamy a generovali zisk.
To je tá stará formulka, ktorú sa vy pokúšate vrátiť trošku do normálu, bližšie k seriózenj ľudskej diskusii. A na základe dát, ktoré máte, vieš povedať, či sú za tými príspevkami autentickí ľudia, alebo ide o boty, či je tá aktivita koordinovaná? Nie všade, ale na exponovaných účtoch, politických účtoch, povedzme pred voľbami.
Moja skúsenosť je, že autentickí užívatelia sa často organizujú, alebo sú organizovaní, v skrytých skupinách na Facebooku, kde im je dané: aha, tuná niekto politik XY niečo zavesil, choďte tam a povedzte mu to svoje. A oni sa potom húfne nahrnú a povedia mu to svoje. Vidíš takéto vlny v dátach?
Určite, hlavne preto, že sme robili na voľbách vo viacerých krajinách. Slovensko v tomto nie je výnimočné. Videli sme aj koordinovanú aktivitu, hlavne keď pretláčali nejaký naratív. Vyslovene to bolo na voľbách v Rumunsku. Tam bol veľmi pretláčaný jeden naratív, bolo veľa toho na moderovanie a vidíme aj typy profilov.
Ťažšie je odhadnúť, koľko z toho je naozajstný človek za fejkovým profilom a koľko už je automatizácia. Vyvíja sa to. Platformy majú najviac informácií a buď to nevedia úplne zachytiť, alebo aj nechcú. Naše informácie sú limitované.
Koordinácia tam je. Naši klienti, hlavne v politických kampaniach, často hovoria, že na konci dňa im je takmer jedno, či komentár napísal fejkový koordinovaný profil alebo reálny človek. Ak ide o niečo nenávistné, hnusné, ide demobilizovať kandidáta alebo kandidátku, oni to chcú jednoducho schovať. Tam to nemá byť.
A potom je to na analytikoch, ktorí sa pozrú spätne, či to bolo koordinované. Ale to už je po voľbách, už je rozhodnuté. My sme na rozdiel od analytických nástrojov, ktoré pracujú s minulosťou alebo s budúcnosťou, tu a teraz. Keď teraz niekto napíše komentár pod profil prezidenta Pavla, my ho v priebehu sekundy skryjeme.
Ten dataset by eventuálne mohol slúžiť aj výskumu, prípadne škálovať či vylepšovať služby.
Určite áno.
Dostaňme sa k platformám. Už sme to trošku načali. Meta, ktorá prevádzkuje Facebook a Instagram, má ročné príjmy vyššie ako celý slovenský štátny rozpočet, zrejme aj rozpočty okolitých krajín dohromady. Dlhodobo deklaruje, či už cez novinárov, tlačové správy, alebo vlastných novinárskych influencerov aj na Slovensku, že obsah moderuje veľmi podobne ako vy alebo na celom svete.
Pamätáme si jeden taký exponovaný príklad z covidu. Prvé tri týždne sme tu mali nevídanú vlnu solidarity, šili sme si rúška, podporovali opatrenia. A zrazu začali prichádzať podvody s rúškami, respirátormi, rôznymi pochybnými bylinkami a neviem čím všetkým. Facebook problém zachytil, deklaroval, že ho bude riešiť, prešlo to cez tlačové agentúry do všetkých médií, a nestalo sa absolútne nič.
To isté s radikálnymi až krajne pravicovými profilmi a influencermi, ktoré by Facebook podľa vlastných komunitných pravidiel mal banovať. Nedeje sa tak. A napriek tomu, že Facebook deklaruje, že robí túto prácu, malý slovenský startup si na nej postavil biznis. Ako si to vysvetľuješ?
Oni nejakú moderáciu robia, ale nie tú, ktorú sledujeme my. Čo Meta robí veľmi dobre, je moderácia troch vecí. Boj proti detskej pornografii, obchod so zbraňami a obchod s drogami. Na týchto si dáva veľmi záležať. Všetko ostatné je optional, na tlačovke povieme.
Tam je vidieť, že všetci kvázi bojovníci za slobodu slova sa nikdy nesťažujú na toto. Nikto nepíše: kde je moja sloboda slova dávať detskú pornografiu na internet? Tam sa neozve nikto. Ale keď napíšem niečo nenávistné a niekto sa proti tomu ozve, hneď sú za slobodu slova všetci.
Vidíme, že na týchto troch oblastiach si dávajú pozor, lebo regulácia je tam silná, pushback by bol silný a pre značku by to bolo veľmi zlé. Inde si pozor nedávajú. Sú podvody. Vie sa, že priznali, že desať percent reklám je podvodných.
Desať percent globálneho zisku.
Globálneho zisku. To sú také peniaze, že najvyššia pokuta, ktorú môžu dostať za porušovanie najvyšších noriem v Európskej únii, je len malinký zlomok obratu, ktorý majú na podvodoch.
Nie je to technologický problém. Chápem, že na veľkej škále vo viacerých krajinách je to technicky ťažké, ale hlavne to nie je fokus. Posledné roky manažment Facebooku, Googlu a všetkých veľkých technologických firiem rieši, kam dať peniaze. Vývoj, AI, mení sa ekonomika, mení sa paradigma.
Súťaž, kto prvý dôjde k cieľu.
Sociálne siete sú starý biznis. Veľmi dobrý biznis, ale starý. Je to staré AI. V deväťdesiatych rokoch bolo super mať tlačené médiá, a dnes sú síce stále pekné, ale veľa nezarábajú. Oni vedia, že sa paradigma mení, biznis sa mení, a fokus dávajú inde. Že v tom všetkom je nejaká moderácia, no veď vieme, že Zuckerberg si sadol minulý január pred inauguráciou a povedal, zmeníme pravidlá v Amerike, niektoré veci nebudeme moderovať tak, ako predtým.
Reálne sa to zmenilo aj na sociálnych sieťach. Predtým Facebook znižoval reach politického obsahu aj klasických médií, ako sú Aktuality. Od januára minulého roka, keď to Zuckerberg ohlásil, vraj v Amerike, ale zmenili to aj v Európe, reach sa zvýšil. Vieme to z viacerých krajín a od iných analytikov. Naši klienti zrazu mali štyri- až päťnásobne viac komentárov, lebo sa zvýšil reach.
Jedna z vecí, ktoré povedali, bola, že už nebudú uťahovať uzdu politickým profilom, politici sú free for all, môžu úplne všetko.
Áno. Je to o fokuse. Reálne sa im zatiaľ nič nestalo. Sociálne siete majú pozitíva, majú negatíva, ale je to stále taký neregulovaný biznis, akým boli kedysi automobily. Boli dekády bojov, kým automobilky museli dávať bezpečnostné pásy, hoci patent bol zadarmo. Boli to dekády, súdy a všetko, kým sa to dotlačilo. Dnes to berieme ako samozrejmosť. To isté sa stane aj sociálnym sieťam, ale už začína nový frontier, čo s AI, čo s chatbotmi.
Rovnaký príbeh je s tabakom. Pamätáme si dvadsiate roky dvadsiateho storočia, keď bežali reklamy o tom, že keď žena chce byť skutočne nezávislá od muža a naskočiť na vlak feministického hnutia, musí si zapáliť Chesterfieldku. To bola vtedy veľká reklama. Mnoho žien v Spojených štátoch začalo práve preto fajčiť. Kým sme sa dostali do stavu, kedy je tabak v spoločnosti všeobecne odsúdený, prešli desaťročia. Verím, že do takého stavu sa veľmi skoro dostaneme aj pri sociálnych sieťach a uvedomíme si, že naozaj nie sú pre každého, nie v tomto stave. Ešte dodám, že sa to zhoršilo v poslednom roku či dvoch aj kvôli tomu, že to sú americké firmy a regulačný rámec pod Trumpom sa veľmi uvoľnil. Business first a nech zhorí všetko ostatné, hlavne v Európe.
Áno. V Amerike sa robia aj štúdie, myslím, že na Stanforde, kde postavili fejkovú sociálnu sieť, dali tam študentov, ktorí vedeli, že ide o test, a skúšali meniť dizajn. Nie moderáciu, ale ako sieť ukazuje obsah, ako komunikuje, ktoré veci ukazuje, koľko lajkov, k čomu nabáda. A tam videli rozdiel, čo viedlo viac k polarizácii a čo menej. Ono to je aj vec dizajnu.
Akoby sa dala nadizajnovať taká európska sociálna sieť, ktorá by bola atraktívna a zároveň netoxická?
Vznikajú alternatívy, či už postavené na Bluesky, Mastodonte, alebo na nových protokoloch. Problém je, že ja, ty, asi až tak často nie, ale moja mama, moji rodičia, moja babka, veľa ľudí má sieť na tých amerických platformách. Tam ideš, lebo s nimi vieš komunikovať. Nové siete majú ťažšiu adopciu. Dá sa to spraviť, len to bude chcieť čas.
Vidíme aj pushback. Twitter je v Európe je na ústupe, normálny človek tam už moc nechodí, respektíve tam nekomunikuje. Naši klienti ho používajú už len na jednosmernú komunikáciu. V Spojených štátoch ešte beží, hlavne v Silicon Valley je stále silný. Zmena príde, ale chce to čas a hlavne veľké pokuty. A teraz vidíme, ako dopadne DSA.
To je tá hlavná veľká celoeurópska regulácia sociálnych sietí. A je to aj niečo, čo Trumpova administratíva dáva vyslovene na rokovací stôl, keď rokuje o bezpečnosti, clách a podobných veciach. Vy tieto americké úspešné biznisy nebudete žiadnym spôsobom regulovať, lebo sankcionujete úspech.
Nepochybne.
Digitálna kolónia.
Áno.
To na Infosecurity riešime dlhodobo. Mali sme aj iný podcast, ktorý vrelo odporúčam, s Jozefom Holým, ktorý má Kanárky v sieti spolu s Alexandrou Alvarovou v Čechách, dá sa nájsť na našej stránke. Hovoril o tom, čo už dlho hovoríme viacerí. My sa de facto hýbeme v informačnom priestore, ktorý nie je náš a spravujú ho súkromné firmy, ktoré nie sú ani v našej jurisdikcii.
Nevieme ich donútiť ani k najmenšej miere transparentnosti. Preto máme DSA, akt o digitálnych službách, na celoeurópskej úrovni. Ako jediná krajina, Slovensko či Česko, by sme nevymohli nič. Preto je to balík Európskej únie. Ide len o to, aby sme to dokázali efektívne vymôcť. Politici, ktorí o tom hovoria, napríklad menovite prezident Macron vo Francúzsku, hovoria o digitálnej suverenite.
Veď v Európe aj školy našich detí bežia na emailových účtoch Microsoftu a Google, a to nie sú európske riešenia. Ani nehovorím o kritickej infraštruktúre štátu. Keď nám to jedného dňa budú chcieť vypnúť, vypnú nám to. Alebo obmedzia, alebo dôjde k úniku dát. Ale to už by sme zachádzali úplne inde. Dôležitá je digitálna suverenita a fakt, že sociálne siete sú zahraničné firmy, ktoré de facto manipulujú informačný priestor, rozhodujú o tom, kto aký hlas dostane v predvolebnej kampani, čo určuje formu našej demokracie.
Preskočili sme asi štyri otázky, ale poďme ďalej. Si nielen zakladateľom firmy, ale aj spoluorganizátor iniciatívy #bezhejtu. Tá iniciatíva v rámci občianskeho aktivizmu niekedy kritizuje konkrétnych ľudí vo verejnom živote, menovite politikov, za konkrétne výroky. Trollwall je komerčný nástroj, ktorý tých istých ľudí môže zajtra moderovať na ich diskusii. Nie si vlastne pravidelne v strete záujmov?
Dobrá otázka. Zmyslom iniciatívy #bezhejtu je monitorovať a robiť analýzu toho, koľko hejtu je na sociálnych sieťach, primárne na Facebooku. Koľko je to v komentároch, kde sa to vyskytuje. Nesledujeme iba politické profily, ale aj médiá, firmy, inštitúcie a mimovládne organizácie. Spolu s agentúrou ČSM sme publikovali niekoľko analýz, nájdete ich na bezhejtu.sk.
Áno, niektoré médiá sú naši klienti, takže môžeme byť v strete záujmov. Ale my v analýze vyzývame, aby sa pridali k tomu, že budú moderovať. Či to bude ručne, či iným nástrojom, alebo Trollwallom, je nám jedno. Nám záleží na tom, aby informačný priestor mal menej hejtu. Zo štúdií vieme, že sedemdesiatdeväť percent užívateľov sociálnych sietí naozaj číta komentáre a robí si podľa nich názor.
Poznáme to ako pravidlo deväťdesiat, deväť, jedna. Alebo deväťdesiatjeden, deväť, jedna.
Sedemdesiatdeväť percent ľudí číta, deväť reaguje, jedno percento tvorí.
Jedno percento tvorí.
Komentárové sekcie sú dôležité aj preto, že ich číta veľa ľudí. Pre jednotlivých hráčov to znamená, že je dobré si v tomto priestore upratať. Inak to vyzerá, že sa o svoj digitálny priestor nestarajú.
Presne preto. Je tam spoločenský dopad, ale aj biznisový. Hovoríme klientom: existuje štúdia z Ameriky, ktorá ukázala, že keď pod reklamou na sociálnej sieti bol vulgárny, toxický alebo nenávistný komentár, click-through rate sa znižoval o desať percent. Má to teda priamy biznisový dopad. Preto to robia veľké svetové značky, hej, Coca-Cola si pod svojimi reklamami nenechá hnusné vulgarizmy, lebo vie, že to negatívne ovplyvní biznis. Je to ochrana brandu.
Vďaka tomu, že máme komerčných klientov, ktorí si nás platia, môžeme z toho podporovať mimovládne organizácie. Asi štyridsať organizácií, na Slovensku aj v iných krajinách, ktoré sú často terčom hejtu, niekedy aj v koordinovaných vlnách. Im poskytujeme Trollwall bezplatne.
Napríklad Infosecurity.
Napríklad Infosecurity.
Čo by si poradil našim poslucháčom a poslucháčkam, ktorí si zajtra ráno otvoria Facebook a vidia tam tú istú stoku, na ktorú sú zvyknutí už pomaly každý deň. Aký je jeden konkrétny krok, ktorým by mohli prispieť k tomu, aby bol ten náš informačný svet čistejší, zrozumiteľnejší a prívetivejší?
Kde môžeme pomôcť všetci, je napísať niekedy niečo pozitívne. Naozaj. Nedávno som videl na Facebooku status kamarátky, ktorá pochválila vodiča MHD. Nezabuchol jej dvere, keď dobehla, otvoril ju a počkal na ňu. A povedal som si, ako málo vidím niečo také pozitívne na sociálnych sieťach. Málokedy hovoríme niečo pozitívne. Aj v komentároch. Nie je to len Slovensko. U nás je k tomu navyše tá kultúra východného bloku, vidíme poloprázdny pohár, vidíme, že keď sa niečo podarí, nabudúce to nevyjde. Tá mentalita.
Niekedy niekoho pochváliť. Či už športovca, politika, médium, článok, novinára. Každodenného hrdinu. Toho vodiča autobusu. Stále verím, že keby sme veľa tých hejterov, ktorých na sociálnych sieťach moderujeme, stretli v reálnom živote, jednak by nám tie hnusné veci väčšina nepovedala, a jednak by sme možno našli veľa spoločného. Fandíme rovnakému športovému klubu, máme radi rovnakú kapelu. Tie veci, ktoré nás spájajú ako občanov. Sociálne siete nám, žiaľ, ukazujú to, čo nás rozdeľuje.
Presne tak.
Treba na to myslieť. Videl som niekedy babičku, ktorá mala na profile vnučku s kvetinkami. Povedal som si, milá pani, vedel by som sa s ňou pekne porozprávať. A potom napísala niekomu, nech zdochne. Sme rôzni. Niekedy je za tým nejaká iná psychológia. Niekto má naozaj zlý deň. Nie všetci hejteri sú prefíkaní ovplyvňovači z ruskej hemisféry.
To je dobrý point a ďakujem, že si ho vytiahol. Veľká väčšina ľudí je úplne zvyknutá na ten spôsob, akým sociálne siete fungujú. Inherentne, vnútorne, chápe, že takto majú reagovať, že tam môžu vyliať zlosť, byť tými klávesnicovými hrdinami. A potom tá ďalšia vec, ktorú si povedal, by som rád podčiarkol. Nevieme, či by sme si s tými ľuďmi nerozumeli, či by sme na niečom nesadli, či by sme si v tej povestnej krčme nevedeli povedať veľa dobrého a možno sa spriatelili. To je jedna zo základných poučiek štúdia propagandy a toho, ako funguje. Tam, kde začína dialóg medzi ľuďmi, propaganda končí.
Presne. Sú to susedské vzťahy. Vzťahy s inými rodičmi v škôlke, v škole. Aj ty máš deti. My nevieme, koho kto naozaj volí. Nevieme, či volí niekoho, s kým nesúhlasím. Nevieme, čo títo ľudia robia na sociálnych sieťach, ideálne tam ani nie sme. Stojíme spolu na ihrisku.
Budujeme si vzťahy v spoločnosti. Toto je najťažšie, uvedomiť si, že sociálne siete sú veľmi posunutá bublina. V dobrom aj v zlom, ale často v zlom. A keď sa potom robia naozajstné rozhodnutia, či už občianske, komu pomôžeme počas covidu, komu pomôžeme pri povodni, nemáme myslieť na to, že všetci sú zlí, všetci ma nenávidia a som tu sám pre seba. Lebo takto sa rozpadá spoločnosť. A my sme veľmi mladý štát. Sme tu tridsať rokov. O tridsať rokov tu nemusíme byť, a určite tu nebudeme, ak sa Slováci a Slovenky budú navzájom nenávidieť. Toto nie je špecifikum Slovenska. Polarizácia stúpa všade vo svete, aj kvôli zahraničnému ovplyvňovaniu, aj kvôli sociálnym sieťam. Preto sa treba vrátiť do reálneho sveta.
Vo svete, v ktorom sa rozpadá poriadok založený na pravidlách, samostatnosť malej krajiny, ktorá ide proti svojim spojencom a partnerom, dnes negarantuje vlastne nikto. Preto je dôležité, aby sme tie svoje sociálne siete, nie online, my predsa máme aj tie naozajstné, ľudské, znova budovali.
Za mňa by to bolo, jednak napísať niečo pozitívne pod komentár, ale aj povedať niečo pozitívne niekomu, koho nepoznáš, koho stretneš. Pomôcť susede s nákupom, babičke cez prechod pre chodcov. Banálny akt ľudskosti. Niečo, čo ide priamo proti tomu, ako na nás sociálne siete pôsobia, a čo tu od nepamäti bolo. Myslím, že toto nám ako spoločnosti tiež trošku môže pomôcť.
Infosecurity.sk je neziskový projekt. Pracujeme vo verejneom záujme a môžeme to robiť iba vďaka vám! Ak Vám naša práca dáva zmysel, podporte nás prosím pravidelným darom.
