Nový Bing Tvorca obrázkov od spoločnosti Microsoft je umelou inteligenciou (AI) poháňaný generátor. Po zadaní kľúčových slov alebo fráz nástroj vygeneruje žiadaný obrázok. Tvorca obrázkov je voľne dostupný, a teda ľahko zneužiteľný, napríklad za účelom generovania lacnej propagandy.
Kam nemôže čert, tam pošle 4chan
Podľa vyšetrovania portálu Bellingcat použili prispievatelia na 4chane tento nástroj na vytvorenie antisemitskej propagandy. Webstránka 4chan je neslávne známa frekventovaným extrémistickým obsahom.
Tvorca obrázkov bol zneužitý na vytváranie realisticky vyzerajúcich karikatúr Židov, ako napríklad „pripravujúcich sa zjesť bábätko, prenášajúcich migrantov cez hranicu USA […] a páchajúcich zločiny z jedenásteho septembra“. Okrem Tvorcu obrázkov boli použité aj voľne prístupná Stable Diffusion či Photoshop.
Samotný Tvorca obrázkov sa riadi zásadami používania spoločnosti Microsoft a je veľmi citlivý na slová, ktoré sú zadané ako podklad pre generovanie obrázkov. Obrázok nebude vygenerovaný, ak napríklad človek zadá slovné spojenie „Donald Trump v baletnej sukni“. Podľa zásad používania totiž ide o šikanu či obťažovanie.
Okrem tejto kategórie si nástroj dáva pozor aj na slová či slovné spojenia, ktoré by mohli vygenerovať obsah zobrazujúci vykorisťovanie, zneužívanie, sebapoškodzovanie, grafické násilie či terorizmus. Nástroj používateľa upozorní, že pokiaľ sa situácia bude opakovať, ďalšie používanie nástroja mu nemusí byť umožnené.
Tento bezpečnostný prvok je však možné relatívne ľahko obísť. Investigatívnemu portálu Bellingcat sa podarilo toto zabezpečenie prekonať. Ako portál približuje, slová ako „nazi“ generátor odmieta. Názov nacistickej vojenskej jednotky ako „SS-Einsatzgruppen“ však nástroj za porušenie podmienok používania nepovažoval. Celé zadanie pre generátor znelo „Macko Pu ako veliteľ SS-Einsatzgruppen navštevujúci Sachsenhausen. Čiernobielo.“
V dobe písania tohto článku však už Tvorca obrázkov generovanie na základe výzvy, ktoré použil Bellingcat, odmietol.
Problematický a minimálne moderovaný obsah
Problematické príspevky možno nájsť v každej sekcii webstránky 4chan, avšak rasistické, homofóbne a antisemitské príspevky sa najčastejšie vyskytujú v sekciách /pol/ (politicky nekorektné) či /b/ (náhodné).
4chan komunita pozostáva najmä z incelov (muž, ktorý nedobrovoľne dodržiava celibát), trollov či krajne pravicovo orientovaných používateľov. Webstránku navštívi mesačne približne 22 miliónov používateľov. Diskusné fórum vzniklo v roku 2003, a už v tom čase bolo obľúbené, keďže ponúkalo „takmer nekontrolovateľnú slobodu slova“.
Web umožňuje prispievať používateľom anonymne, čo vo veľkej miere uľahčuje šírenie akéhokoľvek obsahu bez obáv z možných následkov. V skutočnosti je až 90 % príspevkov na platforme uverejnených plne anonymnými používateľmi.
Jedným z používateľov fóra 4chan bol aj páchateľ teroristického útoku pred bratislavským barom Tepláreň. Útok sa odohral v polovici októbra 2022, o život prišli dvaja mladí ľudia a jedna žena utrpela zranenia.
Obsah je však na webstránke dostupný len relatívne krátko, v závislosti od toho, aká aktívna je daná sekcia. Po určitom čase sú príspevky presunuté do archívov. Bellingcat uvádza, že od 1. októbra 2023 do 6. októbra 2023 bolo v archívoch 4chanu 254 príspevkov obsahujúcich URL Tvorcu obrázkov od Microsoftu. Tieto príspevky zároveň obsahovali obrázky vygenerované pomocou AI poháňaného nástroja.
Komunita má navyše vytvorený aj vlastný rasistický slovník. Datuje sa do roku 2016 a cieľom jeho vytvorenia bolo vyhnúť sa reguláciám spoločnosti Google počas používania Google vyhľadávača.
Spoločnosť v približne rovnakom čase spustila novú AI s názvom Perspective API. Tá je určená pre moderátorov a má za úlohu identifikovať negatívne komentáre. Perspective API zhodnotí, ako veľmi „toxický“ daný komentár je. Kritériami pre hodnotenie sú urážky, vulgarizmy, útoky na identitu osoby, vyhrážky a sexuálne explicitné vyjadrenia. Slovník mal zabezpečiť, že hanlivé výrazy označujúce farbu pleti či sexuálnu orientáciu nebudú týmto či iným nástrojom označené za negatívne.
Internetová komunita je známa silným mobilizačným potenciálom
Nejde o prvý prípad, keď prispievatelia na 4chan použili AI na šírenie nenávisti. V januári 2023 bol softvér ElevenLabs zneužitý na vytvorenie niekoľkých deepfake audio materiálov. Deepfake audio súbory boli nahrané na platformu 4chan. Na jednom z nich napríklad herečka Emma Watson čítala kúsok z knihy Mein Kampf.
V minulosti bola extrémistickými používateľmi prevzatá aj komiksová postavička Pepe the Frog (Žaba Pepe). Antisemitské a rasistické komiksy s Pepem boli zdieľané na kanáloch 4chanu, 8chanu a Redditu.
Diskusné fóra ako 4chan umožňujú enormne rýchlu mobilizáciu svojich používateľov. V roku 2013 vyhlásila Taylor Swift súťaž pre svojich fanúšikov. Ten, kto získa najviac hlasov, dostane možnosť speváčku stretnúť a odfotiť sa s ňou.
Používateľom 4chan sa podarilo vďaka masívnej mobilizácii túto súťaž takmer vyhrať pre istého Charlesa. Súťaž však bola napokon zrušená, pretože bola „kompromitovaná“. V dôsledku takmer neregulovaného obsahu na webstránke však môže mať takáto masívna mobilizácia aj oveľa horšie následky ako len výhru v súťaži.
Taktiež, známa hacktivistická skupina Anonymous začala ako malé trollie hnutie práve na webstránkach 4chan. Tieto prípady ukazujú, že 4chan, podobne ako iné fóra či sociálne siete, umožňuje rýchlu a ľahkú mobilizáciu. To môže byť lákadlom práve pre skupiny a príslušníkov krajnej pravice.
Minimálne moderovaný obsah dovoľuje šírenie extrémistických príspevkov, nenávistných prejavov či iného škodlivého obsahu. Anonymita 4chanu zabezpečuje, že autorov príspevkov prakticky nejde vystopovať. Tieto faktory uľahčujú radikalizáciu krajnej pravice a šírenie extrémistických názorov.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
