Upozornenie: Článok se venuje témam sexuálnej exploitácie (detí), pornografie a explicitnému obsahu.
Od nevinných vtipov cez umenie až po propagandu a politické manipulácie – technológia deepfake využívajúca tzv. generatíve adverzné siete (GANs) dokáže vďaka strojovému učeniu prijať obrovské množstvo vstupných dát. Umelo vytvorené videá, fotografie či hlasové nahrávky tak začínajú byť čoraz sofistikovanejšie.
Zásadne problematickou začína byť aj tvorba nekonsenzuálneho pornografického obsahu. Ohrozené sú predovšetkým ženy a minority. Prípady, často súvisiace s protizákonnými finančnými operáciami, začínajú rapídne pribúdať. Stále však chýba dôsledná legislatíva, ktorá by oblasť regulovala, a potenciálne obete dostatočne chránila.
Štatistiky potvrdzujú skutočné ľudské príbehy
Report 2023 Stav deepfakes (pozn. z originálu State of Deepfakes) bezpečnostnej skupiny Home Security Heroes uvádza, že celkový počet deepfake videí stúpol oproti roku 2019 až o 550 %. Takmer všetky z nich (98 %) pritom tvorí pornografický obsah. Primárnymi objektmi deepfake pornografie sú v 98 % prípadoch ženy pôsobiace najmä v zábavnom priemysle. Vo viac ako polovici obsahu figurujú kórejské herečky a speváčky.
Do povedomia verejnosti začínajú prenikať osobné príbehy žien, ktorých fotografie, prístupné na profiloch na sociálnych sieťach, boli takýmto spôsobom zneužité. Deje sa tak napríklad prostredníctvom dokumentárnych snímkov, akým je Another Body, v ktorom 22-ročná študentka Taylor (pozn. pseudonym použitý tvorcami v záujme ochrany identity) zisťuje, že zďaleka nie je jedinou obeťou deepfake pornografie vo svojom okolí.
Vytvoriť deepfake pornografický obsah je vďaka umelej inteligencii mimoriadne jednoduché a finančne nenáročné. Explicitný materiál môže byť následne rýchlo šírený v online priestore a využitý na vydieranie alebo kyberšikanu – ako tomu bolo v prípade viac ako 20 maloletých dievčat zo španielskeho mesta Almendralejo. Najmladšie z nich malo iba 11 rokov. Ich fotografie z Instagramu boli pomocou AI pretvorené na pornografiu, a následne šírené vo whatsappových skupinách.
Prípady AnyDream a DeepNude
Investigatívny projekt Bellingcat nedávno prišiel so zisteniami týkajúcimi sa peňažných operácií napojených na nekonsenzuálne pornografické deepfakes vytvorené na platforme AnyDream.
Tá využívala službu Stripe na utajené platby za vytváranie nekonsenzuálneho pornografického deepfake obsahu. Platby boli presmerované prostredníctvom webovej stránky tretej strany na Stripe účet vedený pod menom Junyua Yanga, zakladateľa AnyDream. Dialo sa to pravdepodobne preto, aby sa predišlo ich vystopovaniu. Stripe, podobne ako obdobná služba PayPal, totižto zakazuje platby za obsah pre dospelých.
„Spoločnosť [pozn. AnyDream] má viac ako desaťtisíc sledovateľov na Instagrame a viac ako tritisíc členov na serveri Discord, kde mnohí používatelia zdieľajú svoje výtvory vytvorené umelou inteligenciou,“ uvádza autorka analýzy Kolina Koltai. AnyDream pritom v minulosti čelila obvineniam, že umožňuje tvorbu obsahu súvisiaceho so sexuálnym zneužívaním detí.
Po zverejnení zistení Bellingcat boli server Discord, účet služby Stripe, aj subreddit pre AnyDream vymazané.
Podobné vyšetrovanie, tentokrát na sieti Telegram, nedávno realizovala aj firma Sensity špecializujúca sa na overovanie totožnosti. Sensity uvádza, že pomocou deepfake softvéru DeepNude bolo zneužitých až 680-tisíc identít.
Analýza tiež ukázala, že hlavným faktorom popularizácie deepfake pornografie je monetizácia a nedobrovoľný aspekt pornografického obsahu, tzv. revenge porn (pornografia z pomsty). „Zdá sa, že väčšina pôvodných obrázkov bola prevzatá zo sociálnych sietí alebo priamo zo súkromnej komunikácie, pričom osoby pravdepodobne nevedeli, že sa stali takýmto objektom,“ uvádza analýza Sensity.
Nedostatočná regulácia
Postupné kroky k regulácii v oblasti deepfake nekonsenzuálneho pornografického obsahu vidíme na úrovni štátov, ktoré vyvíjajú tlak na technologických gigantov. V USA takéto zákony zatiaľ neboli na federálnej úrovni prijaté. Zmeny doposiaľ zaviedli len jednotlivé štáty, a to napríklad Kalifornia, Texas či New York. Podobné kroky nedávno podnikla aj Británia a Austrália.
Legislatíva je však väčšinou nedostačujúca, sporná a príliš všeobecná. Kritici takejto právnej úpravy pritom často odkazujú na to, že prísnejšie zákony zasahujú do slobody slova, narúšajú súkromie používateľov a obsahujú prvky cenzúry.
Európsky zákon o digitálnych službách (DSA) síce zaväzuje veľké digitálne platformy k vytvoreniu pravidiel, monitoringu a možnosti nahlasovať nelegálny obsah, nekonsenzuálna deepfake pornografia v ňom ale nie je definovaná ako nezákonná.
Spoločnosti ako Discord, Pornhub, Twitch, TikTok a iné tiež prichádzajú s novými politikami pre nekonsenzuálny obsah. Deepfake pornografia (aj tá bez predchádzajúceho súhlasu) a nástroje na jej tvorbu sú však stále jednoducho dohľadateľné, napríklad cez vyhľadávače Google či Bing.
Právnička neziskovej organizácie Privacy International Dr. Ksenia Bakina konštatovala, že aj napriek tomu, že deepfake obsah spadá do tzv. šedej právnej zóny, keďže podobizne vytvorené umelou inteligenciou nie sú „reálne“, vplyv na obete je stále devastačný.
„Chcem, aby ste pochopili, že v súvislosti s deepfakes je práve teraz postihnuté [nespočetné množstvo] žien…. Možno ich nevidíte, ale dopady sú veľmi reálne a veľmi vážne,“ predniesla Taylor (z vyššie spomínaného dokumentu) v anonymnej video výpovedi v Bielom dome.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
