Je prirodzené predpokladať, že ak ste neboli súčasťou natáčania pornografických záberov, nikdy sa v nich ani neobjavíte. V skutočnosti je tomu však inak.
V dnešnej technologickej dobe môže hocikto, kto má prístup k obrázku vašej tváre, v priebehu niekoľkých minút vytvoriť presvedčivé video, v ktorom vystupujete ako hviezda filmov pre dospelých. Stačí na to lacná umelá inteligencia.
Vlastník deepfake pornostránky neznámy
Deepfake (falošné vizuálne alebo audiovizuálne materiály vytvorené umelou inteligenciou) pornografické obrázky a videá sa čoraz intenzívnejšie šíria nielen sociálnymi sieťami, ale aj stránkami pre dospelých. Emma Watson, Taylor Swift, Scarlett Johansson, Jay-Z, Travis Scott a mnoho iných známych osobností sa už stali obeťami deepfake pornografie.
Jednou zo stránok, ktorá je zameraná na takéto celebritné deepfakey, sa volá MrDeepFakes. V novembri 2023 jej katalóg obsahoval 43-tisíc videí s 3 800 osobami, ktoré mali viac ako 1,5 milióna zhliadnutí. Až 88 % z videí zobrazovalo ženy, najmä herečky a hudobníčky.
Vyšetrovací tím investigatívneho projektu Bellingcat zistil, že webová stránka MrDeepFakes neobsahuje žiadne informácie o tom, kto stojí za jej prevádzkou. Zdá sa, že na utajenie vlastníctva vynakladá veľké úsilie. Poskytovatelia hostingu tejto stránky sa od jej vzniku striedali po celom svete.
Prémiové členstvo si môžu záujemcovia kúpiť pomocou kryptomeny s unikátnou adresou pre každú transakciu, čím sa obmedzuje možnosť vystopovania. PayPal platby pre zmenu vedú na neoveriteľné účty.
DeepswapAI a Candy.ai
Web MrDeepfakes propagoval dve aplikácie na tvorbu deepfake videí a obrázkov celebrít. Jedna z nich už bola odstránená, no druhá je stále aktívna.
Prvou je Deepswap AI, ktorá umožňuje vytvárať deepfake obsah za 9,99 amerického dolára mesačne. Na stránke je výrazne promovaná a jej prevádzkovateľom je podľa Bellingcat hongkonská firma Deep Creation Limited. Jej vlastnícka štruktúra je však zamotaná – vedie cez firmy v daňových rajoch až k subjektu na Britských Panenských ostrovoch.
Aplikácia bola kedysi dostupná v internetových obchodoch Google Play aj App Store, no Google ju nedávno stiahol. Ako oficiálny vývojár bol uvedený subjekt Meta Way, ktorý na prvý pohľad nemá s Deep Creation Limited nič spoločné. Dokumenty však naznačujú prepojenie s čínskou spoločnosťou Nexgo, ktorá sa špecializuje na platobné technológie.
Druhá aplikácia, Candy.ai, funguje inak – ponúka možnosť vytvoriť si „priateľa/ku umelou inteligenciou“. Patrí maltskej firme EverAI Limited, ktorú vedie Alexis Soulopoulos, spoluzakladateľ austrálskej platformy na stráženie domácich zvierat Mad Paws.
Keď sa investigatívni novinári z Bellingcatu začali o aplikáciu zaujímať, krátko nato odkazy na ňu zo stránky zmizli. Firma EverAI Limited tvrdí, že ich reklama sa tam dostala cez partnerský program (anglicky affiliate program) a o jej umiestnení nevedela.
Zásah politických entít v boji proti deepfake
Európska únia zatiaľ nemá osobitné predpisy týkajúce sa nekonsenzuálnej deepfake pornografie. V máji 2024 však prijala smernicu o boji proti násiliu páchanému na ženách a domácemu násiliu v offline aj online svete. „Použitie obrázkov a videí niekoho v deepfake bez jeho súhlasu možno považovať za porušenie GDPR,“ povedala pre The Next Web odborníčka v oblasti digitalizácie, umelej inteligencie a kybernetickej bezpečnosti Cristina Vanberghenová.
V Spojenom kráľovstve bol v januári 2024 zavedený zákon o bezpečnosti na internete, na základe ktorého je zdieľanie deepfake snímok a videí bez súhlasu dotknutej osoby nezákonné.
Deepfake pornografia už dávno nie je len problémom celebrít – jej dosah sa rozširuje na kohokoľvek, kto sa ocitne v „nesprávnom čase, na nesprávnom mieste“. Stránka MrDeepfakes využíva pokročilé technológie na šírenie obsahu bez jasnej zodpovednosti, pričom je prepojená s technologickými firmami. Tie poskytujú nástroje umelej inteligencie a platobné systémy, čím nepriamo umožňujú šírenie digitálneho násilia a zároveň na ňom profitujú.
Článok vznikol s podporou Holandského veľvyslanectva na Slovensku.
