V auguste otriasol Južnou Kóreou škandál, keď boli zverejnené informácie o 200-tisícovej komunite na sieti Telegram. Táto komunita produkovala a distribuovala umelou inteligenciou upravený pornografický obsah mladých žien, dievčat a celebrít. Tento materiál používali páchatelia aj za účelom vydierania či kyberšikany. Juhokórejská vláda v reakcii na škandál oznámila nové kroky v boji voči deepfake kriminalite.
Technológia deepfake v Južnej Kórei
Južná Kórea sa v kontexte moderných technológií považuje za jednu z najvyspelejších krajín na svete. Vysoká úroveň rozvoja a znalostí moderných technológií má však aj svoju temnejšiu stránku v podobe zneužívania dostupných možností na kriminálne aktivity.
Medzi jeden z najviac zneužívaných nástrojov v Južnej Kórei patrí technológia deepfake. Jej nebezpečenstvo spočíva v tom, že dokáže zmanipulovať fotografie, videozáznam alebo zvukovú stopu prostredníctvom výmeny tvárí účastníkov videa, respektíve dokáže zmeniť aj ich samotné hlasy a obsah vyjadrení.
V Južnej Kórei je veľmi populárny koncept deepfake influencerov, respektíve tvorcov online obsahu. Spoločnosťami alebo jednotlivcami vytvorené osoby spievajú, čítajú správy alebo predávajú tovar rôzneho druhu. Ak s nimi príde človek prvýkrát do styku, nemusí si ani uvedomiť, že ide o produkt umelej inteligencie (AI).
Technológia deepfake v Južnej Kórei zasahuje aj do politiky. Pred prezidentskými voľbami v roku 2022 využíval tento nástroj kandidát Yoon Suk Yeol ako súčasť svojej kampane. Cieľom bolo priblížiť kandidáta populárneho medzi staršou populáciou aj kórejskej mládeži.
Yoon Suk Yeol nakoniec voľby tesne vyhral. Pred parlamentnými voľbami v prvej polovici roka 2024 však juhokórejský parlament prijal 90-dňový zákaz na produkciu politickej deepfake kampane. Išlo o reakciu na masívny nárast dezinformácií, ktoré mali domáci, ale aj zahraničný – napríklad čínsky – pôvod.
Soul vedie rebríček krajín najviac zasiahnutých zneužívaním tejto technológie
Okrem politických dezinformácií má technológia deepfake výrazne temnejšie použitie. Aplikuje sa na tvorbu pornografického materiálu, pričom tieto upravené zábery sa často využívajú ako nástroj vydierania, pomsty, sexuálneho obťažovania či kyberšikany, čo v niektorých prípadoch vedie aj k samovraždám obetí.
Deepfake pornografický obsah je v Južnej Kórei problémom už niekoľko rokov. V roku 2021 podpísalo 375-tisíc ľudí petíciu, v ktorej žiadali vládu, aby proti takémuto obsahu zakročila. Parlament síce reagoval zvýšením pokút za tvorbu a distribúciu daného obsahu, negatívny trend to však nezmenilo.
Podľa analýzy z roku 2023 je až 53 % obetí deepfake pornografického obsahu z Južnej Kórey. Za nimi nasleduje 20 % obetí z USA a 10 % z Japonska. Táto štatistika poukazuje na alarmujúcu situáciu vo východoázijskej krajine. Obeťami tejto technológie sú prevažne mladé ženy a dievčatá, ale aj celebrity z hudobného priemyslu (K-pop), o ktorých obsah so sexuálnym charakterom je veľký záujem.
Podľa analytikov negatívnemu trendu pomáha aj regulácia sexuálneho obsahu v krajine, ktorá takmer úplne obmedzuje jeho produkciu a prístup k nemu. Práve tento stav je podľa nich jeden z hlavných faktorov popularity deepfake technológie, ktorou si primárne kórejskí muži nahrádzajú absenciu prístupu k pornografickému materiálu legálnym spôsobom.
V krajine napríklad nie je možné zobrazovať intímne partie a akt pohlavného styku. Je to obmedzenie, ktoré ide ešte o krok ďalej ako v susednom Japonsku, ktoré vyžaduje iba rozmazanie intímnych partií v pornografickom obsahu produkovanom na území krajiny.
Telegramová skupina s viac ako 200-tisícovou základňou
Koncom augusta 2024 zasiahol Južnú Kóreu veľký škandál, keď sa online aktivistom podarilo odhaliť telegramovú skupinu produkujúcu a šíriacu deepfake obsah s viac ako 220-tisíc členmi. Podľa dostupných informácií je výrazná časť obetí vo veku do 18 rokov, takže ide zároveň aj o šírenie detskej pornografie.
Mladiství taktiež tvoria výraznú časť účastníkov danej komunity, pričom práve oni majú byť napríklad žiadateľmi o tvorbu sexuálneho obsahu svojich spolužiačok na stredných školách a univerzitách naprieč krajinou.
Britský denník The Guardian uvádza, že podľa juhokórejskej polície bolo za prvých sedem mesiacov tohto roka nahlásených 297 prípadov trestných činov v spojení so šírením deepfake porna. Je to o 180 prípadov viac ako za rovnaký čas v roku 2023. Zo 178 obvinených osôb je až 113 tínedžerov.
Podľa juhokórejského média Hankyoreh v reakcii na škandál vzrástol počet členov na pôvodnom telegramovom účte až na dvojnásobok, pričom sa objavili aj desiatky ďalších podobných účtov. Kriminálnici sa podľa Hankyoreh taktiež snažia sťažiť prístup a vyžadujú väčšiu mieru overovania pred prijatím nových členov, aby zabránili infiltrácii aktivistov a vyšetrovateľov.
V reakcii na pobúrenie verejnosti a následné protesty opozície a neziskového sektoru v krajine pristúpila vláda k novým krokom. Soul plánuje navýšiť počty pracovníkov monitorujúcich digitálne sexuálne zločiny a spustiť 7-mesačný program na elimináciu problému. Zároveň už kontaktoval spoločnosti vlastniace sociálne siete so žiadosťou o spoluprácu pri potláčaní takéhoto obsahu. Či a do akej miery budú tieto kroky efektívne, sa ukáže až časom.
Deepfake pornografický obsah je globálny problém
Umelou inteligenciou upravený sexuálny obsah nie je iba juhokórejským problémom. Vzhľadom na rapídny vývoj a zvyšovanie dostupnosti technológie deepfake aj bežným internetovým používateľom, predstavuje táto technológia nebezpečenstvo pre všetky krajiny.
Jedným z príkladov globalizácie problému je nedávny nárast rovnakého obsahu v Grécku. Aj tu boli obeťami prevažne stredoškolské dievčatá. Podobnému problému čelí aj India, ale obeťou sa napríklad stala aj talianska premiérka Giorgia Meloniová.
Byť obeťou podobnej manipulácie predstavuje pre osobu veľkú psychickú záťaž, ktorá jej môže život obrátiť naruby a v krajnom prípade doviesť až k samovražde. Najväčším problémom je to, že s rozvojom AI sa tieto nástroje dostávajú do rúk stále väčšiemu množstvu ľudí, čo je silným predpokladom pre pretrvávanie alebo nárast problému.
Obeťou sa dnes behom niekoľkých minút môže stať v podstate každý, bez ohľadu na pohlavie. Jediný spôsob, ako môže jednotlivec minimalizovať riziko, je obmedziť pridávania vlastných fotografií na internet. To je však v dnešnej dobe sociálnych sietí takmer nereálne a práve túto skutočnosť páchatelia efektívne využívajú.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
