Deepfake technológia využíva schopnosť umelej inteligencie (AI) vytvoriť nový súvislý obsah v podobe videa z nahrávky hlasu či snímky tváre. Inak povedané, táto technológia dokáže upraviť video tak, aby budilo dojem, že v ňom vystupuje konkrétna osoba.
Schopnosť technológií generovať deepfake obsah sa neustále zlepšuje. Strojové učenie cez tzv. GAN siete pritom zvyšuje dôveryhodnosť deepfake videí. Program totiž vyhodnocuje veľké množstvo vstupných dát a vytvára zakaždým presvedčivejší obsah.
V súvislosti s rozmachom týchto technológií sa zvyšuje tiež počet deepfake videí s pornografickým obsahom. Prvý univerzálne známy prípad zneužitia technológie za týmto účelom je pritom datovaný už v roku 2017.
Podľa analýzy kyberbezpečnostnej spoločnosti Home Security Heroes (HSH) narástlo množstvo pornografického obsahu vytvoreného AI v roku 2023 viac než štvornásobne oproti roku 2022. Až 98 % deepfake videí vyrobených v roku 2023 tvorila pornografia, čo predstavuje o niečo väčší podiel ako v predošlých rokoch.
Zameranie exkluzívne voči ženám
Terčom takejto tvorby sa stávajú zvyčajne osobnosti z verejného života, predovšetkým z mediálneho a zábavného priemyslu, športu a hudby. V 99 % prípadov pritom ide o ženy. Deepfake videá teda vo všeobecnosti častejšie znáznorňujú ženy než mužov.
Podľa Adama Dodgea, zakladateľa neziskovej spoločnosti EndTAB, ktorá sa venuje rozširovaniu povedomia o hrozbách vznikajúcich zneužívaním moderných technológií, je deepfake pornografia „záležitosťou násilia páchaného na ženách“.
Jeho závery potvrdila aj Karen Hao, vedúca redaktorka pre oblasť AI v americkom dvojmesačníku MIT Technology Review. V rozhovore z roku 2021 vysvetlila, že riziku stať sa obeťou podobných videí čelí prakticky „hocikto, koho snímka tváre bola digitálne zachytená“ a nahraná na internet.
Nebezpečnosť deepfake spočíva v ich rastúcej hodnovernosti aj v jednoduchosti ich zhotovenia. Spoločnosť HSH konštatuje, že veľké množstvo dát pre strojové učenie a cenová dostupnosť aplikácií a softvérov umožňujú bežnému používateľovi internetu vytvoriť minútové deepfake video už za 25 minút.
Regulácia obsahu deepfake videí
Vzhľadom na naliehavosť problému s tvorbou pornografického obsahu vyvíjajú štáty či medzinárodné spoločnosti tlak na digitálne distribučné platformy od spoločností ako Apple (AppStore) či Google (Google Play). Cieľom je regulovať prítomnosť takéhoto obsahu na internete.
Výskumná služba Európskeho parlamentu (EPRS) v správe z júla 2021 uvádza, že okrem okamžitých psychologických dopadov pre obete môže šírenie deepfake obsahu viesť k nepriaznivým dôsledkom na pracovisku či v medziľudských vzťahoch.
Autori štúdie preto apelujú na potrebu regulácie technických parametrov stránok, ktoré dokážu vytvoriť takýto obsah. Štúdia spomína aj reguláciu sociálnych sietí či používateľov, ktorí prispievajú k šíreniu spomínaného obsahu.
Nariadenie Európskej únie o digitálnych službách (DSA) zaväzuje digitálne platformy, aby zabezpečili adekvátnu ochranu svojich používateľov a zvýšili mieru transparentnosti. Ukladá im napríklad za povinnosť vytvoriť postupy, na základe ktorých môžu používatelia nahlásiť nezákonný obsah na platforme. Tá je následne povinná informovať používateľov o ďalších krokoch, ktoré prijme voči predmetnému obsahu.
DSA však v zozname nelegálneho obsahu nespomína menovite deepfake pornografiu. Kategória deepfake je zahrnutá len v druhu obsahu, ktorý je tvorený bez súhlasu dotknutej osoby a šírený zdieľaním manipulovaných materiálov.
Nové pravidlá podľa nariadenia sa budú uplatňovať pre všetky subjekty od 17. februára 2024. Členským štátom EÚ ukladá za povinnosť vymenovať koordinátora digitálnych služieb, nezávislý orgán zodpovedný za dohľad nad poskytovateľmi online sprostredkovateľských služieb v krajine ich pôsobenia. V prípade porušenia pravidiel bude mať koordinátor právomoc poskytovateľom ukladať peňažné pokuty.
Slovensko už malo negatívnu skúsenosť s využitím deepfake na tvorbu klamlivého obsahu. Počas volebného moratória pred parlamentnými voľbami sa na internete začala šíriť napríklad sfalšovaná nahrávka s hlasmi podobajúci sa predsedovi Progresívneho Slovenska Michalovi Šimečkovi a novinárke Denníka N Monike Tódovej. Na falošnej nahrávke sa údajne mali rozprávať o plánovanej manipulácii volieb. Podobné sfalšované video materiálny či zvukové nahrávky pritom môžu byť čoraz častejšie.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
