Snaha priblížiť sa masám, ale aj neférová kampaň: Ako bola využívaná umelá inteligencia v indických voľbách?

V sobotu 1. júna sa v Indii skončil šesťtýždňový proces, počas ktorého si obyvatelia volili svojich zástupcov do dolnej komory parlamentu (Lokh Sabha). Voľby v najväčšej demokracii sveta patrili v roku 2024 medzi tie najdôležitejšie, ktoré supervolebný rok priniesol. Kampaňovým nástrojom nielen pre vládnu stranu BJP, ale aj pre opozíciu, sa stala umelá inteligencia a ňou vytvorený deepfake obsah.

India je krajinou, kde sa rozpráva niekoľkými desiatkami regionálnych jazykov, ktoré sú často vzájomne veľmi odlišné. Tento aspekt indickej spoločnosti stál aj za úplne prvým použitím deepfake videa v politickej kampani v Indii.

Deepfake videá totiž ponúkli politikom možnosť, ako sa prihovoriť svojim voličom v ich rodnom jazyku bez toho, aby ho ovládali. V roku 2020 sa tak WhatsApp skupinami šírili deepfake videá Manoja Tiwariho, lokálneho politika za Indickú ľudovú stranu (BJP), z ktorej pochádza aj premiér Nárendra Módí. Tiwari sa prostredníctvom nahrávok prihováral voličom v angličtine a haryanvinčine, pričom pôvodné video nahral v hindčine. 

Odvtedy sa táto prax uchytila v rámci celej Indie. Premiér Módí dokonca využil túto technológiu, konkrétne jazykový modul Bhashini, na tlmočenie svojho vystúpenia v priamom prenose. Udialo sa tak v decembri 2023 na podujatí v posvätnom meste Váranásí. Zatiaľ čo sa prihováral ľudom v hindčine, jazykový modul to prekladal hlasom podobným Módímu do tamilčiny.

Lídri v AI technológiách

India zažíva v posledných rokoch boom v pripojení na internet. V januári 2024 používalo internet 55 % Indov, čo je približne 820 miliónov ľudí. Toto číslo je o to ohromnejšie pri pohľade na dáta z roku 2014, keď bolo v krajine internetových používateľov iba 14 %. Len medzi rokmi 2018 – 2020 ich počet vzrástol o 20 % a očakáva sa, že v roku 2025 prekoná počet užívateľov internetu v Indii jednu miliardu.

Prekvapujúcim zistením je, že vo vidieckych oblastiach, kde sú viac rozšírené aj miestne jazyky, je väčšie množstvo používateľov internetu. Dopyt po jazykových moduloch ako je Bhashini má tak obrovský potenciál.

Indickí užívatelia internetu sú na rozdiel od používateľov z ostatných častí sveta aj lepšie oboznámení s praktickým využitím AI. Zatiaľ čo v iných krajinách existuje veľká priepasť medzi vnímaným porozumením AI a povedomím o typoch produktov a služieb, ktoré umelá inteligencia využíva, v Indii tento problém prakticky neexistuje. Inak povedané, Indovia rozumejú AI a zároveň ju využívajú v praktickom živote viac než ktokoľvek inde na svete.

Deepfake videá ako bežná prax politickej kampane

Využitie deepfake videí má však aj svoju negatívnu stránku, známu aj nám napríklad z predvolebnej kampane pred minuloročnými parlamentnými voľbami.

Necelý týždeň pred začiatkom indických volieb sa na sociálnych sieťach začali šíriť videá prominentných bollywoodskych (Bollywood: slovná hračka slov Bombaj a Hollywood, ktorá odkazuje na indický filmový priemysel) hercov Aamira Khana a Ranveera Singha, v ktorých kritizujú súčasnú vládu premiéra Naréndra Módího. Obe videá končili výzvou na volenie opozičnej strany Indický národný kongres (INC) a heslom „Hlasujte za spravodlivosť, hlasujte za Kongres“. Napriek relatívne rýchlemu dištancovaniu sa hercov od týchto videí, mali obe za necelý týždeň vyše pol milióna zhliadnutí.

Tento prípad je len jedným z príkladov zneužitia AI na politické účely v Indii. Deepfake videá na podporu INC boli použité už v lokálnych voľbách, ktoré predchádzali tohtoročným voľbám do dolnej komory federálneho parlamentu.

Asi najbizarnejší prípad sa odohral na juhu Indie, kde tím miestneho lídra INC vytvoril dvojminútové falošné video, v ktorom vystupoval Harikrishnan Vasanthakumar, zosnulý otec politika a zároveň známa osobnosť v regióne. Ten sa za svojho syna prihováral a podporoval ho vo voľbách, pričom okrem iného povedal: „Hoci vás všetkých moje telo opustilo, moja duša je stále tu.“

India je tak pozoruhodným príkladom kontrastu toho, aký úžitok môžu mať nové technológie, no tiež koľko škody vedia napáchať. Napriek pokročilým znalostiam AI sa aj Indovia naďalej stávajú obeťami škodlivých deepfake dezinformácií.

Rast trhu s AI nástrojmi má v Indii obrovský potenciál, čo dokazuje aj rozmach start-upov zameriavajúcich sa na ich využitie, pričom ich služby vo veľkom vyhľadávajú práve politici. India nám tak ukazuje, že umelej inteligencie sa netreba báť, avšak neustále treba pristupovať k dostupným informáciám kriticky a mať sa stále na pozore.

CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/

Študuje magisterský dvojodbor War and peace studies a Európska únia na Univerzite Palackého v Olomouci. Aktuálne prispieva pre český think-tank Pravý Břeh, kde mapuje predovšetkým politickú situáciu na Slovensku. Zaujíma sa hlavne o aktuálne dianie, geopolitiku a fungovanie malých štátov. Týmto témam, konkrétne príkladu Kataru, sa venoval aj v bakalárskej práci. Okrem toho sa zaujíma o jazyky, okrem angličtiny ovláda aj španielčinu, v menšej miere arabčinu a portugalčinu.