Vitajte pri čítaní 182. vydania nášho pravidelného DISINFO REPORTu.
AI môže byť komplicom teroristov, varujú bezpečnostní experti
Ken McCallum, generálny riaditeľ MI5, a Christopher Wray, riaditeľ FBI, vyjadrili znepokojenie z možných hrozieb vyplývajúcich z potenciálneho zneužitia AI teroristickými subjektami. Podľa McCalluma existuje riziko, že by generatívne AI chatboty mohli byť zneužité napríklad na získanie návodu na výrobu bomby. Potenciálnym protiargumentom je, že vývojári do softvérov vkladajú bezpečnostné opatrenia. Tie však možno za určitých podmienok obísť. Bezpečnostné opatrenia zahŕňajú napríklad určité frázy, ktoré AI generátory odmietnu spracovať. Viac v článku.
Pokuta a vyšetrovanie X: Technologický gigant má problémy s moderovaním obsahu
Od roku 2021, keď vstúpil do platnosti nový austrálsky zákon o online bezpečnosti, je X prvou platformou, ktorú postihla pokuta. V prípade, že by spoločnosť odmietla sumu zaplatiť, môže byť prípad posunutý príslušnému súdu, ktorý má právo spoločnosti udeliť ďalšie pokuty. „Spoločnosti môžu vydávať prázdne vyhlásenia typu „zneužívanie detí je našou najvyššou prioritou“, my im hovoríme, aby nám to ukázali,“ povedala komisárka Grantová v rozhovore pre The New York Times. Viac v článku.
Umelá inteligencia by mohla zohrať dôležitú úlohu v starostlivosti o duševné zdravie
Existujú rôzne spôsoby, ako sa dá využiť umelá inteligencia v starostlivosti o duševné zdravie. Spoločnosť Kintsugi vyvinula program, ktorý dokáže detegovať znaky depresie a úzkosti len na základe hlasu hovoriaceho. Program zaznamenáva zvuk na analýzu, v ktorej sa nezameriava na jednotlivé slová, ale skôr na to, ako ich dotyčný vyslovil. Výskumníci z Univerzitného medicínskeho centra Vanderbilt zase zistili, že zbieraním dát z nemocníc dokážu naučiť umelú inteligenciu predvídať pokus o samovraždu až s 80 % presnosťou. Viac v článku.
Mapaganda ako nástroj ruskej propagandy. Cieľom je deformácia ukrajinských hraníc
Po ruskej anexii Krymu v roku 2014 sa ukrajinské hranice na mapách viacerých kartografických spoločností a vydavateľstiev začali prekresľovať. Novodobé mapy Ukrajiny sa kvôli tomu výrazne odlišujú od medzinárodne uznanej mapy vydanej OSN. Tá zobrazuje medzinárodne uznávané ohraničenie krajiny po získaní jej nezávislosti v roku 1991. Avšak klamlivé geografické zobrazenia, ktoré akýmkoľvek spôsobom deformujú ukrajinské hranice z roku 1991, vedome porušujú medzinárodné právo a skresľujú verejnú mienku o rusko-ukrajinskom konflikte. Táto kartografická propaganda, známa aj ako mapaganda, zároveň cielene dezinformuje medzinárodnú spoločnosť. Viac v článku.
S rozvojom AI môže byť fact-checking falošných správ ešte náročnejší
Vývoj umelej inteligencie napreduje veľmi rýchlo, keďže je to segment, ktorý si získava obrovské množstvo zdrojov. Verejne dostupné a využívané modely sa na poli, kde ich vieme využívať, zjavili iba začiatkom tohto roka. Ich verzií je však už niekoľko a sú oveľa inteligententnejšie než predtým.
Akí štátni a neštátni aktéri môžu využívať nástroje generatívnej umelej inteligencie pre vlastné účely? Ktoré režimy, resp. štáty sa dnes do využívania AI modelov zapájajú a aktivizáciu ktorých ďalších môžeme v blízkej budúcnosti očakávať? Môže AI ohrozovať prácu overených zdrojov a spravodajských platforiem? Aké ďalšie ohrozenia médií môžeme v technologickej sfére identifikovať? V akom zmysle môže AI predstavovať výzvu pre overovateľov faktov? Prináša problémy pre overovanie nefaktického obsahu o vojnových konfliktoch alebo investigatívnych témach?
Môže AI uľahčovať aktivity podvodníkov alebo útočníkov v informačnom priestore? Má jej negatívne zneužitie vplyv aj na kvalitu demokraciu a kohézie v spoločnosti? Ako môže naopak AI napomáhať napríklad výskumníkom a analytikom? Je jej zapojenie výhodné napríklad pri spracovávaní a vyhodnocovaní dát alebo identifikovaní trendov? Má regulácia AI technológií zmysel a ako by mohla v budúcnosti vyzerať?
Aj o tom v novej epizóde podcastu Disinfo Report organizácie Infosecurity.sk hovorí Tonka Zsigmondová s expertom na informačnú bezpečnosť v Gerulata Technologies Tomášom Kriššákom.
Krátko z domova a zo sveta
- Viac ako 250 Dávidových hviezd, ktoré boli minulý týždeň namaľované na rôznych miestach v Paríži, sú pravdepodobne súčasťou destabilizačnej operácie spojenej s proruským podnikateľom. Cieľom operácie bolo zrejme posilnenie rozdelenia francúzskej spoločnosti.
- Európska komisia uviedla, že Ukrajina a Moldavsko by mali začať proces vstupu do EÚ. „Ukrajina dokončila… viac ako 90 percent nevyhnutných krokov, ktoré sme minulý rok stanovili v našej správe,“ doplnila predsedníčka Komisie Ursula von der Leyenová.
- Celosvetový prieskum odhalil, že viac ako 85 % ľudí sa obáva vplyvu online dezinformácií. 87 % ľudí sa tiež domnieva, že dezinformácie už mali negatívny vplyv na politiku ich krajiny.
- Elon Musk spustil na svojej sociálnej sieti X testovanie Groka, chatbota s umelou inteligenciou. Musk tak spravil aj napriek svojim vyjadreniam, že AI je „jednou z najväčších hrozieb pre ľudstvo“.
- Spoločnosť Meta bude od budúceho roka na svojich platformách vyžadovať, aby politické kampane priznali používanie umelej inteligencie v politických reklamách. Kľúčovým testom efektivity tohto pravidla budú americké voľby.
Ďakujeme, že odoberáte DISINFO REPORT.
Budeme ho neustále vylepšovať. Vaše návrhy a podnety nám prosím posielajte na info@infosecurity.sk
CHCETE PODPORIŤ NAŠU PRÁCU?
ĎAKUJEME!
