Umelá inteligencia narazila na problém. Systém ChatGPT by mohol poslúžiť dezinformátorom na šírenie škodlivých naratívov

Umelá inteligencia, ktorá má potenciál nahradiť ľudský kapitál v žurnalistike, by mohla spôsobiť vážne komplikácie. Chatbotový systém ChatGPT, ktorý nedokáže rozoznať pravdu, je darom pre tých, ktorí zo šírenia dezinformácií profitujú.

Obrázok: Unsplash

V kontexte platformy, ktorá dokáže napodobňovať ľudské písanie, sa rozšírila debata o jej možnom využití v žurnalistike. Novinárom hrozí, že ich nahradia systémy umelej inteligencie ako je chatovací robot ChatGPT, uviedol generálny riaditeľ nemeckej mediálnej skupiny Axel Springer Mathias Döpfner.

Revolúcia umelej inteligencie

Systém ChatGPT, chatbot s umelou inteligenciou vyvinutý spoločnosťou OpenAI, bol spustený v novembri 2022. Ide o platformu, ktorá je plne schopná simulovať ľudskú konverzáciu, čo jej umožňuje komunikovať a viesť plynulý dialóg. 

ChatGPT je tak schopný odpovedať na takmer každú otázku. Okrem toho dokáže opravovať chyby, vytvoriť životopisy, písať eseje, slohové práce, vymýšľať vtipy a mnoho ďalšieho. Svoje miesto si už našiel v rôznych odvetviach ako je hudba, vzdelávanie či IT.

Podľa mnohých zdrojov ChatGPT a iné chatboty ako Dall-E, potenciál revolučne zmeniť spôsob tvorby obsahu. Diskusia o jeho využití sa pozastavila pri myšlienke jeho pôsobenia v žurnalistike, kde by mohol nahradiť súčasnú prácu novinárov. 

Umelá inteligencia nevie rozoznať pravdu

Spolu s myšlienkou uplatnenia umelej inteligencie v odbore žurnalistiky sa objavili rôzne výhrady voči chatbotu.

Medzi tých, ktorí tento spôsob písania článkov podporujú, patrí spomínaný generálny riaditeľ spoločnosti Axel Springer Mathias Döpfner, ktorý vlastní americké spravodajské značky vrátane Politico a Insider. Podľa neho má umelá inteligencia potenciál urobiť nezávislú žurnalistiku lepšou, než kedy bola, alebo ju jednoducho nahradiť“.

Podľa MIT Technology Review, mediálnej spoločnosti zaoberajúcej sa technológiami, však jazykové modely umelej inteligencie notoricky známe ako klamári, ktorí často prezentujú nepravdy ako fakty.

Ich dokonalosť spočíva vo vytváraní zmysluplných viet, avšak nie vo vyhľadávaní pravdy. Podľa MIT Technology Review tak môže byť použitie umelej inteligencie v informačnom priestore nebezpečné.

Ďalší tieň na umelú inteligenciu uvrhol aj test, v ktorom bol ChatGPT požiadaný o napísanie článku opisujúceho aktivity Michaela Bloomberga od skončenia jeho tretieho funkčného obdobia vo funkcii starostu New Yorku. Výsledný článok obsahoval mnohé vymyslené skutočnosti vrátane citácií, ktoré Bloomberg nikdy nevyslovil.

Podobné skúsenosti s prácou s ChatGPT má aj americký mediálny web CNET, ktorý zverejňoval príspevky generované programom umelej inteligencie. Po následnej manuálnej kontrole článkov vytvorených programom boli nájdené chyby v prípade viac ako polovice textov.

Platforma pre dezinformácie

Slabiny umelej inteligencie môžu byť zneužité aj na šírenie dezinformácií. Existuje totiž možnosť vytvárania zavádzajúceho obsahu práve pomocou programov ako je ChatGPT.

Podľa Tary George, docentky Fakulty komunikácie a médií na Montclair State University, umelá inteligencia zhorší súčasný stav rozpoznávania falošných a pravdivých informácií v médiách.

Podľa Oxfordského internetového inštitútu, univerzitného oddelenia zameraného na štúdium informácií, komunikácie a technológií, je myšlienka používania umelej inteligencie pre písanie článkov znepokojujúca.

Pre redakcie, ktoré považujú za neetické uverejňovať lži, je ťažké zaviesť používanie ChatGPT bez množstva sprievodných ľudských úprav a kontroly faktov,“ doplnil Felix Simon, odborník na komunikáciu z inštitútu.

Napriek tomu, že si umelá inteligencia už našla uplatnenie v rôznych odvetviach, má vo svete odporcov. Napríklad britská banka JPMorgan obmedzila zamestnancom používanie chatbota ChatGPT v rámci preventívneho opatrenia banky.

Spolu s ňou dala stopku umelej inteligencii aj Čína, ktorá ju považuje za nástroj na šírenie západnej propagandy. Chatbot vo svojich odpovediach opisuje napríklad porušovanie ľudských práv v Číne, ktoré sa Peking snaží utajiť.

CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/

Študent bakalárskeho stupňa Európskych štúdií na Univerzite Komenského v Bratislave. Počas svojho štúdia absolvoval výmenný pobyt na TalTech University v Estónsku. Zaujíma sa o aktuálne politické dianie, hybridné hrozby a medzinárodné vzťahy. Vo svojom záverečnom výskume pre bakalársku prácu sa venuje analýze výrokov prezidenta Zelenského.