Americké Technologické korporácie nedotujú vývoj umelej inteligencie z dobroty svojho srdca. Ich skutočným cieľom je vytvoriť našu absolútnu závislosť na ich službách. Ak by dnes Biely dom nariadil odpojenie Európy od amerických cloudov a vyhľadávačov, náš štát aj biznis by okamžite skolabovali. Zatiaľ čo bezmocne odovzdávame kontrolu nad vlastnou suverenitou do zámoria, domáce informačné prostredie nám ničia algoritmy sociálnych sietí, ktoré cielene radikalizujú používateľov, pretože hnev a nenávisť maximalizujú zisky z predaja reklamy. Slovensko,. ako jeden z najzraniteľnejších terčov informačných operácií však máme jedinečnú šancu obrátiť tento hendikep na výhodu a stať sa bezpečnostným laboratóriom pre obranu celej Európy.
Vo videopodcaste sa dozviete:
- akým spôsobom odporúčacie algoritmy cielene využívajú náš hnev a radikalizáciu na to, aby maximalizovali zisky sociálnych sietí z predaja reklamy;
- že je rýchly rast umelej inteligencie nemusí byť udržateľný, pretože zrejme ide len o obrovskú bublinu, ktorá keď praskne extrémne predraží dnešné veľmi lacné služby;
- že prečo technologickým gigantom ide o našu absolútnu závislosť na ich systémoch;
- čo by sa stalo s Európou, ak by Biely dom jedného dňa nariadil Googlu alebo Microsoftu, aby nás odpojili amerických cloudov a vyhľadávačov;
- ako ľahko dokážu zámorské korporácie pomocou umelo vytvorených rozhraní oklamať európskych audítorov a predstierať kontrolu nad vlastnými dátami;
- v čom spočíva naša šanca obrátiť extrémnu zraniteľnosť voči ruským operáciám na výhodu a stať sa cenným bezpečnostným laboratóriom pre celý Západ.
Vezme nám umelá inteligencia prácu? Dnes ju máme v mobiloch, v školách aj na pracoviskách, s ChatGPT sa už stretol takmer každý. Znamená tento technologický skok takú zásadnú zmenu, akou bola kedysi kníhtlač alebo nástup internetu?
Je to zásadná zmena. Samotný charakter práce sa určite transformuje, ale nepatrím k fatalistom, ktorí tvrdia, že umelá inteligencia nás hromadne pripraví o zamestnanie. Skôr dôjde k preskupeniu toho, čomu sa budeme venovať. Dobrým príkladom je oblasť programovania. Juniorské pozície dnes v IT sektore ubúdajú, pretože firmy zistili, že základné kódovanie zvládnu vygenerovať softvéroví agenti. Stále to má však svoje úskalia a obmedzenia. Agentom nemôžete zveriť všetko, takže ľudský dohľad je naďalej nevyhnutný. Zároveň platí, že ak dnes firmy nebudú zamestnávať juniorov, nebudú mať o pár rokov odkiaľ zobrať skúsených seniorov. Zatiaľ to teda vnímam len ako výkyv na trhu, nie ako definitívny zánik profesií.
Niektoré profesie však už teraz pociťujú radikálny tlak. V USA bežne fungujú plne autonómne taxíky, čo priamo ohrozuje prácu šoférov – jednu z najrozšírenejších profesií vôbec. Ohrozené sú zdanlivo aj konzultačné smery: právnici, účtovníci, psychológovia. Naopak, o remeselníkoch či učiteľoch sa hovorí ako o nezameniteľných ľuďoch. Nestane sa o päť či desať rokov to, že sa namiesto odborníka s dvadsaťročnou praxou radšej opýtame chatbota?
Pokiaľ vynecháme manuálne pracujúcich remeselníkov, to rozdelenie na ohrozených psychológov a neohrozených učiteľov ma prekvapuje. Nevidím v tom zásadný rozdiel. Obe profesie sú postavené na hlbokom ľudskom kontakte s klientom. Ak práca vyžaduje živú interakciu a empatiu, hranica nahraditeľnosti tam viesť nemôže. Práca veľkého množstva ľudí, napríklad spomínaných právnikov, však generatívnou umelou inteligenciou určite ovplyvnená bude. Modely môžu byť v mnohých úkonoch výrazne výkonnejšie, no nemôžeme na ne nechať všetku zodpovednosť. Musíme si totiž položiť otázku, o koľko by sa ešte musela umelá inteligencia zlepšiť, aby bola stopercentne spoľahlivá a aby sme ako spoločnosť takúto mieru automatizácie pri kritických rozhodnutiach akceptovali.
Už dnes existujú špecializované právne modely, ktoré majú “načítané” slovenské zákony aj judikatúru. Pôsobia však skôr ako sprievodca. Ak chce laik získať základný prehľad, stačí mu to. Ak však hľadá stopercentnú istotu, zavolá skutočnému advokátovi.
Presne tak. Keď odosielate dôležitý dokument úradom a nesiete zaň zodpovednosť, potrebujete mať maximálnu istotu, že je právne nepriestrelný. Umelá inteligencia vám ušetrí peniaze za úvodnú konzultáciu a zorientuje vás v problematike. Ak ide o vysoko štandardizovaný úkon, zvládne to. Zložitejšie životné situácie a právne spory však majú toľko špecifík, že na ne žiadny model zatiaľ nestačí.
Čo však napríklad takí prekladatelia? Majú vyštudovaný odbor, roky praxe, no zákaziek rapídne ubúda. Dostali sme sa do stavu, kedy má prekladateľ prácu iba vtedy, ak zákazník potrebuje oficiálny preklad s okrúhlou štátnou pečiatkou. Všetko ostatné už bežne zastanú modely.
V tomto prípade musím súhlasiť. V prekladateľstve skutočne dochádza k dramatickému poklesu trhových príležitostí a táto profesia je automatizáciou zasiahnutá mimoriadne tvrdo.
Čo by mal dnes robiť človek, ktorý zistí, že jeho profesia v horizonte piatich rokov stratí relevanciu, alebo mu výrazne ubudne klientela? Dá sa na tento náraz vôbec nejako adaptovať?
Jediná užitočná rada je začať s generatívnou umelou inteligenciou okamžite experimentovať. Musíme sa kriticky zamyslieť nad vlastnými pracovnými postupmi a hľadať spôsoby, ako do nich modely zapracovať. Zrýchli to prácu a dodá nám to konkurenčnú výhodu. Zároveň si však treba dávať obrovský pozor, aby sme pri tom “neohlúpli”, nenechali za seba myslieť stroj a nestratili kontrolu nad kvalitou výstupov.
Chcel by som však upozorniť na jednu kľúčovú vec – reálne hrozí prasknutie obrovskej finančnej bubliny. Dostupnosť a cena dnešných modelov sú výrazne dotované investíciami. Zákazník platí za tokeny zlomok toho, čo celý proces stojí z hľadiska obrovskej spotreby energie či uhlíkovej stopy. Cena sa bude musieť časom ustáliť a odrážať reálne náklady. Dnes navyše nastupuje takzvaný agentický prístup. Znamená to, že umelá inteligencia už neodpovedá len priamo na otázku, ale agent si v pozadí položí medzivýsledok, nad ktorým sa znova a znova zamýšľa v mnohých krokoch. Tieto opakované operácie s obrovským kontextom stoja enormné množstvo zdrojov a peňazí. Niektoré funkcie, ktoré nám dnes pripadajú úžasné a dostupné, tak môžu byť v blízkej budúcnosti extrémne drahé.
Ak tomu správne rozumiem, technologické giganty, ktoré prevádzkujú najznámejšie modely ako ChatGPT, Claude či Gemini, momentálne fungujú na obrovský dlh. Mesačné paušály od bežných používateľov ani zďaleka nepokrývajú náklady na to, čo tieto stroje “spália” v zúrivých konkurenčných pretekoch. Znamená to, že exponenciálny rast schopností umelej inteligencie, ktorý dnes považujeme za samozrejmý, sa jedného dňa nutne zastaví, lebo tento dotačný biznis model je z dlhodobého hľadiska neudržateľný?
Presne tak. Zdroje nie sú nekonečné a ten masívny objem výpočtového výkonu a peňazí, ktorý sa do tohto sektora momentálne nalieva, niekde nevyhnutne narazí. Očakávam etapu racionalizácie. Ľudia a firmy zistia, že na vyriešenie bežnej úlohy vôbec nepotrebujú to najdrahšie “delo” na trhu. Často im lepšie poslúži rádovo menší, optimalizovaný model, ktorý vyrieši problém za zlomok ceny, prípadne si ho dokážu spustiť priamo na vlastnej infraštruktúre, vďaka čomu budú mať svoje dáta plne pod kontrolou.
Kam chcú vlastne tieto gigantické spoločnosti vo svojich pretekoch dôjsť? Aký je ich skutočný cieľ, keď sú ochotné prepaľovať také obrovské množstvá peňazí?
Často deklarujú, že ich konečným cieľom je takzvaná všeobecná umelá inteligencia (AGI), teda systém, ktorý by v komplexnom uvažovaní vyrovnal alebo prekonal človeka. Osobne, a zhodujú sa na tom aj oveľa väčší experti, si nemyslím, že súčasná architektúra jazykových modelov k skutočnej AGI niekedy povedie. Je to skôr špičkové PR. Rozumní výskumníci vnútri týchto korporácií dobre vedia, že k vytvoreniu nezávisle mysliaceho superstroja, ktorý sa bude sám zdokonaľovať bez potreby ľudského zásahu, vedie ešte extrémne dlhá cesta.
To, o čo im v skutočnosti ide už dnes, je vytvorenie našej absolútnej závislosti. Nepotrebujú AGI, ak vedia vynikajúco speňažiť aj súčasné technológie. Ich hlavnou motiváciou je natlačiť umelú inteligenciu do každého softvéru, vyhľadávača či firemného procesu tak hlboko, aby sme si na ňu bezvýhradne zvykli a bez ich služieb už nedokázali fungovať. Chcú firmy dotlačiť k predplatnému celých balíkov ich technologických ekosystémov. Keď sa raz takýto nástroj pevne usadí v našich pracovných postupoch, vymaniť sa z tohto zovretia bude mimoriadne zložité.
Tým sa dostávame k európskej technologickej suverenite. Takmer všetky kľúčové nástroje, na ktorých stojí náš každodenný život – od vyhľadávačov, cez sociálne siete, až po cloudové úložiská a pokročilú AI – vznikajú a fyzicky bežia v Spojených štátoch, prípadne v Číne. Kto tieto technológie vlastní, určuje pravidlá a má dosah na to, čo sa deje s našimi najcitlivejšími dátami. Sme len digitálnymi vazalmi? Čo by vôbec v praxi znamenala strata našej technologickej suverenity?
Mnohí si kybernetické ohrozenie predstavujú tak, že nám niekto fyzicky prestrihne podmorské optické káble pri Írsku a zostaneme bez internetu. To by však ani zďaleka nebol náš najväčší problém. Skutočná katastrofa by nastala, keby americký prezident, napríklad Donald Trump, jedného dňa vydal politické rozhodnutie a zakázal spoločnostiam ako Google či Microsoft poskytovať svoje IT služby v Európe.
Na ich cloudoch, e-mailových klientoch a zdieľaných dokumentoch u nás dnes funguje asi osemdesiat percent firiem, nehovoriac o školách či samotných štátnych inštitúciách. Bol by to okamžitý kolaps. Najväčšiu zraniteľnosť vidím v tom, že Európe úplne chýba vlastná natívna IT infraštruktúra pre bežný chod štátu a biznisu, ktorú by sme mali plne pod kontrolou. Pokiaľ ide o samotnú umelú inteligenciu, tam našu suverenitu až tak ohrozenú nevidím. Máme tu napríklad európske modely ako francúzsky Mistral. Ako som už spomínal, v drvivej väčšine prípadov nepotrebujeme americké “delo”, ale úplne nám stačí o niečo menší, no spoľahlivý lokálny model. Kým sme aspoň v tesnom závese za špičkou, nie je to neriešiteľný problém. Katastrofou je naša závislosť na základnom softvérovom a cloudovom vybavení.
Do týchto zahraničných nástrojov už teraz dennodenne nalievame mimoriadne citlivé informácie. Pri konverzáciách s chatbotmi ľudia odovzdávajú osobné, zdravotné, firemné či dokonca strategické právne dáta. Všetko to putuje do zámorského cloudu a spracováva sa spôsobom, o ktorom nemáme ani tušenie. Ak by tieto údaje unikli, bol by to pre mnohých zničujúci scenár. Čo by ste poradili ľuďom, ktorí takto neobozretne komunikujú s AI asistentmi, a dokáže vôbec Európa cez svoju legislatívu tieto zahraničné technologické firmy reálne regulovať?
V prvom rade si musíme uvedomiť, že zadávanie citlivých údajov chatbotovi nepredstavuje zásadný rozdiel oproti tomu, čo robíme už roky. Všetky naše kľúčové zmluvy, intímne správy či zdravotné záznamy nám bežne chodia na americký Gmail. Už dávno sme ich odovzdali zámorským korporáciám. Ich systémy naše e-maily bežne čítajú, aby nám mohli cieliť reklamu, a ak na ich dvere zaklope americká Národná bezpečnostná agentúra (NSA) a na základe ich domácej legislatívy si vyžiada prístup k našim zložkám s odôvodnením, že predstavujeme bezpečnostné riziko, jednoducho ich dostane.
Naozaj nebezpečné to však začína byť v momente, keď modernému AI asistentovi udelíme komplexný prístup do celého nášho pracovného počítača alebo do firemnej siete. V tej chvíli môže tento systém prečítať a odoslať na zahraničné servery obrovské množstvo duševného vlastníctva, ktoré predtým nikdy neprešlo cez e-mail. Tu musí nastúpiť obrovská ostražitosť.
Čo sa týka európskej regulácie a auditu týchto firiem, buďme realisti. Ak chceme kontrolovať dodržiavanie európskych zákonov, museli by naši audítori reálne skúmať obrovské a neuveriteľne spletité zdrojové kódy vnútri firiem v Silicon Valley. To sa však nedeje. Pri podobných procesoch sa technická kontrola zväčša obmedzuje na to, že audítorovi ukážu používateľské rozhranie a tlačidlo, ktoré má údajne vypnúť personalizáciu. Nikto už však hĺbkovo neskúma, či daný gombík tento sľub reálne technicky plní. Korporácie by pokojne mohli európskym kontrolórom ukázať úplne falošnú architektúru. Do obrovskej firmy nemôže prísť externý úradník a myslieť si, že za rok pochopí milióny riadkov kódu a algoritmy skryté pod povrchom. Keby sme tu mali vlastné natívne firmy podliehajúce výhradne našej jurisdikcii, bolo by to presne také priamočiare, ako keď k vám do firmy príde na hĺbkovú previerku slovenská finančná správa a neodíde, kým nenájde presne to, čo potrebuje. Pri amerických firmách však o skutočnom technickom audite nemôže byť ani reči.
Posuňme sa od umelej inteligencie k sociálnym sieťam a nášmu informačnému prostrediu. Mnohí si neuvedomujú, že na druhej strane Facebooku, Instagramu či TikToku vlastne celý čas sedí mimoriadne vyspelá umelá inteligencia. Akonáhle si používateľ – napríklad trinásťročné dieťa – otvorí účet, algoritmus ho začne profilovať a často ho v rekordnom čase vtiahne do agresívnych bublín. Čo sa v skutočnosti deje v pozadí?
Je kľúčové považovať absolútne každú našu interakciu na sieti za dôsledne zaznamenanú. Každý klik, dĺžku pozerania videa, rýchlosť pohybu po obrazovke, či to, pri akom type príspevku sme sa zdržali hoci len o sekundu dlhšie. Tieto dáta tečú na servery korporácií, ktoré si z nich okamžite vytvárajú náš dokonalý psychologický profil. Už štúdie spred desiatich rokov dokázali, že stroju stačí zhruba sedemdesiat lajkov na to, aby presne odhadol vašu sexuálnu orientáciu – často ešte predtým, než si ju samotný tínedžer plne uvedomí. Takže dnes to ide už po pár hodinách aktívneho používania.
Tento odporúčací algoritmus však nehľadá to, čo je pre nás dobré alebo hodnotné. Jeho jediným cieľom je maximalizovať zisk korporácie z predaja reklamy. Na to potrebuje udržať našu pozornosť prilepenú na obrazovke čo najdlhšie. A zistilo sa, že nič nedokáže prikovať ľudskú pozornosť tak spoľahlivo, ako silné emocionálne burcovanie, obzvlášť negatívne emócie. Hnev a nenávisť predávajú najlepšie. Ak vás algoritmus dokáže vtiahnuť do agresívnej názorovej roztržky alebo vás zradikalizuje vyhroteným politickým obsahom, z jeho pohľadu trafil jackpot. Deťom to musíme neustále vysvetľovať, no paradoxne sa ukazuje, že voči tomuto typu manipulácie a radikalizácie sú dnes často oveľa zraniteľnejšie práve staršie ročníky.
Ak by sa u nás našla politická vôľa a nová vládna garnitúra by prejavila ochotu systematicky riešiť otázku informačnej suverenity, čo by mal štát robiť? Sme len malá krajina, no ako by sme vedeli v rámci Európy priložiť ruku k dielu?
Základom je vôbec prísť k európskemu stolu, aktívne sa podieľať na spoločných riešeniach a poctivo ich zavádzať aj do našej legislatívy. Európska únia je v úvahách o riešení tohto problému už relatívne ďaleko.
Našou obrovskou “výhodou”, ak sa to tak vôbec dá nazvať, je práve naša zraniteľnosť. Pre Rusko dnes predstavujeme absolútne najslabší článok a sme priamym terčom ich informačných operácií. Vďaka tomu však môžeme slúžiť ako dokonalé testovacie laboratórium. Ak by sme úzko spolupracovali s našimi európskymi partnermi, poskytli im prístup k našim expertom a dátam o tom, čo sa presne deje v našom informačnom priestore, mohli by sme pre celú Európu fungovať ako výborná prípadová štúdia, na ktorej by si Západ mohol detailne analyzovať metódy útočníkov. Ďalšou nezanedbateľnou výhodou malej krajiny je aj to, že zavádzať a testovať odvážne, inovatívne postupy je tu z hľadiska byrokracie oveľa jednoduchšie, než vo veľkých štátoch. Všetkých dôležitých hráčov vieme teoreticky posadiť do jednej miestnosti a oveľa rýchlejšie sa dohodnúť na konkrétnej akcii. Z tohto pohľadu by sme ako testovacia platforma na obranu informačného priestoru dokázali urobiť pre Európu naozaj veľa.
Infosecurity.sk je neziskový projekt. Pracujeme vo verejneom záujme a môžeme to robiť iba vďaka vám! Ak Vám naša práca dáva zmysel, podporte nás prosím pravidelným darom.
