V marci tohto roku prešiel francúzskym parlamentom kontroverzný zákon o používaní umelej inteligencie (AI) na sledovanie verejných priestorov počas olympijských hier (OH). Tie sa budú konať v Paríži v roku 2024. Má ísť o testovanie technológií, ktoré by mali byť v budúcnosti eventuálne využívané pri verejných akciách s účasťou nad 300 ľudí.
Sieť bezpečnostných kamier bude vybavená AI, ktorá by mala byť schopná zaznamenať a nahlásiť podozrivé správanie, opustené batožiny či rizikové situácie, ako napríklad tlačenice, pri ktorých hrozí udupanie v dave.
Zákon prešiel vďaka podpore vládnych strán, proti jeho zneniu sa však postavili neziskové ľudskoprávne organizácie. Tie francúzsky parlament prostredníctvom otvoreného listu vyzvali, aby zákon nepodporil. Používanie AI na sledovanie verejných priestorov vnímajú ako zásah do súkromia.
Obávajú sa trvalých opatrení
Ľudskoprávna organizácia Amnesty International argumentuje aj prípadmi z minulosti. Vo Veľkej Británii napríklad prijali pred OH v Londýne bezpečnostné opatrenia, ktoré sa nakoniec stali trvalými. Podľa nich tak vo Francúzsku hrozí používanie sledovacích zariadení aj po skončení OH a parížske ulice môžu byť neustále monitorované kamerovými systémami s AI.
Upozorňujú taktiež na rasizmus, ktorý môže sprevádzať implementáciu týchto systémov. Systémy na rozpoznávanie tvárí sa totiž zvyknú zameriavať predovšetkým na občanov tmavej pleti.
Proti návrhu, ktorý má v pláne pripojiť 4-tisíc bezpečnostných kamier v Paríži na AI, protestovala aj ľavicová opozícia. Tá dala zákon preveriť ústavným súdom.
Okrem toho tieto organizácie, na čele s Európskou sieťou digitálnych práv, združením zoskupujúcim neziskové organizácie, žiadajú Európsku úniu, aby sa začala zaoberať legislatívou, ktorá by regulovala používanie AI v súlade s ľudskými právami.
Ústavný súd dal AI zelenú, určil však podmienky
Medzičasom francúzsky ústavný súd rozhodol v prospech použitia AI v rámci OH 2024. Zároveň však stanovil podmienky a pravidlá na jej používanie, aby sa predišlo zneužitiu. Podľa súdu je použitie AI pri podujatí ako olympijské hry na mieste, keďže systém má zamedziť narúšaniu verejného poriadku, čo je v súlade s francúzskou ústavou.
Súd však nariadil, aby bol systém používaný len do marca 2025. Vtedy bude musieť byť vypnutý a výsledky jeho testovania vyhodnotené. Okrem toho má byť AI využívaná len pri podujatiach, ktoré majú vysoký potenciál byť cieľom teroristického útoku.
Ústavný súd nepovolil použitie AI na snímanie a rozpoznávanie tvárí. Okrem toho budú verejné autority musieť vždy pred jej použitím dopredu informovať o dôvodoch a dĺžke použitia, ako aj o tom, kto bude mať zodpovednosť za zber a spracovanie dát. Jednotlivé použitia budú môcť byť napadnuté na súde, ak by bola inštalácia AI neopodstatnená.
Podľa súdu je dôležité, aby k dátam nemala prístup žiadna tretia osoba, firma alebo inštitúcia. Tým sa má zaručiť anonymita a bezpečnosť dát.
Dôležitá je transparentnosť
Možnostiam používania umelej inteligencie sa už venovali aj vedci a výskumníci. Článok vedeckého tímu z roku 2022 adresuje nutnosť transparentnosti pri implementácii AI a monitorovacích systémov. Podľa výskumníkov je dôležité spoločnosť jasne informovať o tom, kto a ako spracováva ich dáta. Taktiež zdôrazňujú, aby členovia občianskej spoločnosti viedli aktívnu debatu o tom, ako tieto systémy správne používať.
„Aj keby bola sledovaná celá populácia, niektoré skupiny by boli aj napriek tomu neprimerane nechránené pred zneužitím kvôli tomu, akým spôsobom používajú verejný priestor a interagujú v ňom,“ argumentujú Fontesová a jej kolegovia.
Diskusia je dôležitá hlavne pri pohľade na Čínu, kde sa systémy na sledovanie správania vo verejnom priestore testujú už niekoľko rokov a výrazne obmedzujú slobodu obyvateľov Číny.
Tieto systémy majú na každého čínskeho občana vytvorený profil, kde sa zaznamenáva jeho pohyb a správanie na verejnosti. Je preto potrebné pred implementáciou AI do verejnej bezpečnosti viesť diskusiu, ako jednotlivé nástroje správne implementovať – tak, aby neobmedzovali občanov a minimalizovala sa hrozba úniku dát.
CHCETE PODPORIŤ NAŠU PRÁCU? POMÔŽTE NÁM CEZ PATREON. MÔŽETE TAK UROBIŤ UŽ ZA €3
https://infosecurity.sk/podpora/
