Sú moderné nástroje na rozpoznávanie tváre hudbou budúcnosti alebo iba tikajúcou bombou?

Technológia DeepFace od Facebooku so sebou priniesla revolúciu v rozpoznávaní tváre. Jej vývoju ale predchádzalo porušenie mnohých etických zásad, ktoré podobné nástroje po desaťročia limitovali. Časť dôsledkov používania tejto technológie nám nemusí byť známa ani dnes.

Čo je vlastne DeepFace?

Každý deň sa stretávame s rôznymi typmi biometrickej identifikácie. Stačí, že si odomykáme smartfón pomocou odtlačku prsta alebo tvárou. Práve technológia rozpoznávania tváre je tá, ktorú si bližšie predstavíme. Aj keď sa masovo rozšírila iba relatívne nedávno, jej história siaha do šesťdesiatych rokov minulého storočia.

DeepFace je software na rozpoznávanie tváre, ktorý v roku 2014 vytvorila spoločnosť Facebook. Ako dodáva ScienceMag, DeepFace dokáže rozpoznať tváre jednotlivcov na odlišných fotkách s presnosťou 97,35%. V momente, keď si tento nástroj tvár jednotlivca zapamätá, vie byť pre používateľa Facebooku nápomocný pri označovaní priateľov na fotkách. Zároveň Facebooku poskytuje dáta, na základe ktorých sociálna sieť zobrazuje používateľovi cielenú reklamu.

Dôležité je to, akým spôsobom je tento nástroj schopný tváre rozpoznávať. DeepFace vytvára z originálneho obrázku tváre jej 3D model. Týmto modelom dokáže potom rotovať a pozerať sa naň z odlišných uhlov. Následne rozpoznáva podobnosti medzi odlišnými fotkami tej istej osoby.

Práve tieto kroky umožňujú DeepFace rozpoznať tú istú osobu na fotkách, ktoré sa odlišujú v nasvietení a uhloch kamery. To je v porovnaní s predchádzajúcimi nástrojmi na rozpoznávanie tváre veľký pokrok.

Každý pokrok má svoju cenu

Vzniku DeepFace predchádzalo porušenie dovtedy dodržiavaných etických noriem. Prestalo sa hľadieť na to, či je vhodné používať pri vývoji takýchto nástrojov databázy s fotkami maloletých osôb alebo osôb, ktoré súhlas na použitie svojich fotiek nedali.

Zdrojom obrázkov sa stali aj vyhľadávače Google, Flickr či Yahoo. Ako zdôraznila výskumníčka Amba Kak pre MIT Technology Review, tento technologický pokrok má ale aj svoju cenu. Porušil všetko to, čo teraz dobre poznáme: súhlas, pôvod, problémy s IP adresou, súkromie.

Zarážajúci je aj prípad aplikácie Clearview. Tá sprístupní používateľovi všetky verejne dostupné fotografie osoby, ktorú práve odfotil. A práve táto aplikácia je využívaná mnohými americkými a medzinárodnými orgánmi činnými v trestnom konaní. V minulosti Clearview čerpal z miliónov databáz, vrátane gigantov ako sú Twitter, Facebook a Google. Menované spoločnosti ale začiatkom roka 2020 nariadili Clearview, aby ich databázy prestal využívať.

Ani tieto nástroje nie sú neomylné

Aj nástroje na rozpoznávanie tváre majú svoje limity. Výskumníci z National Institute of Standards and Technology zistili, že algoritmy nástrojov na rozpoznávanie tváre falošne identifikovali Afroameričanov a Aziatov desať až stokrát častejšie ako v prípade belochov. Najväčšia miera chybovosti však nastáva pri identifikácií pôvodných obyvateľov Ameriky.

V januári 2020 bol v Detroite zatknutý Afroameričan Robert Williams. Polícia ho prišla zatknúť na základe fotky, ktorú vygeneroval nástroj na rozpoznávanie tváre. Počas Williamsovho vypočúvania sa ale ukázalo, že pri generovaní fotografie došlo k nesprávnej zhode. Williams bol napokon prepustený na slobodu.

Ako sa neskôr ukázalo, v roku 2019 bol za podobných okolností v Detroite zatknutý Afroameričan Michael Oliver a v New Jersey Afroameričan Nijeer Parks. Všetky tieto prípady spája nesprávna identifikácia páchateľov vychádzajúca z falošnej zhody nástrojov na rozpoznávanie tváre.

A čo ďalej?

Ako sme poukázali v článku, nástroje na rozpoznávanie tváre vykazujú chybovosť a viackrát viedli k falošnej identifikácii osôb. Ich využívanie navyše dokáže narúšať právo na súkromie a nabáda k obchádzaniu súhlasu. 

Ani tieto kontroverzie neprinútili orgány činné v trestnom konaní, aby upustili od používania týchto nástrojov. Určité reflexie však vidíme na poli technologických gigantov. Microsoft dlhodobo odmieta poskytovať nástroje na rozpoznávanie tváre, IBM tieto nástroje prestalo používať pre ich rasovú zaujatosť a Amazon dal na ne ročné moratórium.