Facebook chce sledovať konflikty v skupinách. Pomôcť má umelá inteligencia

S nárastom agresivity v rámci facebookových skupín a šírením deepfake videí dochádza aj k snahe administrátorov tieto problémy akútne riešiť. Na rad tentoraz prichádza umelá inteligencia, ktorá by ich dokázala rýchlo a účinne detegovať.

Facebook v priebehu minulého týždňa predstavil najnovšie softvérové nástroje, ktoré sa týkajú používania a aktivity v skupinách. Internetový gigant testuje umelú inteligenciu, ktorá by dokázala rozoznať hádky v skupinách, a tým pomôcť správcom dané situácie riešiť.

Možné bude upozorniť na konflikty v skupinách

Cieľom systému umelej inteligencie by malo byť rozhodovanie o tom, kedy poslať tzv. „upozornenie na konflikty“ skupinovým správcom. Posielanie upozornení by malo nastať v prípade ak umelá inteligencia vyhodnotí konverzácie ako sporné či „nezdravé“. Pri následných situáciách môžu správcovia skupín dočasne obmedziť počet komentárov konkrétnych členov a kontrolovať, ako často možno komentovať určité príspevky, ktoré správcovia vyberú.

Spoločnosť deklaruje, že bezpečnosť v skupinách pokladá za kľúčovú, pričom administrátori stránok hrajú dôležitú úlohu v korigovaní konverzácií. Nová softvérová technológia by mala spadať pod Program Assist. V rámci neho už existuje viacero opatrení, ktoré pomáhajú udržiavať bezpečné prostredie v skupinách. Ide napríklad o obmedzenie účasti ľudí, ktorí nespĺňajú podmienky v rámci viacerých faktorov, napríklad ako dlho majú účet na Facebooku alebo ako dlho sú členmi skupiny.

Umelá inteligencia a deepfake videá

Okrem zmien v skupinách sa Facebook venuje aj deepfake videám, ktoré predstavujú čoraz väčšiu hrozbu. Od januára 2020, kedy spoločnosť zakázala deepfake manipulácie, je snahou Facebooku ich účinné odstránenie zo všetkých platforiem.

V posledných rokoch sa však deepfake videá stávajú čoraz realistickejšími, takže je pre ľudí ťažšie určiť, čo je na internete skutočné a čo nie. Náročnejšie sa stáva aj ich odhaľovanie zo strany sociálnych sietí.

Ako na to?

Facebook spoločne s výskumníkmi z Michiganskej štátnej univerzity však tvrdia, že zaznamenali pokrok v odhaľovaní deepfake videí. Novovytvorený systém má mať podľa slov predstaviteľov Facebooku, ako aj danej univerzity, presnosť 70%, čo je v porovnaní s predchádzajúcimi systémami najlepší možný výsledok.

Zmienený detektor by mal byť účinný aj v prípade odhaľovania videí vytvorených za pomoci metód, s ktorými sa detekčný algoritmus nikdy predtým nestretol.

Odhaľovanie deepfakeov je dlhoročnou témou pre mnohých výskumníkov, ako aj sociálne médiá. Ešte donedávna však predstavené softvéry nezaznamenávali výrazný úspech. Inými slovami, víťazný softvér vo výberovom konaní z roku 2020, ktoré vyhlásil Facebook, bol presný v menej ako dvoch tretinách prípadov.

Podobne ako pri iných iniciatívach Facebooku, aj v tomto prípade čas ukáže, aké úspešné naozaj sú.