Instagram testuje nové metódy overovania veku používateľov vrátane nástroja umelej inteligencie vytvoreného externou spoločnosťou Yoti.
Nástroj odhaduje, koľko má používateľ rokov a to len skenovaním tváre. Oficiálne musí mať používateľ (registrujúci sa na sieť) aspoň 13 rokov, ale spoločnosť sa roky veľmi nesnažila toto pravidlo presadzovať. Až do roku 2019 sa ani neobťažovala pýtať sa nových používateľov na ich dátum narodenia, nieto sa ešte pokúšať túto informáciu overiť. Po tom, čo ju odborníci na ochranu súkromia a bezpečnosť detí nahnevali, však Instagram zavádza čoraz viac funkcií na overovanie veku, ako aj metód na oddelenie mladších používateľov od dospelých. V súčasnosti sieť žiada používateľov o overenie veku len vtedy, keď sa tínedžeri pokúsia upraviť svoj dátum narodenia tak, aby sa zobrazil ako 18-ročný alebo starší. Na overenie svojho veku môžu používatelia posielať fotografie rôznych preukazov totožnosti a od dnešného dňa budú mať používatelia v USA dve ďalšie možnosti: sociálne ručenie a odhad AI.
V prípade prvej metódy, sociálneho ručenia, sieť požiada troch vzájomných sledovateľov používateľa, aby potvrdili, koľko má rokov. Vzájomní sledovatelia budú musieť mať sami viac ako 18 rokov a na odpoveď na žiadosť budú mať tri dni. Druhá metóda, odhad pomocou umelej inteligencie, zahŕňa odoslanie videozáznamu selfie spoločnosti Yoti, ktorá používa strojové učenie na odhad veku osoby. Yoti je známym hráčom v oblasti online overovania veku a totožnosti a jej technológiu schválila na používanie vláda Spojeného kráľovstva a nemecké digitálne regulačné orgány. Na odhad veku cieľovej osoby využíva rôzne signály tváre. Hoci samotná spoločnosť tvrdí, že nevie, aké presne sú to signály. Vrásky? Výraz nevýslovného smútku? To všetko je súčasťou zmesi. Systém si môžete skutočne vyskúšať na webe a hoci firma tvrdí, že neuchováva žiadne údaje, ktoré jej poskytnete, pozrite si mieru jej presnosti. Čísla ukazujú chybovosť odhadov veku v rokoch pre rôzne vekové kategórie, odtiene pleti a pohlavia.
Z údajov vyplýva, že Yoti je menej presný v prípade ženských tvárí a osôb s tmavšou farbou pleti a že v prípade osôb mladších ako 24 rokov môžu byť jeho odhady chybné až o 2,5 roka. Ak však nástroj robí široký odhad veku používateľa, jeho presnosť sa zvyšuje. V jednej z analýz systému, ktorú v roku 2020 vykonala nezisková organizácia tretej strany, sa zistilo, že je 98,89% spoľahlivý pri odhadovaní, či ľudia vo veku 18 rokov majú viac alebo menej ako 25 rokov. To znamená, že na každých 1000 odhadov, ktoré systém urobil, pripadalo 0 až 11 omylov. Nie je jasné, ako sa tieto údaje premietnu do prípadu použitia Instagramu, ani či je systém na tento účel skutočne dostatočne bezpečný. Pritom možno oklamať webovú ukážku Yoti len tak, že používateľ drží fotografie pred webovou kamerou, hoci Instagram tvrdí, že táto ukážková verzia neobsahuje funkcie proti falšovaniu, ktoré sú aktívne vo verzii, ktorú integruje. Neplnoletí používatelia môžu na absolvovanie testu požiadať o pomoc aj staršieho priateľa.
Toto nie je jediný nástroj poháňaný umelou inteligenciou, ktorý sieť používa na pokusy o odhad veku používateľov. Od roku 2019 spoločnosť používa automatizované systémy na vyhľadávanie neplnoletých používateľov. Tieto nástroje skenujú informácie, ako sú narodeninové príspevky používateľov a vek ich skupín priateľov. Ak teda napríklad používateľ tvrdí, že má 20 rokov, ale zverejní príspevok o oslave 17. narodenín, jeho účet bude označený a možno bude musieť overiť svoj vek. Instagram tvrdí, že pracuje na pridávaní nových údajov do tohto systému, a dokonca testuje nástroj na analýzu jazyka, ktorý na základe toho, ako používateľ píše, určí, či je dospelý alebo tínedžer.
