Domov Novinky Meta využije AI na kontrolu veku na Instagrame

Meta využije AI na kontrolu veku na Instagrame

Zdielať

Meta chce pomocou umelej inteligencie obmedziť klamanie o veku na Instagrame.

V digitálnom veku, kde sú sociálne siete neoddeliteľnou súčasťou života mnohých mladých ľudí, sa otázka ochrany súkromia a bezpečnosti stáva čoraz dôležitejšou. Meta stojaca za platformou Instagram čelí dlhodobej kritike za negatívny vplyv na duševné zdravie tínedžerov. V reakcii na ne plánuje nasadiť umelú inteligenciu na identifikáciu používateľov, ktorí klamú o svojom veku, a automaticky ich presunúť do prísnejších nastavení ochrany súkromia.

Podľa Allison Hartnettovej, riaditeľky produktového manažmentu pre mládež a sociálny dopad v Meta, spoločnosť vyvinula softvér nazývaný „klasifikátor dospelých“. Nástroj bude kategorizovať používateľov do dvoch vekových skupín – mladších alebo starších ako 18 rokov – na základe údajov z ich účtov. Softvér analyzuje profil používateľa, zoznam sledovateľov a interakcie s obsahom, pričom dokáže prehľadávať aj príspevky typu „všetko najlepšie k narodeninám“, aby čo najpresnejšie určil vek používateľa.

Používateľom, ktorí podľa systému nedosahujú vek 18 rokov, Instagram automaticky nastaví účet pre tínedžerov, aj keď si uviedli iný vek. Tieto špeciálne účty obsahujú prísnejšie predvolené nastavenia, napríklad obmedzenia pri prijímaní správ alebo prehliadaní obsahu. Meta čelí žalobám zo strany generálnych prokurátorov a rodičov, ktorí obviňujú sociálnu sieť z prispievania ku kríze duševného zdravia tínedžerov.

Obvinenia zahŕňajú prípady, keď tínedžeri spáchali samovraždu alebo sa dostali k návykovým látkam kvôli obsahu, ktorý videli na sociálnych sieťach. Situáciu zhoršila aj whistleblowerka Frances Haugenová, ktorá v roku 2021 zverejnila interné dokumenty, podľa ktorých Instagram prispieva k zhoršeniu duševného zdravia dospievajúcich dievčat. Meta plánuje začať používať klasifikátor dospelých začiatkom budúceho roka, aby pomohla zachytiť ľudí, ktorí sa môžu snažiť nové pravidlá obísť.

Všetci používatelia mladší ako 18 rokov budú automaticky zaradení do účtov pre násťročných, ale tí, ktorí už mali 16 rokov, si budú môcť sami prísnejšie nastavenie súkromia vypnúť. Mladší ako 16 rokov na to potrebujú súhlas rodičov. Pri manuálnej úprave veku bude firma požadovať oficiálny doklad, napríklad vodičský preukaz, alebo selfie fotku, ktorá dokáže určiť vek na základe čŕt tváre. Nové účty pre tínedžerov sú zatiaľ dostupné len v USA a niekoľkých ďalších krajinách.

Hoci Meta napreduje v zavádzaní nových technológií na overenie veku, niektorí odborníci tvrdia, že efektívnejší systém by mohli zabezpečiť priamo obchody s aplikáciami. Tie by overovali vek používateľov ešte pred stiahnutím. Apple sa však voči tejto možnosti vymedzil, keďže podľa neho by narušila princíp minimalizácie údajov. Hovorca Google zasa zdôraznil, že neexistuje jediné riešenie problému a je potrebné zamyslieť sa nad komplexnejším prístupom.

Meta sa snaží riešiť problém klamania o veku na Instagrame pomocou umelej inteligencie, no otázkou zostáva, či tieto opatrenia budú dostatočne efektívne. Vzhľadom na to, že deti často nachádzajú spôsoby, ako obísť vekové obmedzenia, bude dôležité sledovať, ako sa situácia vyvinie a či sa podarí dosiahnuť cieľ zvýšenej ochrany mladých používateľov.

Zdroj