Nový trik Mety: Umelá inteligencia chce všetky fotografie.
Meta nasadzuje manipulatívnu AI na získanie prístupu k fotografiám používateľov. Vlastník platforiem Facebook a Instagram, nasadzuje novú stratégiu na získanie prístupu ku kompletným knižniciam fotografií svojich používateľov. Táto taktika, maskovaná za ponuku personalizovaných služieb s využitím umelej inteligencie (AI), predstavuje ďalší krok v snahách technologických gigantov o masívny zber používateľských dát.
Väčšina obsahu zdieľaného na sociálnych sieťach pochádza zo smartfónov. Tieto fotografie obsahujú rozsiahle metadáta vo formáte EXIF (Exchangeable Image File Format), ktoré zahŕňajú: presný čas a dátum zhotovenia snímky, geografické súradnice (GPS), odhaľujúce presnú polohu a zároveň model a technické nastavenia fotoaparátu/smartfónu.
Hoci sociálne siete pri nahrávaní tieto metadáta z verejne dostupných fotografií odstraňujú, interné systémy platforiem si ich ukladajú. Tieto dáta sú pre spoločnosti ako Meta mimoriadne cenné. Umožňujú detailné profilovanie používateľov, sledovanie ich pohybu a zvykov, čo následne slúži na presné cielenie reklamy alebo na predaj agregovaných dát tretím stranám.
Meta teraz testuje novú výzvu, ktorá sa zobrazuje používateľom, ktorí doteraz odmietali udeliť aplikácii plný prístup ku svojej fotogalérii. S prísľubom inovatívnych funkcií žiada o povolenie na cloudové spracovanie fotografií. Oficiálny text výzvy uvádza: „Aby sme pre vás vytvorili nápady, vyberieme médiá z vášho fotoaparátu a priebežne ich nahráme do nášho cloudu na základe informácií, ako je čas, miesto alebo téma.”
Platforma sľubuje, že pomocou AI vytvorí personalizovaný obsah, ako sú spomienky na udalosti (narodeninové oslavy, promócie) alebo kreatívne koláže. Kľúčovou súčasťou tejto taktiky je ubezpečenie, že dáta „nebudú použité na reklamné účely“. Tento krok je psychologickou manipuláciou, ktorej cieľom je znížiť ostražitosť používateľov a presvedčiť ich, aby pod vidinou atraktívnej funkcie dobrovoľne odovzdali prístup k citlivým dátam.
Udelenie takéhoto prístupu však nepredstavuje len riziko zneužitia metadát. Umožňuje platforme analyzovať vizuálny obsah všetkých fotografií v knižnici, vrátane automatického rozpoznávania tvárí. Firma by tak získala schopnosť identifikovať nielen používateľa, ale aj jeho rodinu, priateľov a deti na všetkých snímkach, aj na tých, ktoré neboli nikdy zdieľané.
Algoritmy by mali prístup k súkromným a intímnym fotografiám, snímkam detí alebo záberom z citlivých situácií. Problém sa navyše násobí v sociálnom kontexte. Aj keď jeden používateľ prístup odmietne, Meta sa k jeho fotografiám môže dostať prostredníctvom partnera, priateľa alebo člena rodiny, ktorý aplikácii prístup povolil a má daného používateľa na svojich fotografiách. Ochrana súkromia je úzko spätá aj s operačným systémom zariadenia.
iOS: Spoločnosť Apple sa dlhodobo profiluje ako ochranca súkromia. Väčšinu AI operácií, vrátane analýzy fotografií, sa snaží vykonávať priamo na zariadení (on-device) s využitím špecializovaného hardvéru (Neural Processing Unit). Apple v minulosti čelil tlaku verejnosti po oznámení plánu na skenovanie obsahu kvôli materiálu obsahujúcemu sexuálne zneužívanie detí (CSAM), no po kritike od expertov na ochranu súkromia od tohto invazívneho zámeru ustúpil.
Silný dôraz na súkromie je kľúčovou súčasťou marketingu Applu a akýkoľvek škandál by pre spoločnosť znamenal riziko. Android: V prípade Googlu, ktorého obchodný model je postavený na dátach a reklame, sú obavy oprávnene väčšie. Sú známe medializované prípady, kedy AI spoločnosti nesprávne označila fotografie (napr. snímku kožného problému dieťaťa zaslanú lekárovi) ako CSAM, čo viedlo k permanentnému a neodvolateľnému zablokovaniu celého Google účtu používateľa.
A to aj napriek preukázaniu neviny políciou. V kombinácii s politickým tlakom na oslabenie koncového šifrovania pod zámienkou „ochrany detí“ predstavuje takáto automatizovaná kontrola bez ľudského dohľadu a možnosti odvolania vážnu hrozbu. Úplne sa vyhnúť zberu dát je v dnešnom digitálnom svete prakticky nemožné. Spoločnosti zbierajú informácie nielen cez aplikácie, ale aj prostredníctvom sledovacích skriptov na webových stránkach. Riešením je aktívna digitálna hygiena.
Používanie blokátorov reklám a sledovacích skriptov: Nástroje, ktoré bránia zberu dát tretími stranami. Využívanie nástrojov na izoláciu: Prehliadač Firefox ponúka funkciu „Facebook Container“, ktorá izoluje aktivitu Facebooku od ostatného prehliadania a obmedzuje tak jeho schopnosť sledovania.
Zvýšená ostražitosť: Používatelia by mali byť kritickí voči akýmkoľvek žiadostiam o prístup k dátam, najmä ak sú prezentované ako výhodná ponuka s využitím umelej inteligencie. S rastúcou sofistikovanosťou AI musia používatelia zostať ostražití. Pohodlie, ktoré technologické spoločnosti ponúkajú, je často len zásterkou pre stále invazívnejšie metódy zberu osobných údajov.
