Spôsob, ako sa detekcia „príliš nudistických” fotografií dostáva do zariadení však vyvoláva otázky.
Google vo svojom Android Security Bulletin z októbra 2024 predstavil novinky ohľadom zvýšenia bezpečnosti svojho systému. Po pár týždňoch bola doplnená zmienka o piatich nových ochranách, ktoré zvýšia bezpečnosť Google správ (Google Messages). Jednou z nich je Android System SafetyCore, ktorá má chrániť proti potencionálne nechcenému vizuálnemu obsahu.
Jej úlohou je rozmazať fotografie, prípadne videá, s obnaženými ľudskými postavami pred potvrdením zobrazenia, a v prípade odoslania alebo preposlania takéhoto vizuálneho materiálu upozorní používateľa o možných rizikách. Podstatou E2EE (end-to-end encrypted) komunikácie je, že prístupový (dešifrovací) kľúč má len prijímateľ a odosielateľ správy a nikto iný.
Implementovanie takejto funkcie do koncovo šifrovaných správ je technologická výzva a na zachovanie súkromia je teda nutné aby prebiehala kompletne lokálne a bez toho, aby „kontrolór“ vedel, čo vlastne kontroloval. Posledné spomínané, aj keď pre netechnického človeka tažšie predstaviteľné, je teoreticky možné dosiahnúť. Niečo podobné využíva napríklad pri 3D skene, kde aplikácia chránená cez Face ID pri spustení požiada operačný systém o overenie.
Operačný systém následne s využitím TrueDepth kamery a iných technológií overí, či tvár človeka za telefónom súhlasí s dátami zozbieranými pri nastavovaní 3D skenu a zamknutej aplikácii len oznámi, či to sedí alebo nie a aplikácia sa podľa toho odomkne alebo neodomkne. Aplikácia teda nezíska snímku tváre používateľa a ani iné biometrické dáta.
Nová funkcia v Androide má teda rozhodovať, či je osoba na fotografii „dostatočne odhalená” a podľa toho rozhodnúť, či ju rozmaže, alebo nie. Spoločnosť však nie je transparentná ohľadom toho, ako to vlastne celé funguje. Služba sa taktiež nezobrazuje v bežnom zozname spustených aplikácií, ktoré majú oprávnenia na takmer všetko v zariadení.
Google tvrdí, že nezbiera a nezdieľa používateľské dáta, nezdieľa ich ani s inými spoločnosťami a organizáciami, a že sa zaväzuje dodržiavať Play Families politiku pre túto službu. Funkcia využíva umelú inteligenciu, ktorá musí byť na nejakých dátach natrénovaná, a trénovanie lokálne na smartfóne je v súčasnosti nereálna možnosť, čo by teoreticky mohlo naznačovať využitie cloudových služieb.
Podľa vyjadrenia vývojárov GrapheneOS však aplikácia neposkytuje skenovanie na strane klienta, ktoré by slúžilo na nahlasovanie vecí firmy Google alebo komukoľvek inému. Poskytuje modely strojového učenia v zariadení, ktoré sú použiteľné aplikáciami na klasifikáciu obsahu ako spamu, podvodov, malvéru atď. To umožňuje aplikáciám kontrolovať obsah lokálne bez toho, aby ho zdieľali so službou, a označovať ho varovaniami pre používateľov.
Aj keď je technologicky možné dosiahnuť takúto funkciu bez ohrozenia súkromia. Aj keď minimálne zo začiatku na konkrétnom zariadení nemusí byť úplne spoľahlivá, netransparentnosť Googlu a samotná inštalácia funkcie bez vedomia používateľov vyvoláva obavy, ktoré zvyšuje aj povesť spoločnosti ako najväčšieho šmiráka na internete. Je na rozhodnutí každého, či túto funkciu chce, alebo nie. Aspoň zatiaľ.
Ľudia zo serveru ZDNet zverejnili postup, ako túto funkciu vypnúť: Najprv treba prejsť do hlavných nastavení systému a vyhľadať možnosti „Aplikácie“ alebo „Aplikácie a oznámenia“. Potom vybrať položku „Zobraziť všetky aplikácie“ a potom klepnutím na trojbodové menu v pravom hornom rohu vybrať položku „Zobraziť systémové aplikácie“.
Mala by tam byť aplikácia SafetyCore, samozrejme len v prípade, že už bola nainštalovaná. V prípade že systém neponúka možnosť aplikáciu odinštalovať, možno ju bude možné len zakázať. Taktiež sa dajú zrušiť všetky povolenia pre SafetyCore, hlavne prístup na internet.
