Nové pravidlá EÚ by vyžadovali, aby chatovacie aplikácie kontrolovali súkromné správy na zneužívanie detí.
Odborníci na ochranu súkromia označili tento návrh za neuskutočniteľný a invazívny. Európska komisia navrhla kontroverzné nové nariadenie, ktoré by vyžadovalo, aby chatovacie aplikácie ako WhatsApp a Facebook Messenger selektívne skenovali súkromné správy používateľov na materiál obsahujúci sexuálne zneužívanie detí (CSAM). Návrh je podobný plánom, ktoré vlani predložil Apple, ale podľa kritikov je oveľa invazívnejší. Po tom, ako začiatkom tohto týždňa unikol návrh nariadenia, ho odborníci na ochranu súkromia čo najdôraznejšie odsúdili.
„Tento dokument je najdesivejšia vec, akú som kedy videl,“ napísal na Twitteri profesor kryptografie Matthew Green. „Opisuje najsofistikovanejšiu mašinériu na masové sledovanie, aká kedy bola nasadená mimo Číny a ZSSR. To nie je prehnané.“ Jan Penfrat zo skupiny na ochranu digitálnych práv European Digital Rights (EDRi) zopakoval obavy: „Vyzerá to ako hanebný všeobecný zákon o #surveillance úplne nevhodný pre akúkoľvek slobodnú demokraciu.“ (Porovnanie PDF súborov ukazuje, že rozdiely medzi uniknutým návrhom a konečným návrhom sú len kozmetické).
Nariadenie by stanovilo množstvo nových povinností pre „poskytovateľov online služieb“, širokú kategóriu, ktorá zahŕňa obchody s aplikáciami, hostingové spoločnosti a všetkých poskytovateľov „interpersonálnych komunikačných služieb“. Najkrajnejšie povinnosti by sa týkali komunikačných služieb, ako sú WhatsApp, Signal a Facebook Messenger. Ak spoločnosť z tejto skupiny dostane od EÚ „príkaz na zisťovanie“, bude musieť skenovať správy vybraných používateľov a hľadať v nich známy materiál týkajúci sa sexuálneho zneužívania detí, ako aj predtým nevidené CSAM a všetky správy, ktoré môžu predstavovať „obťažovanie detí“.
Tieto dve posledné kategórie obsahu by si vyžadovali použitie nástrojov strojového videnia a systémov umelej inteligencie na analýzu kontextu obrázkov a textových správ. Naproti tomu minuloročný návrh spoločnosti Apple na skenovanie správ s cieľom nájsť materiál týkajúci sa zneužívania detí by hľadal len známe príklady CSAM, čo obmedzuje priestor na chyby. Po tom, ako Apple čelila rozsiahlej kritike, že jej návrh poškodí súkromie používateľov, odstránila zo svojej stránky odkazy na túto funkciu a jej zavedenie odložila na neurčito.
„Príkazy na zisťovanie“ by vydávali jednotlivé štáty EÚ a Komisia tvrdí, že by boli „cielené a špecifikované“, aby sa obmedzilo porušovanie súkromia. V nariadení však nie je jasné, ako by boli tieto príkazy cielené, či by sa napríklad obmedzovali na jednotlivcov a skupiny, alebo by sa uplatňovali na oveľa širšie kategórie. Kritici nariadenia tvrdia, že takéto príkazy na zisťovanie by sa mohli používať širokým a invazívnym spôsobom a zamerať sa na veľké skupiny používateľov. „Návrh vytvára možnosť, aby [príkazy] boli cielené, ale nevyžaduje to,“ povedala pre The Verge Ella Jakubowska, politická poradkyňa v EDRi. „Úplne ponecháva otvorené dvere pre oveľa všeobecnejší dohľad.“
Odborníci na ochranu súkromia tvrdia, že návrh by mohol tiež vážne ohroziť (a možno aj prelomiť) end-to-end šifrovanie. V návrhu sa výslovne nevyžaduje ukončenie šifrovaných služieb, ale odborníci tvrdia, že požiadavka, aby spoločnosti do svojich systémov nainštalovali akýkoľvek softvér, ktorý EÚ považuje za potrebný na odhalenie CSAM, by v skutočnosti znemožnila spoľahlivé koncové šifrovanie. Vzhľadom na vplyv EÚ na digitálnu politiku v iných častiach sveta by sa tieto isté opatrenia mohli rozšíriť po celom svete vrátane autoritárskych štátov.
„Neexistuje iný spôsob, ako dosiahnuť to, o čo sa návrh EÚ snaží, než aby vlády vo veľkom rozsahu čítali a skenovali správy používateľov,“ povedal pre CNBC Joe Mullin, hlavný politický analytik skupiny pre digitálne práva Electronic Frontier Foundation. „Ak sa návrh stane zákonom, bude to katastrofa pre súkromie používateľov nielen v EÚ, ale na celom svete.“ Okrem problémov so šifrovaním bolo kritizované aj rozhodnutie Komisie zamerať sa na doteraz neznáme príklady CSAM. Vyhľadávanie tohto obsahu by si vyžadovalo použitie algoritmických skenerov, ktoré by podľa Komisie zachovali anonymitu cieľových používateľov. Odborníci však tvrdia, že takéto nástroje sú náchylné na chyby a viedli by k sledovaniu nevinných osôb ich vládou.
„Keď spoločnosť Apple navrhovala niečo podobné na vyhľadávanie známeho obsahu [CSAM], vyvolalo to rozruch. Ak však zavediete nejednoznačnosť a tieto kontextovo závislé scenáre, v ktorých sú nástroje založené na umelej inteligencii, ktoré sú notoricky nespoľahlivé, výzvy sú oveľa väčšie,“ povedala Jakubowska z EDRi. „Stačí sa pozrieť na to, aké sú vyhýbavé spamové filtre. Existujú v našej elektronickej pošte už 20 rokov, ale koľkým z nás sa stále dostáva do schránok spam a uniká nám legitímna pošta? To skutočne ukazuje obmedzenosť týchto technológií.“ Jakubowska povedala: „Celý tento návrh je založený na nariaďovaní technicky neuskutočniteľných, ak nie nemožných vecí.“
