Muž bol uväznený, znásilnený a zbitý po falošnom rozpoznaní tváre.
61-ročný muž tvrdí, že algoritmus na rozpoznávanie tváre použil fotografiu z 80. rokov minulého storočia na jeho identifikáciu v prípade trestného činu, ktorý nespáchal. V januári 2022 bol Harvey Murphy zatknutý a uvrhnutý do väzenia, keď sa pokúšal na miestnom oddelení dopravnej evidencie obnoviť svoj vodičský preukaz. Podľa žaloby vo výške 10 miliónov dolárov, ktorú Murphy medzičasom podal, agent „prevencie strát“ pracujúci pre maloobchodnú predajňu Sunglass Hut použil softvér na rozpoznávanie tváre, aby Murphyho obvinil zo spáchania ozbrojenej lúpeže v obchode v texaskom Houstone. V skutočnosti bol Murphy v čase lúpeže na inom mieste, vzdialenom viac ako 3200 kilometrov od miesta činu.
Podľa žaloby, ktorú 61-ročný Murphy podal proti spoločnostiam Macy’s a Sunglass Hut, „bol zatknutý a umiestnený do preplneného väzenia s maximálnou ochranou s násilnými zločincami. Počas pobytu vo väzení, kde sa snažil dokázať svoju nevinu, bol zbitý, skupinovo znásilnený a zostali mu trvalé a hrozné zranenia na celý život. Niekoľko hodín po tom, ako ho zbili a hromadne znásilnili, boli obvinenia proti nemu stiahnuté a on bol prepustený. To všetko preto, že spoločnosť na základe umelej inteligencie povedala polícii, že ste to vy, kto spáchal hrozné zločiny,“ uvádza sa v žalobe.
K ozbrojenej lúpeži došlo 22. januára 2022 v Houstone v Texase. Dvaja ozbrojení muži vošli do predajne Sunglass Hut, ohrozili dvoch zamestnancov zbraňami a ušli s hotovosťou a slnečnými okuliarmi. EssilorLuxottica je materská spoločnosť, ktorá vlastní Sunglass Hut, a podobne ako mnohé veľké maloobchodné firmy často zamestnáva osoby, ktoré pomáhajú pri vyšetrovaní trestných činov. Podľa žaloby sa agent pre prevenciu strát menom Anthony Pfleger po lúpeži obrátil na policajtov a tvrdil, že vie, kto zločin spáchal.
„Pfleger povedal polícii HPD, že môžu zastaviť vyšetrovanie, pretože našiel ich človeka. Uviedol, že v spolupráci s oddelením prevencie strát Macy’s zistil, že osoba, ktorá násilne prepadla predajňu Sunglass Hut, je Harvey Eugene Murphy Jr. (Murphy). Pomocou umelej inteligencie a softvéru na rozpoznávanie tváre EssilorLuxottica a Macy’s vzali videozáznam z lúpeže a určili, že Murphy je lupič,“ uvádza sa v podanej žalobe. Macy’s v Houstone bola tiež vykradnutá a Pfleger spolupracoval s jej agentmi na prevenciu strát, aby identifikovala páchateľov. Kamery v maloobchodných predajniach sú v Amerike také všadeprítomné, že na ne už často nemyslia ich obyvatelia.
Kamerové systémy v USA sledujú ľudí počas nakupovania a príležitostne poskytujú orgánom činným v trestnom konaní dôkazy o trestných činoch. Mnohé z nich vytvárajú nekvalitné snímky a videá, ktoré sťažujú identifikáciu osôb. V posledných desiatich rokoch začali maloobchodné predajne pripájať tieto kamery k softvérovým systémom na rozpoznávanie tváre. Ide o to, že počítač by mohol automaticky identifikovať známych zločincov, keď vstúpia do maloobchodnej prevádzky, a upozorniť orgány činné v trestnom konaní alebo agentov na prevenciu strát, aby sledovali pohyb osoby.
Technológia rozpoznávania tváre je však nespoľahlivá. V systémoch sú zakomponované ľudské predsudky a pri identifikácii osôb často odvádzajú hroznú prácu. Bolo zaznamenaných mnoho prípadov falošného zatknutia na základe zlej technológie rozpoznávania tváre, často sa týkali černochov. Nič z toho nezastavilo EssilorLuxottica pred tým, aby tlačila na houstonskú políciu, aby zatkla Murphyho. Podľa žaloby Pfleger pripravil jedného zo zamestnancov v Sunglass Hut na pozitívnu identifikáciu Murphyho na fotografii po tom, ako zavolal policajtov.
Murphy bol pre Sunglass Hut ľahkým cieľom. Mal kriminálnu minulosť a bol v systéme. Teraz je z neho starý otec, ktorý podľa žaloby zmenil svoj život. Podľa žaloby boli staré fotografie z 80. rokov minulého storočia verejne dostupné a boli súčasťou databáz rozpoznávania tvárí, ktoré skenovali systémy EssilorLuxottica. V čase lúpeže sa Murphy nachádzal v Sacramente v Kalifornii. O lúpeži, ani o tom, že ho z nej obvinili, sa dozvedel, až keď si išiel na úrad DMV obnoviť vodičský preukaz. Bol zatknutý a zadržaný bez kaucie. Napriek tomu, že svojmu súdom určenému právnikovi poslal dôkazy, ktoré ho zbavovali viny, stále trávil hodiny vo väzení.
„Niekoľko hodín pred tým, ako mal byť Murphy prepustený z väzenia, ho do kúpeľne sledovali traja násilníci. Zbili ho, prinútili padnúť na zem a brutálne hromadne znásilnili. Po tomto násilnom útoku mu jeden zo zločincov povedal, že ak znásilnenie niekomu nahlási, bude zavraždený. Murphy sa odplazil na svoje lôžko a postavil sa tvárou k stene, modliac sa, aby ho títo muži už viac nenapadli. Toto všetko sa Murphymu stalo, pretože žalovaní sa spoliehali na technológiu rozpoznávania tváre, o ktorej je známe, že je náchylná na chyby a chybná,“ uvádza sa v žalobe. Neskôr ho prepustili, ale škoda bola na svete.
