Výsledky sú s pomocou využitia tiel skutočných žien a pomocou technológie deepfake na svete.
„AI influencerky“ na Instagrame nazbierali státisíce sledovateľov a milióny zobrazení tým, že kradli tváre skutočných žien, aby vyzerali dôveryhodnejšie. Ľudia prevádzkujúci účty na Instagrame pre influencerky a nahé modelky generované umelou inteligenciou sťahujú populárne instagramové videá skutočných modeliek a sexuálnych pracovníčok, pričom následne pomocou technológie deepfake takto ukradnuté videá prispôsobovali na tvár AI modelky.
Takto vytvorené a upravené videá používajú následne na propagáciu plateného predplatného účtov modeliek vygenerovaných umelou inteligenciou na konkurenčných stránkach OnlyFans. V niektorých prípadoch tieto modelky vytvorené AI nazbierali stovky tisíc sledovateľov na Instagrame takmer výlučne pomocou ukradnutého obsahu. Túto desivo dystopickú praktiku najlepšie vysvetlí pohľad na stránku modelu generovaného umelou inteligenciou.
Adrianna Avellino je „digitálna tvorkyňa“, ktorá má 94,000 sledovateľov. Adriannina stránka odkazuje na stránku Fanvue (konkurencia OnlyFans), ktorú si ľudia môžu predplatiť za 5 USD mesačne. Niektoré fotografie na jej účte na Instagrame sú zjavne vytvorené výlučne pomocou generátorov obrázkov s umelou inteligenciou, ale sú tam aj desiatky videí skutočných žien, ktoré boli upravené skrz zmieňovaný deepfake tak, aby obsahovali Adrianinu tvár vytvorenú umelou inteligenciou.
Ako príklad poslúži video, ktoré bolo zverejnené 24. marca a v čase písania tohto článku malo 4,540 lajkov a bolo s titulkom „Chcete byť priateľmi alebo viac ako priateľmi?“ Toto video je ukradnuté austrálskej modelke Elle Cervetto, ktorá má 1,4 milióna sledovateľov na Instagrame a 1,1 milióna sledovateľov na TikToku. Toto video zverejnila na Instagrame 22. marca.
Ostatné videá sú medzitým ukradnuté modelke Cece Rose a boli nahradené „Adrianinou“ tvárou. Influenceri AI, ktorých som videla, mali jednu konzistentnú „tvár“ vo všetkých ukradnutých navijakoch, ktoré zverejnili. Ale ženy, ktoré ukradli, neboli vždy rovnaké, čo znamená, že jeden AI influencer často zverejňuje videá pozostávajúce z mnohých rôznych „tiel“, ktoré sú samozrejme ukradnuté skutočným ženám.
Ďalšia modelka vytvorená umelou inteligenciou s názvom Sophie Skye nazbierala 258,000 sledovateľov Instagramu a predáva predplatné Patreon za 20 dolárov mesačne. Účty uvedené v tomto článku boli v prevádzke až do pondelka. Meta odstránila dva účty po tom, ako bola na problémový obsah upozornená. Ďalší účet s názvom Aurora Kate Harris, ktorý mal viac ako 100,000 sledovateľov, Meta vymazala už skôr.
Fanvue odstránil jeden z účtov influencera s umelou inteligenciou a uviedla: „Tento obsah je v rozpore s našimi podmienkami. Účet sme dočasne odstránili, kým vyšetríme jeho tvorcu. Spoločnosť má tím pre dodržiavanie predpisov, ktorý sa venuje preskúmavaniu účtov a každé porušenie berie vážne.“ Krádež videozáznamov od skutočných žien, aby boli influencerky s umelou inteligenciou „dôveryhodnejší“, pretože podkladové videozáznamy sú v skutočnosti skutočné, je stratégia, ktorú opakovane vidieť pri tvorbe „AI influencerov“.
Pokiaľ nemáte vedľa seba pôvodné video a falošné video, môže byť neuveriteľne ťažké odhaliť, že ide o zábery s umelou inteligenciou. Pretože namiesto toho, aby ľudia stojaci za týmito účtami vymenili tvár známej celebrity na pornografickú scénu, vymenili neznámu tvár vytvorenú umelou inteligenciou za ukradnuté video od tvorcov, ktorí nie sú takí známi.
Táto prax poukazuje na často prehliadaný problém technológie deepfake, ktorá sa vyskytuje od prvého objavenia v roku 2017. Nejde len o celebrity alebo obyčajné ženy, ktorých tvár sa používa bez ich súhlasu. Ukradnutý je aj obsah a telo práce a videá žien z podkladového videa. Čitateľ 404 Media uviedol, že spolu s priateľom identifikovali niekoľko účtov, ktoré to robia, a že veľkú časť ich algoritmu nakrúcania teraz tvorí tento obsah. „V podstate sme zistili, že niekto kradne obsah sociálnych sietí od tvorcov obsahu OnlyFans, vymieňa tvár s tvárou vygenerovanou umelou inteligenciou, vytvára účty ako nový tvorca na Instagrame a potom ich prepája s fiktívnymi účtami na OnlyFans,“ napísal čitateľ.
Autor tipu uviedol, že akonáhle začal komunikovať s obsahom generovaným umelou inteligenciou, dostával ho oveľa viac, čo je jav, ktorý sme už predtým identifikovali v prípade ukradnutého a falošného obsahu generovaného umelou inteligenciou na Facebooku. Uvádza: „akonáhle IG vyňuchá aj to, čo ste si prezerali, začne vám servírovať čoraz viac. S kamarátom v podstate meníme identifikáciu podvrhov umelej inteligencie na ad-hoc minihru.“
Mnohé z videí na stránke Sophie Skye sú ukradnuté od modelky OnlyFans s názvom BlackWidOF, ktorá má 607,000 sledovateľov na Instagrame a 1,6 milióna sledovateľov na TikToku. Samotný Patreon je plný obrázkov, na ktorých je tvár ženy s umelou inteligenciou vymenená za telo Angely Whiteovej, jednej z najznámejších pornoherečiek na svete. Patreon na žiadosť o komentár nereagoval.
V posledných mesiacoch sa veľa diskutovalo o influenceroch a nahých modelkách vytvorených umelou inteligenciou. Mnohé modelky generované AI na Instagrame zverejňujú snímky, ktoré sú očividne úplne vygenerované s AI pomocou online generátorov snímok. Ale účty, ktoré si pozerá 404 Media, preberajú skutočné videá od skutočných ľudí a vymieňajú na ne tváre generované umelou inteligenciou. Vo väčšine prípadov tieto videá vyzerajú celkom realisticky a rozhodne sa líšia od spamu generovaného umelou inteligenciou, ktorý sa pravidelne šíri na Facebooku.
Z komentárov k videám upraveným umelou inteligenciou je zrejmé, že ľudia nevedia alebo im je jedno, že ide o umelú inteligenciu. Na internete je YouTube kanál so 135,000 sledovateľmi, ktorý zverejnil podrobný návod, ako podobné veci realizovať. V tomto videu, ktoré má 340,000 pozretí, sa uvádza, že influencer s umelou inteligenciou „bude dôveryhodnejší, ak si vytvoríte Reels“.
