Ako podvodníci zneužívajú pomocou AI známe osobnosti či firmy?
ESET a Pellegrini lákajúci na zázračné zbohatnutie. Slovenský online priestor zaplavujú reklamy zobrazujúce známe osobnosti, ktoré používateľov nabádajú na investovanie s vidinou zbohatnutia. Podvodníci pritom používajú technológiu deepfake aj falošné stránky spravodajských portálov. Útočníci využívajú podobné odnože podvodov po celom svete. Podľa údajov z detekčných systémov je Slovensko jednou z najviac zasiahnutých krajín.
„Zarábanie peňazí so spoločnosťou ESET je teraz také jednoduché ako kontrola e-mailu. Len si to predstavte. Váš osobný finančný poradca pracuje nepretržite, a to všetko vďaka umelej inteligencii,“ prihovára sa internetovému publiku Richard Marko, generálny riaditeľ ESETu. V skutočnosti však ide o deepfake, teda video vytvorené pomocou umelej inteligencie.
Na takýto obsah môže používateľ naraziť v podobe online reklamy, napríklad na sociálnej sieti Facebook. Príspevok sa zobrazí vo feede a informuje, že o recepte na zbohatnutie vedia len 2% občanov. Video obsahuje logo firmy, hovoriaceho CEO Richarda Marka a tabuľku s možnými výnosmi. Po spustení videa pozornejšiemu divákovi neunikne, že pohyby pier Richarda Marka nesedia so zvukom.
Kyberzločinci upravili záznam skutočného príhovoru generálneho riaditeľa a vložili mu do úst slová, ktoré nikdy nepovedal. Ich cieľom je vzbudiť u diváka záujem a nalákať ho na zbohatnutie vďaka umelej inteligencii. Podvodnú reklamu šíri profil s názvom Luftinvest +, ktorý má na Facebooku iba zopár sledovateľov a bol vytvorený v júli.
Profil je inak neaktívny a podľa všetkého sa využíva iba na šírenie podvodov. Podľa informácií o stránke v sekcii Transparentnosť stránky je účet spravovaný z Indie. Spoločnosť zaznamenala túto podvodnú reklamu už pred niekoľkými týždňami. Po nahlásení reklamy a zablokovaní však útočníci nasadzujú vždy novú falošnú reklamu. Podľa verejne dostupnej knižnice reklám si ich pozreli desiatky tisíc ľudí.
Podvodná reklama zneužívajúca ESET
„Útočníci v tomto prípade zneužívajú našu značku, ktorú Slováci poznajú ako úspešnú technologickú firmu. Chcú zneužiť práve dôveryhodnosť značky a prepojenie na najmodernejšie technológie, aby vyvolali ilúziu, že firma ponúka nový inovatívny spôsob, ako zbohatnúť,“ vysvetľuje Ondrej Kubovič, špecialista na digitálnu bezpečnosť z ESETu.
Kampaň bežiacu 16.8.2024 si pozrelo viac ako 14-tisíc ľudí. Z informácií pochádzajúcich z knižnice reklám útočníci zacielili reklamu na Slovákov vo veku od 18 do 65+ rokov. Platcom inzercie je podľa knižnice La Frite Belge – Foodtruck. Značku legitímnej spoločnosti s belgickými hranolkami kyberzločinci pravdepodobne zneužili na tento účel.
Z knižnice reklamy je zrejmé, že podvodníci profil využívali aj na šírenie obsahu s tematikou Andreja Babiša či iných podvodov. Veľké množstvo reklám, ktoré šíri tento profil, je blokovaných. Na podobné aktivity by sociálne siete mali mať čiastočne automatizovanú reakciu. Ako je teda možné, že stránka dokáže nanovo nahrať problematický obsah, ak bol už v minulosti zablokovaný?
„Nejde o úplne identický text ani obsah, keďže sa môže zmeniť meno, názov firmy či celý vizuál, aj keď ide o rovnaký typ podvodu. Navyše, pokiaľ nie je zablokovaný celý profil, môže nové reklamy nanovo nahrávať dokedy chce. Opätovné nasadenie podvodnej reklamy je s najväčšou pravdepodobnosťou výsledkom nesprávne alebo nedostatočne nastavených pravidiel automatického detegovania, blokovania a odstraňovania podobného obsahu zo strany sociálnej siete. Problémom môže byť aj nedostatočná ľudská kapacita nasadená na riešenie podobných problémov, najmä pre jazyky ako slovenčina“ vysvetľuje Ondrej Kubovič.
Druhá fáza podvodu zneužívajúceho značku ESET začína prekliknutím sa na odkaz uvedený v reklame. Používateľ sa ocitne na webstránke, ktorá sa názvom, logom aj dizajnom vydáva za portál Aktuality.sk. Čitateľa upúta nadpis článku „Revolúcia na slovenskom finančnom trhu!“. V článku sa dozvie, že neurónová sieť pre každého Slováka vygeneruje výnos od 3-tisíc eur mesačne.
Deepfake video zneužívajúce generálneho riaditeľa spoločnosti ESET
Skopírovanie štruktúry stránky a vytvorenie jej falošnej verzie je dnes pre útočníka otázkou niekoľkých minút. Text bol pravdepodobne vytvorený pomocou umelej inteligencie. „Pre skúsenejších používateľov ide o očividný podvod. V takýchto prípadoch sa však kyberzločinci spoliehajú na to, že z veľkého množstva zasiahnutých ľudí naletí aspoň malý zlomok, ktorý zašle požadovanú sumu bez väčšieho zamyslenia sa. Ide tak o ľahko zarobené peniaze s minimálnou časovou a finančnou investíciou na strane útočníka,“ hovorí Ondrej Kubovič.
Útočníci v článku operujú so sumou 250 eur. Práve to je minimálny vklad v rámci ponúkaného investovania. To, že investícia je v bezpečí, má zaručovať samotný ESET známy svojimi vysokými bezpečnostnými štandardmi. Ak článok čitateľa presvedčil, nasledujú tri kroky. Najprv má záujemca vyplniť registračný formulár s menom, e-mailovou adresou a telefónnym číslom, počkať na telefonát od správcu investičnej platformy a následne do nej vložiť minimálne 250 eur.
Scenár je takmer identický ako v prípade medializovaných podvodov, v rámci ktorých útočníci zneužili spoločnosť Slovnaft či prezidenta Slovenskej republiky Petra Pellegriniho. Falošná reklama s deepfake videom hlavy štátu na sociálnych sieťach odkazuje na falošný spravodajský článok, kde prezident vyzýva na investovanie. Minimálny vklad bol aj v tomto prípade 250 eur.
Podvod podrobne popísali Hospodárske noviny, ktoré sa rozhodli zistiť čo sa stane, keď vo falošnom článku vyplnia formulár so záujmom o investovanie. Telefón im zazvonil hneď po registrácii a osoba sa predstavila ako zamestnankyňa investičnej spoločnosti. „Všetko chce vyriešiť veľmi rýchlo a okamžite pomáha s otvorením obchodného účtu a s vkladom prvých 250 eur,“ píšu Hospodárske noviny.
Keď sa Hospodárske noviny spýtali na podrobnosti z reklamy, pani sa začala zaujímať, aké reklamy videli. Otázkam sa vraj prispôsobila a súhlasila so všetkým, čo jej potenciálni záujemcovia povedali. „Aj o reklamách, ktoré neexistujú. Všetko potvrdila, aby to vždy vyzeralo, že ste na „správnej adrese“ a naozaj dostanete, čo vám bolo sľúbené,“ približujú noviny.
Falošný článok o spoločnosti ESET imitujúci portál aktuality
ESET denne blokuje desiatky až stovky domén s falošnými webstránkami, ktoré obsahujú tento druh podvodu. Na jednej doméne sa pritom môže nachádzať viacero jazykových mutácií scamu. Firma sleduje túto hrozbu dlhodobo, pričom od mája 2024 raketovo narástli počty jej detekcií. Hrozbu eviduje v rámci svojej telemetrie pod názvom HTML/Nomani.
Od polovice mája do polovice augusta 2024 po celom svete dokopy zaznamenal desiatky tisíc detekcií, ktoré blokujú časti popisovaných podvodov. Najviac, 16% prípadov, detegovala spoločnosť v Kanade. Na druhom mieste skončilo s 15% Slovensko. S odstupom nasledujú Japonsko (9%), Juhoafrická republika (6%) a Holandsko (5%).
„Zo štatistiky je evidentné, že aj keď je Slovensko pomerne malá krajina, predstavuje pre kyberzločincov atraktívny terč, na ktorý sa zamerali. Vidieť to aj na počte rôznych verzií podvodov, ktoré špeciálne prispôsobili slovenským reáliám. O dôvodoch, prečo sa tak rozhodli, môžeme len špekulovať. Jedným z vysvetlení by bolo, že k útočníkom sa mohli dostať medializované informácie o zraniteľnosti slovenskej populácie voči falošným správam,“ uvažuje Ondrej Kubovič.
Šanca, že sa s nejakou verziu podvodu na sociálnej sieti stretnete, je pomerne vysoká, najmä ak ste na ňu už raz klikli. Krátko po tom, ako sme natrafili na falošnú reklamu s ESET tematikou, na nás vyskočila falošná reklama spoločnosti Západoslovenská energetika s obrázkom Petra Pellegriniho. Po kliknutí na odkaz sa používateľ dostane na falošnú stránku, ktorá imituje web ZSE a láka na výhodný investičný projekt s minimálnym vkladom 250 eur.
Stránka obsahuje viaceré znaky podvodu založeného na psychologickej manipulácii. Ponuku, ktorá znie až príliš dobre na to, aby bola pravdivá, výzvu s obmedzeným počtom miest, či časový limit na využitie prístupu. Ďalšia reklama, ktorá nás bezprostredne na to zasiahla na Facebooku zas sľubovala senzačný nástroj umelej inteligencie uľahčujúci násobenie peňazí. Minimálny vklad bol opäť 250 eur.
Falošná stránka imitujúca web ZSE
Niektoré z príspevkov sa dokonca snažia vzbudiť dojem dôveryhodnosti aj prostredníctvom komentárov pod Facebookovou reklamou. Falošné účty popisujú svoje pozitívne skúsenosti s cieľom presvedčiť ostatných, že môžu zahodiť pochybnosti a pustiť sa do investovania. „To je neuveriteľné, stále kontrolujem stav účtu a nemôžem tomu uveriť. Prichádza to okolo 1430 eur denne,“ píše falošný profil s menom Rastislav.
Pri výbere tém sa podvodníci neštítia zneužiť ani smrť človeka. Môže sa používateľom stať, že natrafíte na reklamu s informáciou o smrti známej osobnosti. Keď kliknete na odkaz, dostanete sa na falošný článok, v ktorom známa osobnosť propaguje investičnú platformu.
„Všetky spomínané podvody nesú totožný rukopis. Je pravdepodobné, že útočníci pripravili celú podvodnú sieť, do ktorej sa snažia nachytať čo najviac ľudí. Pri zneužívaní známych osobností či firiem majú prakticky neobmedzené možnosti. Keď sa im bude zdať, že podvod je už príliš obohratý, pripravia nový s menom inej firmy, celebrity, manažéra či politika. Treba sa pripraviť aj na to, že podvodné deepfake videá budú čoraz kvalitnejšie a vierohodnejšie,“ upozorňuje Ondrej Kubovič.
Falošné reklamy používateov môžu zastihnúť prostredníctvom rôznych menších účtov so zahraničnými názvami, ktoré útočníci špeciálne využívajú na šírenie podvodov. V minulosti sme však narazili aj na prípad, keď falošnú reklamu šírila oficiálna stránka veľkej medzinárodnej spoločnosti. Útočníci sa totiž pokúšajú nabúrať do účtov sociálnych sietí oficiálnych inštitúcií a podvodný obsah šíriť pod ich menom, aby pôsobili ešte dôveryhodnejšie.
Podobne to bolo aj pri podvodoch s kryptomenami na sieti Twitter pred pár rokmi. Útočníci sa najprv nabúrali do oficiálnych účtov mimoriadne známych ľudí vrátane Elona Muska, Baracka Obamu, Billa Gatesa či Warenna Buffeta. Následne cez tieto profily presviedčali followerov, aby poslali svoje bitcoiny, ktoré sa v rámci pandemickej pomoci mali následne v dvojnásobnej výške vrátiť na účet obete. Znelo to príliš dobre, aby to bola pravda, a nakoniec sa naozaj ukázalo, že išlo o podvod.
Falošná reklama lákajúca na zbohatnutie
Ako sa môžu chrániť jednotlivci? Používajte kvalitné bezpečnostné riešenie, ktoré dokáže zablokovať podvodné stránky, na ktoré by ste sa mohli prekliknúť z reklám.
Pristupujte kriticky k obsahu prijímanému na sociálnych sieťach. Ak nejaká ponuka znie príliš dobre na to, aby to bola pravda, s najväčšou pravdepodobnosťou pôjde o podvod.
Ak sa používateľovi niečo nepozdáva, treba si overiť si informácie prostredníctvom oficiálnych kanálov organizácie, ktorá je údajne za výhodnou ponukou. Všímať si varovné znaky deepfake videa, najmä viditeľný nesúlad medzi pohybmi pier a zvukom, nízku kvalitu videa, alebo neprirodzený pohyb osoby na videu. Neklikať na odkaz vo falošných reklamách. Ak naňho kliknete, algoritmus používateľovi môže v budúcnosti zobrazovať viac podobných reklám.
Ak sa prekliknete na stránku, nezadávajte na nej žiadne informácie. Útočníci ich môžu následne zneužiť napríklad na cielený phishing. Takisto nič z podvodných stránok nesťahujte. Ak zbadáte falošnú reklamu, nahláste ju.
Ako sa môžu chrániť dotknuté firmy a osobnosti? Ochrana firiem a osobností zneužitých prostredníctvom falošnej reklamy predstavuje aktuálne výzvu, s ktorou sa budú musieť popasovať sociálne siete umožňujúce šírenie takéhoto obsahu. Aj napriek tomu, že dotknuté inštitúcie či osobnosti ťahajú v boji s podvodníkmi za kratší povraz, môžu vykonať niekoľko krokov na svoju ochranu.
- Aktívne monitorujte sociálne siete.
- V prípade, že narazíte na príspevok zneužívajúci vaše meno, nahláste ho.
- Upozornite zamestnancov, že aktuálne prebieha škodlivá kampaň a poučte ich, že majú príspevky nahlasovať, keď na ne natrafia.
- Upozornite verejnosť na to, že vašu značku aktuálne zneužívajú podvodníci. Používatelia si tak môžu overiť nepravosť informácie cez vaše oficiálne kanály.
- Kontaktujte priamo zamestnanca platformy, na ktorej sa šíri falošná reklama. Mnoho firiem má v rámci sociálnych sietí svojich account manažérov.
- Dbajte na zabezpečenie prístupu k vašim sociálnym sieťam.
- Ak útočníci zneužívajú vašu značku, môžete podniknúť právne kroky.
