Umelá inteligencia sa už nesmie vydávať za človeka, inak hrozia miliónové pokuty.
Rozoznať dnes skutočnú fotografiu od tej, ktorú vygenerovala umelá inteligencia, je čoraz ťažšie. Európska únia sa preto rozhodla, že toto bremeno nenechá len na bežných používateľoch a zakročila. Od 2. augusta 2026 začínajú platiť prísne pravidlá pre transparentnosť z európskeho nariadenia o umelej inteligencii (tzv. AI Act). Pre firmy to znamená koniec schovávania sa za zložité právnické texty.
Cieľ je jednoduchý: každý musí vždy vedieť, či má pred sebou realitu, alebo výtvor stroja. Zrejme najväčšou zmenou bude komunikácia so zákazníckou podporou. Ak firma využíva chatboty alebo hlasových asistentov, musia používateľovi včas a jasne priznať, že nie sú živí ľudia. Táto povinnosť sa týka aj autonómnych „AI agentov“, ktorí dokážu samostatne objednávať tovar, robiť rezervácie alebo vybavovať poštu.
Podľa pokynov musia tieto systémy priznať nielen to, že sú umelou inteligenciou, ale aj to, za koho vlastne konajú. Doteraz firmám stačilo, keď túto informáciu schovali niekde do siahodlhých obchodných podmienok, čo už platiť nebude. Informácia musí byť po novom jasne viditeľná presne tam, kde prebieha samotná interakcia so zákazníkom.
Advokát Jaroslav Kuba upozorňuje, že tieto novinky nedopadajú len na vývojárov veľkých modelov, ale na obrovské množstvo bežných firiem a inštitúcií, ktoré AI využívajú vo svojej prevádzke. Generatívna umelá inteligencia dokáže bleskovo vytvárať dezinformácie priamo na mieru konkrétnemu publiku a šíriť ich obrovskou rýchlosťou. Nové pravidlá majú ľuďom vrátiť schopnosť dôverovať tomu, čo na internete vidia a čítajú.
Z toho dôvodu prichádzajú tvrdé pravidlá pre označovanie syntetického obsahu:
- Materiály, ktoré pôsobia autenticky a pripomínajú reálne osoby alebo udalosti (tzv. deepfakes), musia byť jasne označené ako syntetické.
- Vygenerovaný obsah bude musieť obsahovať vodoznak alebo iný strojovo čitateľný kód, ktorý umožní jeho jednoduchú detekciu.
- Týka sa to dokonca aj produktových fotografií, pokiaľ by mohli zákazníka oklamať o skutočných vlastnostiach tovaru.
- Ak firma zverejní informačný text vo verejnom záujme, ktorý napísala AI bez ľudskej redakčnej kontroly, musí na to čitateľov upozorniť.
Tieto povinnosti platia predovšetkým pre obsah tvorený profesionálne a na firemné účely. Súkromné využitie zostáva bokom a výnimku dostali aj umelecké, satirické či fiktívne diela. Viac ako tretina spoločností podľa prieskumov rieši problematiku AI len veľmi povrchne, čo sa im môže kruto vypomstiť. Sankcie za porušenie týchto pravidiel vôbec nie sú symbolické – previnilcom hrozia pokuty až do výšky 15 miliónov eur alebo 3% z ich celosvetového obratu.
Veľkí technologickí hráči už reagujú. TikTok vyžaduje označovanie generovaného obsahu už niekoľko rokov, Meta nasadila na Facebook a Instagram štítok s názvom „AI Info“ a Google na nástrojoch digitálneho značenia spolupracuje s firmami ako Apple, NVIDIA či OpenAI. Tí, ktorí už AI systémy majú zabehnuté, dostali na prispôsobenie sa novým pravidlám čas do 2. decembra.
