Čo prináša AI Act a prečo vznikol?
Európska únia (EÚ) prijala nové nariadenie, ktoré má za cieľ regulovať používanie umelej inteligencie (AI) a minimalizovať riziká spojené s jej nasadením. Artificial Intelligence Act (AI Act), označený evidenčným číslom 2024/1689, je prvým komplexným regulačným rámcom na svete, ktorý sa zameriava na riadenie rizík spojených s AI. Tento zákon nadobudol platnosť 1. augusta 2024, pričom niektoré jeho časti začali platiť od 2. februára 2025.
AI Act prináša prísne pravidlá pre vývoj, nasadenie a používanie AI systémov, pričom niektoré praktiky úplne zakazuje. Prečo vznikol AI Act? Rýchly rozvoj umelej inteligencie priniesol nielen nové príležitosti, ale aj riziká. V minulosti sme boli svedkami nevhodného použitia AI, ktoré viedlo k únikom citlivých údajov, manipulácii s verejnou mienkou či narušeniu súkromia.
EÚ sa preto rozhodla reagovať na tieto hrozby a zaviesť pravidlá, ktoré majú zabezpečiť, že AI bude používaná eticky, transparentne a zodpovedne. AI Act sa zameriava na ochranu základných práv, ako je súkromie, bezpečnosť a rovnosť, a zároveň podporuje inováciu a rozvoj technológií. Zákon rozdeľuje AI systémy do kategórií podľa úrovne rizika, ktoré predstavujú, a stanovuje pravidlá pre ich používanie.
Zakázané praktiky: Čo už nebude povolené? AI Act obsahuje zoznam praktík, ktoré sú považované za neprijateľné a úplne zakázané. Medzi ne patria: manipulatívne systémy (AI systémy, ktoré využívajú zraniteľnosti určitých skupín, napríklad detí alebo osôb so zdravotným postihnutím, na manipuláciu ich správania); sociálne hodnotenie (systémy, ktoré hodnotia jednotlivcov na základe ich správania alebo osobnostných profilov).
Tieto (sociálne hodnotenia) môžu viesť k diskriminácii alebo nespravodlivému zaobchádzaniu. Rozpoznávanie tvárí na verejných miestach (neadresný zber údajov cez kamerové systémy a ich analýza pomocou AI je zakázaná, pokiaľ nejde o výnimky, ako sú bezpečnostné účely s predchádzajúcim povolením); biometrická analýza v reálnom čase (používanie AI na analýzu emócií alebo biometrických údajov na pracoviskách, v školách alebo na verejných miestach).
Zakázané je tiež neoprávnené zhromažďovanie údajov (zber online obrázkov alebo údajov z CCTV kamier na vytváranie databáz pre rozpoznávanie tvárí). Tieto praktiky sú považované za neprijateľné, pretože predstavujú vysoké riziko pre súkromie, bezpečnosť a základné práva jednotlivcov. AI Act definuje aj kategóriu vysokorizikových AI systémov, ktoré môžu mať významný vplyv na zdravie, bezpečnosť alebo práva jednotlivcov.
Medzi takéto systémy patria napríklad: AI systémy používané pri nábore zamestnancov, hodnotení uchádzačov alebo rozhodovaní o povýšení; AI systémy v zdravotníckych zariadeniach, napríklad na diagnostiku alebo liečbu; AI systémy v oblasti vzdelávania, ktoré hodnotia študentov alebo rozhodujú o ich prijatí; Systémy ovplyvňujúce demokratické procesy, napríklad tie, ktoré môžu ovplyvniť výsledky volieb.
A tiež aj systémy na správu kritickej infraštruktúry, ako sú dodávky vody, plynu alebo elektriny. Pre tieto systémy platia prísne požiadavky, ako je zavedenie systému riadenia rizík, transparentnosť a pravidelné monitorovanie ich výkonu. Poskytovatelia týchto systémov musia zabezpečiť, že ich AI je bezpečná, spoľahlivá a neobsahuje zaujatosti.
AI Act sa zameriava aj na všeobecné modely AI (General Purpose AI, GPAI), ako sú napríklad Granite od IBM alebo Llama 3 od Meta. Tieto modely, ktoré sú schopné vykonávať širokú škálu úloh, musia spĺňať špecifické požiadavky: poskytovatelia musia zverejniť podrobné informácie o tréningových dátach, ktoré boli použité na vývoj modelu. Modely musia byť navrhnuté tak, aby rešpektovali autorské práva v EÚ.
Ak model predstavuje systémové riziko (napríklad ak má významný vplyv na verejné zdravie alebo bezpečnosť), poskytovatelia musia splniť dodatočné požiadavky, ako je dokumentácia incidentov a zabezpečenie kybernetickej ochrany. AI Act zavádza prísne sankcie za porušenie pravidiel. Pokuty sa môžu pohybovať od 7,5 milióna eur alebo 1,5% celosvetového ročného obratu až po 35 miliónov eur alebo 7% celosvetového ročného obratu, v závislosti od závažnosti porušenia.
Pre malé a stredné podniky sú pokuty nižšie, aby sa zohľadnila ich finančná situácia. AI Act sa nevzťahuje na všetky použitia AI. Výnimku tvoria: AI systémy používané na osobné účely, a AI systémy určené výlučne na vedecký výskum a vývoj. Tieto výnimky umožňujú, aby sa AI mohla naďalej rozvíjať v oblastiach, ktoré nepredstavujú riziko pre verejnosť. AI Act sa vzťahuje na široké spektrum subjektov, vrátane vývojárov AI systémov, ich poskytovateľov, distribútorov a používateľov.
Zákon sa týka aj zahraničných spoločností, ak ich AI systémy alebo výstupy týchto systémov sú používané v EÚ. To znamená, že aj firmy mimo EÚ musia dodržiavať pravidlá, ak chcú pôsobiť na európskom trhu. AI Act predstavuje významný krok v regulácii umelej inteligencie a nastavuje štandardy, ktoré môžu inšpirovať aj ďalšie krajiny.
