Európska Komisia predstavila horizontálny regulačný rámec pre umelú inteligenciu (Akt o umelej inteligencii)

Európska komisia verejne predstavila horizontálny regulačný rámec pre umelú inteligenciu (Artificial Intelligence Act). Hlavným cieľom Aktu o umelej inteligencii (AIA) je dynamickejší vývoj a využitie umelej inteligencie v EÚ a zabezpečenie bezpečnosti a základných práv používateľov systémov, resp. produktov a služieb využívajúcich technológie umelej inteligencie (AI).

Ústredným konceptom, na ktorom je postavený Akt o umelej inteligencii , je koncept rizika, ktoré AI pre bezpečnosť, zdravie a ľudské práva umelá inteligencia predstavuje.

Európska komisia týmto zároveň navrhuje nové pravidlá a konkrétne kroky pre vybudovanie excelentnosti a posilnenie dôvery v umelú inteligenciu. Predstavený právny rámec pre AI je postavený na rizikovom profile jednotlivých AI technológií, pričom je doplnený o novú reguláciu pre strojové zariadenia (Machinery Regulation), ktorá nahrádza pôvodnú smernicu pre strojové zariadenia a zároveň zjednodušuje administratívnu záťaž pre podniky pre zabezpečenie súladu s novými pravidlami. Nové generácie strojov, ktoré budú mať v sebe integrované AI systémy, budú predmetom jednotného hodnotiaceho procesu, čím sa zníži administratívna ako aj finančná záťaž podnikov pri získavaní povolenia na používanie.

Základné rizikové kategórie v rámci predloženého návrhu Aktu o umelej inteligencii sú:

  • AI systémy, ktoré predstavujú neakceptovateľné riziko a ktoré sú v princípe zakázané. Toto zahŕňa AI systémy alebo aplikácie, ktoré manipulujú ľudské správanie za účelom obchádzania slobodnej vôle užívateľov.
  • Vysoko-rizikové AI systémy sa delia podľa oblasti aplikácie a budú podliehať striktným pravidlám a požiadavkám predtým ako sa môžu dostať na trh. Ide o AI systémy nasadzované napr. v rámci kritickej infraštruktúry, ale aj v procese vzdelávania, vymožiteľnosti práva či kontrole hraníc. Špecifickou kategóriou bude využívanie diaľkových biometrických identifikačných systémov.
  • Systémy AI s limitovaným rizikom sa budú riadiť špecifickými požiadavkami na transparentnosť (napr. pri využívaní AI systémov ako sú chatboty, užívatelia by si mali byť vedomí, že sú v interakcii so strojov, aby sa mohli rozhodnúť na základe pravdivej informácie, či chcú v interakcii pokračovať alebo nie).
  • Systémy AI, ktoré predstavujú minimálne riziko, pričom väčšina AI systémov spadá práve do tejto rizikovej kategórie, sa budú môcť voľne využívať a navrhovaná regulácia tu nebude zasahovať (napr. spamové filtre v elektronickej pošte), pričom Akt o umelej inteligencii navrhuje dobrovoľné pravidlá vychádzajúce z kódexov správania. 

Pokiaľ ide o riadiacu štruktúru (governance), v rámci Aktu o umelej inteligencii  sa navrhuje, aby na nové pravidlá dohliadali národné kompetentné orgány dohľadu nad trhom, s jedným ústredným národným orgánom dohľadu. Vytvorí sa aj Európska rada pre umelú inteligenciu (European Artificial Intelligence Board), ktorej úlohou bude uľahčovať vykonávanie týchto pravidiel. Členské štáty EÚ budú zohrávať kľúčovú rolu pri dohľade a vynútiteľnosti nového regulačného rámca pre AI. 

Spoločne s legislatívnym návrhom Aktu o umelej inteligencii  Európska komisia zverejnila aj aktualizovaný Koordinovaný plán pre umelú inteligenciu, ktorého prvá verzia bola publikovaná v decembri 2018. Plán stanovuje opatrenia, ktoré majú za cieľ posilniť zavádzanie AI, investície a inováciu v rámci EÚ. Vzhľadom na dynamický vývoj AI technológií, ako aj vývoj EÚ v kontexte pandémie COVID-19 bola potrebná jeho aktualizácia, jeho základné kontúry však ostali zachované. 

Plné znenie tlačovej správy EK spolu s odkazmi na predložené návrhy

Zdroj: MIRRI SR