Regulacija AI-a u EU: što Akt o umjetnoj inteligenciji zaista mijenja

Europski akt o umjetnoj inteligenciji — skraćeno AI Act — postao je 2024. prve sveobuhvatne pravne norme za AI sustave na razini jedne od najvećih ekonomija svijeta. Dokument od više od stotinu stranica razvrstava AI sustave prema razini rizika: od minimalnog (filtri neželjene pošte) do neprihvatljivog (sustavi socijalnog bodovanja građana). Za srednju kategoriju — tzv. visokorizične sustave koji uključuju AI u medicini, pravosuđu i upravljanju infrastrukturom — propisane su specifične obveze: dokumentacija, transparentnost, ljudski nadzor i registracija u europskoj bazi podataka.

Za poduzeća koja razvijaju ili primjenjuju AI alate, zakon uvodi ozbiljne administrativne zahtjeve. Tvrtka koja koristi AI sustav za odabir životopisa mora taj sustav registrirati, dokumentirati metodologiju i osigurati da postoji osoba koja može preispitati odluku algoritma. Kazne za nepoštivanje sežu do 30 milijuna eura ili 6% godišnjeg prometa — ovisno o tome koji je iznos viši. Međutim, manje tvrtke s manje od 10 zaposlenika i prometom ispod 2 milijuna eura imaju privremene iznimke dok Europska komisija ne uspostavi prijelazne mehanizme. Hoće li ta iznimka biti dovoljna zaštita za europske startupe, ostaje otvoreno pitanje koje se ne može odgovoriti samo čitanjem teksta zakona.