1. Uvod
Razvoj umjetne inteligencije (AI) u posljednjim decenijama temeljno je promijenio način na koji društvo funkcioniše. AI sistemi se danas koriste u zdravstvu, obrazovanju, finansijama, bezbjednosti, zapošljavanju, pravosuđu i mnogim drugim oblastima. Iako ove tehnologije donose brojne koristi, istovremeno nose i značajne rizike, posebno u pogledu ljudskih prava, privatnosti, diskriminacije i sigurnosti. Evropska unija (EU), prepoznajući potrebu za jasnim i sveobuhvatnim regulatornim okvirom, usvojila je EU AI Act (Akt o umjetnoj inteligenciji) – prvi sveobuhvatni pravni akt na svijetu koji reguliše razvoj, upotrebu i plasman AI sistema.
2. Pojam i značaj EU AI Act-a
EU AI Act je regulativa Evropske unije koja uspostavlja jedinstvena pravila za razvoj, stavljanje na tržište i korištenje sistema umjetne inteligencije unutar EU. Kao regulativa, a ne direktiva, ona se direktno primjenjuje u svim državama članicama, bez potrebe za dodatnim nacionalnim zakonima.
Osnovna ideja EU AI Act-a jeste da se omogući razvoj inovativnih AI tehnologija, ali uz istovremenu zaštitu osnovnih prava građana, demokratskih vrijednosti i pravne sigurnosti. Akt se zasniva na pristupu upravljanja rizikom, što znači da nisu svi AI sistemi tretirani jednako – nivo regulacije zavisi od potencijalne opasnosti koju sistem predstavlja za pojedince i društvo.
Značaj EU AI Act-a ogleda se u nekoliko aspekata:
- predstavlja globalni presedan u regulaciji AI-ja,
- povećava povjerenje građana u AI tehnologije,
- osigurava pravnu jasnoću za kompanije i inovatore,
- jača poziciju EU kao lidera u etičkoj i odgovornoj upotrebi tehnologije.
3. Ciljevi EU AI Act-a
Glavni ciljevi EU AI Act-a mogu se sažeti u sljedeće tačke:
- Zaštita osnovnih prava – sprečavanje diskriminacije, masovnog nadzora i neetičke upotrebe AI-ja.
- Sigurnost i pouzdanost AI sistema – osiguravanje da sistemi funkcionišu na predvidiv, tačan i bezbjedan način.
- Transparentnost – korisnici moraju znati kada imaju interakciju s AI sistemom.
- Podsticanje inovacija – stvaranje regulatornog okvira koji ne guši tehnološki razvoj.
- Jedinstveno tržište EU – sprječavanje fragmentacije pravila između država članica.
4. Definicija umjetne inteligencije u EU AI Act-u
EU AI Act daje široku definiciju umjetne inteligencije. Prema ovom aktu, AI sistem je softver koji je razvijen korištenjem tehnika poput mašinskog učenja, logike, statistike ili drugih sličnih metoda, i koji može generisati rezultate kao što su predviđanja, preporuke ili odluke koje utiču na okruženje.
Ova široka definicija omogućava da regulativa obuhvati i sadašnje i buduće AI tehnologije, čime se osigurava dugoročna relevantnost akta.
5. Klasifikacija AI sistema prema nivou rizika
Jedna od najvažnijih karakteristika EU AI Act-a jeste podjela AI sistema u četiri kategorije rizika.
5.1. Neprihvatljiv rizik
AI sistemi koji predstavljaju neprihvatljiv rizik su u potpunosti zabranjeni. To su sistemi koji ozbiljno ugrožavaju osnovna prava i ljudsko dostojanstvo. Primjeri uključuju:
- AI sisteme za društveno bodovanje građana (social scoring),
- manipulativne AI sisteme koji utiču na ponašanje ljudi bez njihove svijesti,
- određene oblike biometrijskog nadzora u realnom vremenu.
Zabrana ovih sistema pokazuje jasnu etičku granicu koju EU ne želi preći.
5.2. Visokorizični AI sistemi
Visokorizični AI sistemi su dozvoljeni, ali podliježu strogim pravilima. Oni se koriste u osjetljivim oblastima kao što su:
- zapošljavanje i selekcija kandidata,
- obrazovanje i ocjenjivanje,
- kreditna sposobnost i finansijske usluge,
- zdravstvena dijagnostika,
- pravosudni i policijski sistemi.
Ovi sistemi mogu imati ozbiljne posljedice po živote pojedinaca, pa su obaveze za njihove proizvođače i korisnike posebno detaljne.
5.3. Ograničen rizik
AI sistemi sa ograničenim rizikom podliježu prvenstveno obavezama transparentnosti. Na primjer, chatbotovi ili sistemi za generisanje sadržaja moraju jasno informisati korisnike da komuniciraju s AI-jem, a ne s čovjekom.
5.4. Minimalan ili beznačajan rizik
Većina AI sistema spada u ovu kategoriju, poput AI-ja u videoigrama, filterima za slike ili preporukama muzike. Za ove sisteme ne postoje dodatne pravne obaveze, a njihova upotreba ostaje slobodna.
6. Obaveze za visokorizične AI sisteme
EU AI Act nameće niz obaveza za visokorizične AI sisteme kako bi se osigurala njihova sigurnost, pravednost i pouzdanost.
6.1. Upravljanje rizicima
Proizvođači moraju uspostaviti sistem upravljanja rizicima koji identifikuje, procjenjuje i ublažava moguće štetne posljedice AI sistema tokom cijelog njegovog životnog ciklusa.
6.2. Kvalitet podataka
Podaci korišteni za treniranje AI sistema moraju biti relevantni, reprezentativni i bez pristrasnosti. Time se nastoji spriječiti diskriminacija na osnovu pola, rase, etničkog porijekla ili drugih ličnih karakteristika.
6.3. Tehnička dokumentacija
Proizvođači su obavezni izraditi detaljnu tehničku dokumentaciju koja omogućava regulatornim tijelima da razumiju način rada sistema i provjere njegovu usklađenost sa zakonom.
6.4. Transparentnost i informisanje korisnika
Korisnici visokorizičnih AI sistema moraju dobiti jasne informacije o načinu funkcionisanja sistema, njegovim ograničenjima i pravilnoj upotrebi.
6.5. Ljudski nadzor
Jedan od ključnih principa EU AI Act-a jeste human-in-the-loop pristup. To znači da ljudi moraju imati mogućnost nadzora, intervencije ili isključivanja AI sistema kada je to potrebno.
6.6. Tačnost, robusnost i sajber-sigurnost
AI sistemi moraju biti dovoljno tačni, otporni na greške i zaštićeni od zloupotreba i sajber napada.
7. Obaveze za pružaoce i korisnike AI sistema
Pored proizvođača, EU AI Act propisuje obaveze i za druge aktere.
- Pružaoci AI sistema moraju osigurati da su sistemi usklađeni sa propisima prije nego što ih stave na tržište.
- Korisnici AI sistema moraju koristiti AI u skladu s uputstvima i ne smiju ga zloupotrebljavati.
- Postoji obaveza prijavljivanja ozbiljnih incidenata ili kvarova nadležnim tijelima.
8. Sankcije i nadzor
EU AI Act predviđa visoke novčane kazne za kršenje propisa, koje mogu iznositi i do nekoliko procenata godišnjeg globalnog prometa kompanije. Nadzor nad primjenom akta vrše nacionalna tijela i evropske institucije, uključujući specijalizovane AI nadzorne organe.
9. Uticaj EU AI Act-a na budućnost AI-ja
EU AI Act će imati značajan uticaj ne samo u Evropi, već i globalno. Mnoge međunarodne kompanije će morati prilagoditi svoje AI sisteme evropskim pravilima, što može dovesti do stvaranja globalnih standarda.
Iako postoje kritike da regulativa može usporiti inovacije, većina stručnjaka smatra da će dugoročno povećati povjerenje u AI i omogućiti njegov održiv razvoj.
10. Zaključak
EU AI Act predstavlja istorijski korak u regulaciji umjetne inteligencije. Kroz pristup zasnovan na riziku, ovaj akt uspijeva da balansira između potrebe za inovacijama i zaštite temeljnih prava građana. Jasna klasifikacija AI sistema, stroge obaveze za visokorizične primjene i naglasak na transparentnosti i ljudskom nadzoru čine EU AI Act jednim od najambicioznijih pravnih okvira u savremenom tehnološkom svijetu.
U vremenu kada umjetna inteligencija sve više utiče na svakodnevni život, EU AI Act pokazuje da je moguće regulisati tehnologiju na način koji je istovremeno etičan, odgovoran i usmjeren ka budućnosti.
Autor: Aleksandar Sajić
