Ko plaća kada vještačka inteligencija pogriješi

Uvod

Kada sistem vještačke inteligencije odbije kredit sposobnom klijentu, pogrešno označi pacijenta kao niskorizičnog, izazove sudar autonomnog vozila ili izmisli pravni presedan, prvo pitanje je šta je pošlo pogrešno. Za oštećenog je, međutim, važnije drugo pitanje: ko će platiti štetu? Algoritam nema imovinu, osiguranje ni pravnu ličnost. Iza njegove odluke nalazi se lanac ljudi i organizacija: proizvođač modela, dobavljač podataka, integrator, kompanija koja sistem koristi, zaposleni koji prihvata rezultat i, ponekad, korisnik koji ga zloupotrebljava. Zbog toga izraz „greška vještačke inteligencije“ lako prikriva činjenicu da je riječ o ljudski organizovanom riziku.

Osnovna teza ovog eseja jeste da trošak ne treba automatski pripisati ni programeru ni krajnjem korisniku. Odgovornost treba vezati za kontrolu nad rizikom, ekonomsku korist od sistema, mogućnost sprečavanja štete i pristup dokazima. Onaj ko bira da AI uvede u poslovni proces najčešće mora odgovarati prema oštećenom, dok se konačan teret može regresno raspodijeliti između proizvođača, integratora, dobavljača podataka i drugih učesnika. Takav pristup štiti žrtvu od tehničke i ugovorne složenosti lanca, a istovremeno ostavlja prostor da svaki učesnik snosi dio koji odgovara njegovom propustu.

Zašto greška vještačke inteligencije nije obična greška

Klasičan neispravan proizvod obično ima relativno stabilna svojstva. Ako kočnica pukne zbog lošeg materijala, vještak može pregledati dio, rekonstruisati proizvodnju i povezati kvar sa štetom. AI sistem se razlikuje jer rezultat može zavisiti od modela, verzije softvera, podataka za treniranje, podataka unesenih u konkretnom slučaju, podešenog praga, naknadnog učenja i načina na koji je čovjek protumačio izlaz. Isti model može u jednom okruženju biti pouzdan, a u drugom neprihvatljivo rizičan. Greška zato često nije jedna tačka kvara, već posljedica kombinacije dizajna i upotrebe.

Drugi problem je što oštećeni uglavnom nema pristup zapisima sistema, tehničkoj dokumentaciji, evaluacijama, internim upozorenjima ni ugovorima između dobavljača. Čak i kada dobije podatke, možda neće moći objasniti zašto je složen model proizveo konkretan rezultat. Tradicionalno pravilo da tužilac mora dokazati štetu, protivpravnost ili nedostatak i uzročnu vezu tada može postati formalno pravo bez stvarnog pristupa naknadi. Ako su ključni dokazi isključivo kod tuženih, pravni sistem mora omogućiti njihovo otkrivanje i, u određenim okolnostima, koristiti oborive pretpostavke.

Treći problem nastaje zato što AI djeluje uvjerljivo čak i kada griješi. Generativni sistem može netačan odgovor oblikovati gramatički besprijekorno, a sistem za bodovanje može diskriminatoran obrazac predstaviti kao neutralan broj. Opasnost nije samo u pogrešnom izlazu već u povjerenju koje organizacija ulaže u automatizovanu preporuku. „Čovjek u petlji“ ne uklanja odgovornost ako zaposleni nema vrijeme, podatke, stručnost ili ovlaštenje da odluku zaista promijeni.

Četvrta osobina je promjenjivost rizika tokom životnog ciklusa. Dobavljač može objaviti novu verziju modela, korisnik može povezati sistem sa dodatnom bazom podataka, a integrator može promijeniti uputstva bez formalne izmjene osnovnog ugovora. Sistem koji je prošao početno testiranje zato ne ostaje nužno isti sistem. Odgovornost mora obuhvatiti period poslije puštanja u rad: praćenje performansi, prijavu incidenata, kontrolu ažuriranja i mogućnost sigurnog povlačenja. Posebno je važno razdvojiti grešku modela od greške automatizacije. Model može dati samo preporuku, ali softverski proces može tu preporuku automatski pretvoriti u odbijanje zahtjeva, otkaz plaćanja ili fizičku radnju mašine. Što je kraći put od izlaza modela do posljedice u stvarnom svijetu, to je veća dužnost organizacije da uvede nezavisne provjere i tehničke kočnice. Ova dinamika pokazuje zašto jednokratna saglasnost korisnika ili početni certifikat nisu dovoljni. Razumna pažnja je trajna obaveza koja prati sistem dok god učesnik može uticati na njegovo ponašanje.

Ko može biti dužan da plati

Prvi kandidat je proizvođač ili dobavljač AI sistema. Njegova odgovornost je najsnažnija kada šteta proizlazi iz nedostatka u dizajnu, neadekvatnog testiranja, nesigurnog ažuriranja, poznate pristrasnosti ili netačnih tvrdnji o sposobnostima proizvoda. Dobavljač ne bi trebalo da se oslobodi opštim upozorenjem da model „može pogriješiti“ ako istovremeno prodaje sistem kao podoban za medicinsko, finansijsko ili drugo osjetljivo odlučivanje. Upozorenje ima smisla samo ako je konkretno, razumljivo i praćeno ograničenjima koja odgovaraju stvarnom riziku.

Drugi kandidat je organizacija koja sistem uvodi i koristi, odnosno deployer. Ona bira poslovnu svrhu, određuje podatke koji se unose, podešava pragove, odlučuje da li će rezultat biti preporuka ili konačna odluka i organizuje ljudski nadzor. Prema klijentu, pacijentu, zaposlenom ili potrošaču upravo je ta organizacija vidljivo lice usluge.

Treći kandidat je profesionalac koji se oslanja na AI. Advokat, ljekar, inženjer, revizor ili finansijski savjetnik ima samostalnu dužnost stručne pažnje. Korištenje alata može biti razumno, ali prenošenje profesionalne procjene na alat obično nije. Sudovi sve češće sankcionišu podneske sa izmišljenim izvorima jer potpisnik garantuje da je provjerio sadržaj. Profesionalac će zato često odgovarati klijentu, dok eventualni zahtjev prema dobavljaču zavisi od ugovora, tvrdnji o proizvodu i dokaza o nedostatku.

Četvrti kandidat je korisnik koji namjerno zaobiđe zaštitne mjere, unese nezakonite podatke ili koristi sistem izvan jasno određene svrhe. Njegova radnja može prekinuti ili umanjiti uzročnu vezu prema drugim učesnicima. Ipak, pojam zloupotrebe ne smije postati univerzalna odbrana proizvođača. Ako je određeno ponašanje bilo razumno predvidivo, dizajn i uputstva treba da ga uzmu u obzir. Konačno, osiguravači i fondovi za naknadu mogu rasporediti preostali rizik, naročito kod autonomnog transporta, medicine i kritične infrastrukture, gdje jedna greška može izazvati masovnu štetu.

Evropska unija između regulacije i naknade štete

Evropska unija je izgradila najrazvijeniji horizontalni regulatorni okvir kroz Akt o vještačkoj inteligenciji. Od 2. avgusta 2026. Evropska komisija i nacionalni organi počeli su primjenjivati novi set pravila, uključujući obaveze transparentnosti za određene interaktivne sisteme i označavanje vještački generisanog ili izmijenjenog sadržaja. Akt raspoređuje obaveze prema ulozi i nivou rizika: proizvođači visokorizičnih sistema moraju upravljati rizicima, kvalitetom podataka, dokumentacijom, evidencijama, ljudskim nadzorom, tačnošću i sajber-bezbjednošću, dok korisnici takvih sistema imaju sopstvene operativne dužnosti.

Ipak, regulatorna kazna i naknada štete nisu ista stvar. AI Act omogućava nadzorne mjere i visoke novčane kazne, ali ne uspostavlja jedinstven postupak u kojem bi svaka žrtva AI greške automatski dobila naknadu. Povreda regulatorne obaveze može biti važan dokaz nepažnje ili neispravnosti, ali oštećeni i dalje mora pronaći odgovarajući osnov u nacionalnom ugovornom ili deliktnom pravu, pravu zaštite podataka, antidiskriminacionim pravilima ili odgovornosti za proizvod.

Važnu promjenu donosi Direktiva EU 2024/2853 o odgovornosti za neispravne proizvode. Ona izričito tretira softver, uključujući AI sistem, kao proizvod, a njegovog proizvođača kao proizvođača u smislu odgovornosti bez krivice. U procjenu neispravnosti ulaze sposobnost sistema da uči nakon stavljanja na tržište, bezbjednosna ažuriranja i sajber-ranjivosti. Direktiva omogućava sudu da naloži otkrivanje relevantnih dokaza i predviđa pretpostavke kada ih tuženi ne dostavi ili kada je dokazivanje pretjerano teško zbog tehničke složenosti. Države članice treba da implementiraju njena pravila do 9. decembra 2026, a novi režim primjenjuje se na proizvode stavljene na tržište nakon tog datuma.

Ovaj režim ipak ne pokriva svaku štetu. Njegov fokus su šteta fizičkom integritetu, privatnoj imovini i određena šteta na podacima fizičkih lica; čisti poslovni gubitak, diskriminacija ili povreda privatnosti zahtijevaju druge pravne osnove. Dodatno, Komisija je povukla prijedlog posebne Direktive o odgovornosti za AI. Time je izostao planirani horizontalni mehanizam koji bi olakšao dokazivanje krivice i uzročnosti u slučajevima izvan odgovornosti za proizvod.

Za obradu ličnih podataka ostaje posebno važan GDPR. Automatizovana odluka koja proizvodi pravno ili slično značajno dejstvo podliježe ograničenjima, obavezama obavještavanja i pravima lica, a povreda može dovesti do naknade materijalne i nematerijalne štete. U praksi će isti događaj ponekad aktivirati više režima: regulatornu istragu po AI Act-u, zahtjev za naknadu po GDPR-u i tužbu zbog neispravnog proizvoda ili nepažnje. Odgovornost se zato neće određivati jednim propisom, već njihovim međusobnim djelovanjem.

Sjedinjene Američke Države i odgovornost kroz postojeće pravo

Američki pristup je manje centralizovan. Savezna politika u 2026. naglašava inovacije, sektorsko djelovanje postojećih organa i ograničavanje fragmentacije državnih propisa. Preporuke Bijele kuće traže da se ne formira novi savezni regulator samo za AI i da države zadrže primjenu opštih zakona o prevari, zaštiti potrošača i zaštiti djece, dok se istovremeno razmatra ograničenje posebnih državnih pravila za razvoj AI. To ne znači odsustvo odgovornosti. Tužbe se i dalje zasnivaju na ugovoru, nepažnji, odgovornosti za proizvod, diskriminaciji, privatnosti, autorskom pravu i pravilima pojedinih sektora.

Slabost ovakvog pristupa je neujednačenost. Ista greška može imati različite posljedice zavisno od države, sektora i ugovorne klauzule. Prednost je fleksibilnost sudova da postojeće principe prilagode činjenicama. Američko iskustvo zato pokazuje da AI ne mora biti izričito pomenut u zakonu da bi postojala odgovornost, ali i da bez pravila o dokazima oštećeni može teško doći do modela, zapisa i internih testova koji su potrebni za uspjeh u sporu.

Bosna i Hercegovina i odgovornost bez posebnog zakona o AI

Bosna i Hercegovina nema poseban zakon koji cjelovito uređuje građansku odgovornost za štetu izazvanu AI sistemima. To ne stvara pravni vakuum. Opšta pravila obligacionog prava omogućavaju naknadu štete zbog krivice, ugovorne povrede i, kada su ispunjeni uslovi, opasne stvari ili djelatnosti. Propisi o zaštiti potrošača, zabrani diskriminacije, radu, medicinskim uslugama i odgovornosti profesionalaca mogu se primijeniti prema vrsti odnosa. Sud bi zato prvo morao identifikovati ljudsku ili organizacionu odluku koja je dovela do štete: izbor neodgovarajućeg sistema, loši podaci, izostanak provjere, neadekvatna upozorenja ili propust da se reaguje na poznati incident.

Novi Zakon o zaštiti ličnih podataka Bosne i Hercegovine, objavljen u „Službenom glasniku BiH“ broj 12/25, posebno je značajan. Član 24 daje licu pravo da ne bude predmet odluke zasnovane isključivo na automatizovanoj obradi koja proizvodi pravno ili slično značajno dejstvo, uz propisane izuzetke i zaštitne mjere. Član 112 priznaje naknadu materijalne i nematerijalne štete, uređuje odgovornost kontrolora i obrađivača i dopušta regres između učesnika nakon što je oštećenom plaćen puni iznos. Zakon tako već pruža model za raspodjelu odgovornosti u složenom digitalnom lancu.

Najveća praktična prepreka biće dokazivanje. Domaća pravila postupka nisu pisana za modele čiji zapis, dokumentacija i podaci mogu biti kod stranog dobavljača u oblaku. Ugovor između domaćeg korisnika i dobavljača zato treba da osigura čuvanje logova, pristup tehničkim informacijama, saradnju u incidentu, revizijska prava, obavještavanje o promjenama modela i regres za štetu koja potiče iz propusta dobavljača. Bez takvih klauzula domaća kompanija može odgovarati svom klijentu ili zaposlenom, a zatim ostati bez dokaza potrebnih da teret prenese na stvarnog uzročnika.

Za sudsku praksu bi bio koristan funkcionalan pristup. AI sistem ne treba unaprijed proglašavati opasnom stvari, ali autonomija, obim moguće štete i nemogućnost efikasne ljudske intervencije mogu opravdati stroži standard pažnje, a kod posebno rizičnih primjena i zakonsku objektivnu odgovornost. Do tada će sudovi morati pažljivo koristiti pravila o teretu dokazivanja, pribavljanju isprava i vještačenju kako tehnološka neprozirnost ne bi postala nagrada za subjekta koji kontroliše informacije.

Dokazivanje uzročne veze i podjela tereta

Sporovi o AI šteti neće se najčešće dobiti raspravom o tome da li algoritam „misli“. Odlučujuće će biti tehnički i organizacioni tragovi: koja verzija modela je korištena, kakav je bio ulaz, koje ograničenje je bilo poznato, ko je odobrio upotrebu, da li je postojalo upozorenje, da li je čovjek mogao promijeniti rezultat i šta bi se dogodilo bez sporne odluke. Zbog toga je vođenje evidencija dio pravne odgovornosti, a ne puka tehnička administracija.

Pravedan proces zahtijeva asimetričan teret dokazivanja. Oštećeni treba da pokaže vjerovatnu vezu između sistema i štete te činjenice koje upućuju na propust. Nakon toga bi subjekt koji kontroliše dokumentaciju morao objasniti sistem i dostaviti relevantne zapise. Ako odbije, uništi podatke ili nije vodio evidencije koje je bio dužan voditi, sud treba da smije pretpostaviti da bi dokazi išli u korist oštećenog. Takav pristup ne uvodi automatsku odgovornost za svaki loš ishod; on sprečava da se neprozirnost koristi kao procesni štit.

Uzročnost mora ostati konkretna. Netočan izlaz ne stvara odgovornost ako niko na njega nije razumno oslonjen ili ako bi šteta nastala svakako. Obrnuto, ljudska potvrda ne prekida uzročnu vezu ako je bila formalna i predvidivo zavisna od automatizovane preporuke. Sud mora analizirati stvarnu moć odlučivanja, a ne naziv radnog mjesta ili dugme kojim je zaposleni „odobrio“ rezultat.

Zaključak

Kada AI pogriješi, mašina neće platiti. Trošak će snositi ljudi, kompanije, osiguravači i, ako pravo zakaže, sama žrtva. Pravni zadatak nije da algoritmu izmisli svijest ili krivicu, već da odgovornost rasporedi među subjektima koji su stvorili, uveli i kontrolisali rizik. Primarna zaštita oštećenog zahtijeva odgovornost subjekta koji je sistem stavio u konkretan odnos sa njim, uz mogućnost regresa prema proizvođaču, integratoru ili korisniku čiji je propust izazvao štetu.

Evropska unija spaja regulatorne obaveze AI Act-a sa obnovljenom odgovornošću za digitalne proizvode, ali povlačenje posebne Direktive o odgovornosti za AI ostavlja praznine kod čiste ekonomske štete, diskriminacije i dokazivanja krivice. Sjedinjene Države se više oslanjaju na postojeće privatno i potrošačko pravo, dok Bosna i Hercegovina mora koristiti opšta obligaciona pravila i novi režim zaštite podataka. U sva tri sistema konačan odgovor zavisiće od istog principa: odgovornost treba da prati stvarnu kontrolu, korist i dokaze. Samo tada tehnološka složenost neće postati razlog da šteta ostane bez naknade.

Autor: Aleksandar Sajić