Srbija do kraja godine dobija prvi Zakon o veštačkoj inteligenciji

Srbija bi do kraja godine trebalo da dobije prvi Zakon o veštačkoj inteligenciji, kojim će biti uspostavljen pravno obavezujući okvir za primenu, bezbedno korišćenje i nadzor AI sistema.

Nacrt zakona, koji je na današnjoj konferenciji u Beogradu predstavio NALED, predviđa jasna pravila za kompanije, usklađivanje sa međunarodnim standardima Evropske unije, kao i mehanizme za sprečavanje zloupotreba i zaštitu korisnika, što do sada nije bilo uređeno posebnim propisom.

Kako je istakla Irena Đorđević Šušić iz NALED-a, Srbija već ima strateške dokumente i smernice koje uređuju oblast veštačke inteligencije, ali oni nemaju obavezujuću pravnu snagu. Novi zakon bi upravo trebalo da popuni taj pravni vakuum, obezbedi jasna pravila za kompanije koje razvijaju AI rešenja u Srbiji, ali i da omogući sankcionisanje zloupotreba koje postaju sve učestalije.

„Srbija želi da ostane konkurentna u odnosu na zemlje Evropske unije, pa je donošenje pravnog okvira u ovoj oblasti očekivan korak“, istakla je ona.

Na koga se odnosi novi zakon?

Zakon će biti obavezujući za sve proizvođače AI sistema i modela koji se stavljaju na tržište ili omogućavaju njihovo korišćenje u Srbiji, uvoznike, distributere i zastupnike proizvođača AI sistema, na same korisnike – fizička lica koja AI koriste u poslovne i komercijalne svrhe i distribuiraju trećim licima, pravna lica i javnu upravu, kao i za strane proizvođače čiji se AI sistemi koriste u Srbiji.

Sa druge strane, zakon se neće primenjivati na fazu razvoja AI rešenja pre njihovog stavljanja na tržište, kao ni na naučna istraživanja, vojno-bezbednosne svrhe i međunarodnu saradnju u toj oblasti. Fizička lica koja AI koriste isključivo u lične svrhe, poput prevođenja tekstova ili obrade fotografija, takođe neće biti obuhvaćeni zakonom.

Jedna od ključnih novina zakona jeste klasifikacija AI sistema prema nivou rizika. Predviđene su četiri kategorije – zabranjeni sistemi, visokorizični, sistemi ograničenog rizika za koje važe pravila transparentnosti i sistemi minimalnog rizika.

Prema rečima Irena Đorđević Šušić, zakon je u velikoj meri zasnovan na evropskom Aktu o veštačkoj inteligenciji (EU AI Act), ali će biti prilagođen domaćem tržištu i potrebama privrede. Posebno će biti regulisani sistemi visokog rizika koji se koriste u zdravstvu, obrazovanju, kritičnoj infrastrukturi i drugim osetljivim oblastima.

Za takve sisteme predviđene su stroge procedure procene usklađenosti, registracija i kontinuirani nadzor nakon stavljanja na tržište. Ključni princip jeste da čovek u svakom trenutku mora imati mogućnost nadzora nad radom sistema i mogućnost njegovog zaustavljanja ukoliko se pojave problemi.

Zabranjeni sistemi po klasifikaciji rizika, između ostalog, podrazumevaju i potpunu zabranu sistema koji koriste manipulativne tehnike prilikom korišćenja AI. Među zabranjenim praksama naći će se sistemi koji klasifikuju ljude prema rasi, polu ili drugim osetljivim karakteristikama, kao i oni koji koriste manipulativne tehnike usmerene na decu, starije osobe ili druge ranjive grupe radi uticanja na njihovo ponašanje.

Posebna agencija kao centralno regulatorno telo

Nacrt predviđa i formiranje posebne agencije koja će biti centralno regulatorno telo za oblast veštačke inteligencije. Njena uloga biće da izdaje odobrenja za stavljanje određenih AI sistema na tržište, vodi registre i prati njihov rad tokom čitavog životnog ciklusa.

„Ovaj zakon prevashodno se odnosi na kompanije koje moraju da ispune striktno propisane uslove kako bi svoj proizvod stavili na tržište. Takođe, one će imati obavezu da u svakom trenutku imaju nadzor nad sistemom i bezbednošću. Ista pravila važiće za kompanije, uvoznike i zastupnike proizvođača. Svi oni će biti uključeni u zakon od momenta stavljanja proizvoda na tržište“, rekla je za Biznis.rs Irena Đorđević Šušić iz NALED-a.

Sa druge strane, korisnici sistema, moraće da obaveste proizvođača ukoliko primete nepravilnosti u radu AI rešenja, a krovni nadzor za veće rizike vršiće Ministarstvo nauke.

Agencija će, između ostalog sprovoditi praćenje, proveru i revizije i biće ovlašćena da obustavi testiranje i zabrani korišćenje sistema kada nadležni utvrde nepravilnost. Pored agencije biće formirano i telo za ocenjivanje usaglašenosti – akreditovane institucije poput laboratorija i instituta koje će vršiti nezavisnu proveru i izdavati sertifikate o usglašenosti visokorizičnih sistema pre izlaska na tržište. Na osnovu njihovog sertifikata Agencija će izdavati potvrde i registrovati sistem.

Pored toga, biće formiran i Savet za veštačku inteligenciju, stučno telo koje pratiti globalne trendove i strateške preporuke.

„Prema trenutnoj dinamici rada, nacrt zakona trebalo bi da bude finalizovan do jula, nakon čega će biti upućen Evropskoj komisiji koja će dati komentare. Po završetku tog procesa očekuje se njegovo usvajanje, tako da bi trebalo da bude gotov do kraja godine“, navela je Đorđević Šušić.

Srbija već ima razvijenu infrastrukturu – treći superkompjuter do kraja godine

Na predstavljanju Nacrta zakona o veštačkoj inteligenciji Branka Rakić iz Kancelarije za IT i eUpravu istakla je da je predloženi zakon samo završni korak višegodišnjeg procesa razvoja ekosistema veštačke inteligencije u Srbiji.

Kako je podsetila, još 2019. godine usvojena je prva Strategija razvoja veštačke inteligencije, koja je, između ostalog, predvidela značajna ulaganja u infrastrukturu neophodnu za razvoj ove tehnologije.

„Danas Srbija ima dva data centra. Jedan je namenjen potrebama javne uprave i komercijalnim korisnicima, dok je drugi predviđen za obradu osetljivih podataka institucija poput Ministarstva unutrašnjih poslova, Vojske Srbije i Bezbednosno-informativne agencije“, rekla je Rakić.

Ona je podsetila da se u Kragujevcu, pored Državnog data centra, nalazi i superkompjuter koji predstavlja ključnu platformu za razvoj i primenu veštačke inteligencije. Nedavno je instaliran i drugi superkompjuter, znatno većih performansi.

„Prvi superkompjuter otvoren je za naučnu zajednicu i startap kompanije. Danas imamo oko 90 entiteta koji ga koriste, kao i približno 500 pojedinačnih korisnika“, navela je Rakić.

Prema njenim rečima, u Srbiji se već razvijaju brojna rešenja zasnovana na veštačkoj inteligenciji, a upravo je izgradnja odgovarajuće infrastrukture bila preduslov za takav razvoj.

„Napravili smo osnovu koju sada treba dodatno unapređivati. Treći superkompjuter očekujemo do kraja godine iz kredita državnog sporazuma Srbije i Francuske“, rekla je ona.

Kako je podsetila Srbija je već usvojila etičke smernice koje definišu principe odgovornog razvoja i primene veštačke inteligencije, ali da je sada neophodno uspostaviti i pravno obavezujući okvir.

„Potreban nam je zakon koji će jasno definisati kako se veštačka inteligencija razvija i koristi na odgovoran način. Kao zemlja kandidat za članstvo u Evropskoj uniji, želimo da naš zakon bude usklađen sa evropskim AI Act-om, ali i dovoljno fleksibilan da ne uspori inovacije. Potrebno je pronaći balans između zaštite građana i podsticanja daljeg tehnološkog razvoja“, naglasila je Rakić.

Regulacija veštačke inteligencije globalni problem

Govoreći o regulaciji veštačke inteligencije, Dragiša Mišković iz Instituta za veštačku inteligenciju ocenio je da je reč o globalnom izazovu sa kojim se suočavaju sve zemlje zbog brzog razvoja i sve većeg uticaja ove tehnologije. On je ukazao da se pristupi regulaciji značajno razlikuju širom sveta. Dok je Evropska unija izabrala centralizovan pristup kroz Akt o veštačkoj inteligenciji (AI Act), Sjedinjene Američke Države primenjuju drugačiji model.

„U SAD se na federalnom nivou regulišu uglavnom kritične pitanja vezana za nacionalnu bezbednost, lance snabdevanja i slične oblasti, dok je veliki deo regulative prepušten saveznim državama i pojedinačnim sektorima, poput finansija ili zdravstva“, objasnio je Mišković.

Prema njegovim rečima, američki pristup dodatno zavisi i od prioriteta administracije, pa se često pravi balans između zaštite korisnika i očuvanja potencijala za inovacije.

„Pojedine administracije više insistiraju na zaštiti građana, dok druge nastoje da ne ugroze inovacioni potencijal i vodeću poziciju SAD u razvoju veštačke inteligencije“, naveo je on.

Kada je reč o Evropskoj uniji, Mišković je podsetio da je konsenzus o regulisanju veštačke inteligencije postignut među državama članicama još 2021. godine, kada je formulisana inicijalna verzija AI Act-a.

„Suština evropskog pristupa jeste regulacija u zavisnosti od kapaciteta AI sistema da nanesu štetu. Oni su prvo završili klasifikaciju četiri grupe prema rizicima koje određeni AI modeli mogu da donesu, a za svaku od kategorija definišu se različiti postupci”, rekao je Mišković i dodao da je AI Act od 2024. godine počeo da se pretače u zakon, ali da je reč o „živom dokumentu“ koji će se i dalje prilagođavati tehnološkom razvoju.

Osvrćući se na druge svetske modele regulacije, Mišković je naveo da je Velika Britanija odlučila da nadzor nad veštačkom inteligencijom prepusti postojećim agencijama u različitim sektorima.

„Britanski pristup više je usmeren na favorizovanje inovacija, uz korišćenje iskustva postojećih regulatora“, rekao je on.

Sa druge strane, Kina primenjuje tradicionalno centralizovan model upravljanja, sa posebnim fokusom na kontrolu sadržaja generisanog veštačkom inteligencijom.

„Jedna od specifičnosti kineskog pristupa jeste zahtev da AI-generisani sadržaji budu jasno označeni. Cilj je sprečavanje širenja lažnih informacija i zloupotreba “, zaključio je Mišković.