EU usvojila prvi zakon o veštačkoj inteligenciji, garantuje bezbednost i osnovna prava građana

Poslanici Evropskog parlamenta usvojili su u sredu Zakon o veštačkoj inteligenciji koji garantuje bezbednost i štiti osnovna prava, istovremeno podstičući inovacije.

Uredba o ovoj oblasti, dogovorena na pregovorima sa državama članicama u decembru 2023. godine, usvojena je sa 523 glasa za, 46 protiv i 49 uzdržanih.

Ona ima za cilj da zaštiti ljudska prava, demokratiju, vladavinu prava i održivost životne sredine od visokorizične veštačke inteligencije, dok istovremeno podstiče inovacije i obezbeđuje vodeću ulogu Evrope u ovoj oblasti, istaknuto je na sajtu Evropskog parlamenta.

Kako se navodi, pravila za veštačku inteligenciju postavljena su na osnovu njenih potencijalnih rizika i nivoa performansi. Koliko je AI bitna pokazuje i to da je evropskim parlamentarcima trebalo samo mesec dana da usvoje odluku.

Nova pravila zabranjuju određene primene veštačke inteligencije koje ugrožavaju prava građana. Zabranjena je i ograničena upotreba veštačke inteligencije za niz praksi koje se smatraju neetičkim ili krše osnovna ljudska prava, kao što su prepoznavanje emocija na radnom mestu i u školi, klasifikacija pojedinaca po etničkoj i verskoj pripadnosti, seksualnoj orijentaciji, društveno bodovanje ili prepoznavanje lica, prognostički rad policije (kada se zasniva isključivo na kreiranju profila pojedinaca ili proceni njihovih karakteristika) i veštačka inteligencija koja utiče na ljudsko ponašanje ili iskorišćava ranjivost pojedinaca je takođe zabranjena.

Kada je u pitanju krivično gonjenje, veštačka inteligencija se ne izuzima kao alat za pomoć.

„Upotreba sistema za daljinsku biometrijsku identifikaciju u svrhu krivičnog gonjenja je načelno zabranjena, osim u okolnostima koje su iscrpno navedene i precizno definisane. Daljinska biometrijska identifikacija u realnom vremenu može se koristiti samo ako su ispunjeni strogi zahtevi, na primer njena upotreba je vremenski i geografski ograničena i ako je prethodno data posebna sudska ili administrativna dozvola. Neki od primera takvih okolnosti su ciljana potraga za nestalom osobom ili sprečavanje terorističkog napada. Naknadna upotreba sistema daljinske biometrijske identifikacije smatra se visokorizičnom i zahteva sudsko ovlašćenje povezano sa krivičnim delom“, navodi se na sajtu Evropskog parlamenta.

Takođe su predviđene i jasno naznačene obaveze i za druge visokorizične sisteme veštačke inteligencije (zbog njihovog značajnog potencijala za ugrožavanje zdravlja, bezbednosti, osnovnih prava, životne sredine, demokratije i vladavine prava).

„Visokorizična veštačka inteligencija se koristi, između ostalog, za kritičnu infrastrukturu, obrazovanje i obuku, zapošljavanje, ključne privatne i javne usluge (na primer zdravstvo, bankarstvo), određene sisteme u okviru krivičnog gonjenja, migracije i upravljanje granicama, pravosuđe i demokratske procese (uticaj na izbore). Za takve sisteme treba obezbediti procenu i ublažavanje rizika, vođenje evidencije o upotrebi, transparentnost i preciznost i ljudski nadzor. Građani će imati pravo da podnesu tužbu u vezi sa veštačkom inteligencijom i dobiju objašnjenja za odluke zasnovane na visokorizičnim sistemima veštačke inteligencije koje utiču na njihova prava“, navodi se u saopštenju.

Zakon o ograničavanju i kontrolisanju veštačke inteligencije kaže da sistemi AI moraju da ispunjavaju određene kriterijume transparentnosti, uključujući usklađenost sa zakonom o autorskim pravima EU i objavljivanje detaljnih sažetaka sadržaja koji se koriste za obuku.

„Moćniji sistemi veštačke inteligencije opšte namene koji bi mogli predstavljati sistemske rizike biće podložni dodatnim zahtevima koji uključuju procenu modela, procene sistemskog rizika i ublažavanja, i izveštavanje o incidentima. Pored toga, veštački kreirani ili manipulisani audio sadržaji, fotografije i video sadržaji (deepfakes) moraju biti jasno označeni kao takvi“.

Tokom plenarne debate koja je održana dan ranije, u utorak, koizvestilac Komiteta za unutrašnje tržište Brando Benifei (S&D, Italija) rekao je da EU konačno ima prvi obavezujući zakon na svetu o veštačkoj inteligenciji, za smanjenje rizika, stvaranje mogućnosti, borbu protiv diskriminacije i uvođenje transparentnosti.

„Zahvaljujući parlamentu, u Evropi će biti zabranjene neprihvatljive prakse veštačke inteligencije, a zaštićena prava radnika i građana. Sada će biti uspostavljena Kancelarija za veštačku inteligenciju koja će podržati kompanije da počnu da se pridržavaju pravila pre nego što ona stupe na snagu. Osigurali smo da ljudska bića i evropske vrednosti budu u samom centru razvoja veštačke inteligencije“, rekao je Benifei.

Izvestilac Komiteta za građanske slobode Dragoš Tudorače (Renev, Rumunija) rekao je da je EU uspela da utka koncept veštačke inteligencije u osnovne vrednosti koje čine osnovu naših društava.

„Međutim, pred nama je mnogo posla koji prevazilazi sam zakon o veštačkoj inteligenciji. Veštačka inteligencija će nas podstaći da preispitamo društveni ugovor u srcu naših demokratija, naših obrazovnih modela, tržišta rada i načina na koji vodimo rat. Zakon o veštačkoj inteligenciji je polazna osnova za novi model upravljanja izgrađen oko tehnologije. Sada se moramo fokusirati na primenu ovog zakona u praksi”, istakao je Tudorače.

Uredbu još treba da razmotre pravnici i lingvisti, a očekuje se da će biti usvojena pre kraja skupštinskog zasedanja (u takozvanom korektivnom postupku).

Pročitajte i prvi deo našeg vikend istraživanja: Dokle je stigao razvoj AI modela za srpsku privredu?