Veštačka inteligencija između ljudskih prava i bezbednosti građana

Prema Izveštaju o veštačkoj inteligenciji u krivičnom pravu, koji je usvojio Evropski parlament, trebalo bi zabraniti tehnologije za prepoznavanje lica kroz neselektivni nadzor javnih prostora, uključujući i kontrolu granica. Iako ovaj izveštaj nije obavezujući, analitičari smatraju da on predstavlja presudan korak u pravcu zaustavljanja neodgovorne primene rizičnih tehnologija.

Kako u razgovoru za Biznis.rs kaže Uroš Mišljenović iz organizacije Partneri Srbije, glavna karakteristika pomenutog neselektivnog nadzora jeste ta da nema precizno određene kategorije lica ili događaja, dok se kod selektivnog radi o jasnom odabiru lokacija koje se nadziru, kao i uslova pod kojima se to radi.

„Neselektivni nadzor se može opisati kao masovni nadzor javnih prostora bez precizno određene kategorije lica ili događaja (incidenata) na koje se odnosi. Ovakvi progami se ponekad pravdaju potrebom zaštite kolektivne bezbednosti, sprečavanja terorističkih napada ili efikasnijom prevencijom ili borbom protiv kriminala. Selektivni nadzor, sa druge strane, podrazumeva definisane kriterijume za odabir ljudi ili lokacija koje se nadziru, načina na koji se to čini i uslova pod kojima se sačinjeni materijali potom koriste„, istakao je Mišljenović, dodajući da se glavna razlika povlači između posledica koje ove dve vrste nadzora imaju na prava građana.

„Razlika između neselektivnog i selektivnog nadzora je drastična kada se sagledaju moguće posledice po prava građana. Neselektivni masovni nadzor javnih prostora pogađa sve građane, tako što ih sve pretvara u potencijalno osumnjičene. Umesto da bude obrnuto, da se nadzoru podvrgavaju oni za koje postoje utemeljeni nalazi da su učinili neko konkretno kažnjivo delo. Neselektivni nadzor zapravo izvrće principe demokratije; umesto da građani kontrolišu institucije, oni koji u ime institucija upravljaju kamerama putem nadzora – kontrolišu građane. Zato kažemo da je privatnost srce slobode“, kaže on.

Njegova koleginica Ana Toskić Cvetinović navodi primere u kojima su se do sada vršile kombinovane primene selektivnog i neselektivnog nadzora, ilustrujući činjenicu da se u Izveštaju traži proglašenje moratorijuma na primenu sistema za prepoznavanje lica.

„Najčešće se koriste primeri Velike Britanije, kao razvijene demokratije koja je stavila u opticaj ove tehnologije, i Kine, kao nedemokratskog sistema u kome je masovni biometrijski nadzor uzeo maha. Razlika između prvog i drugog primera je upravo u pomenutoj selektivnosti, i svrsi nadzora koji se primenjuje – u Velikoj Britaniji to se čini za potrebe sprečavanja i gonjenja za krivična dela (sa fokusom na terorizam), a u Kini za primenu širih programa profilisanja građana na osnovu čega se donose odluke o njihovim pojedinim pravima i slobodama„, objašnjava ona, dodajući da činjenica da Izveštaj nije obavezujuć ne znači nužno da će se članice Evropske unije oglušiti o njega.

„Iako nije obavezujući, s obzirom na to da ga je usvojio Evropski parlament, kao predstavničko telo građana EU, Izveštaj šalje jasnu poruku o stavovima građana o primeni sistema za automatsko prepoznavanje lica. Teško je zamisliti (iako nije nemoguće) da zemlje članice EU u budućnosti ignorišu preporuke i da, na svoju ruku, uvode ove sisteme“, dodaje ona.

U Srbiji je, prema rečima naših sagovornika, evidentno odsustvo kontrole kada je o nadzoru reč, ali prema dostupnim informacijama veštačka inteligencija u ovoj oblasti još uvek nije stavljena u funkciju.

„U Srbiji se oprema za video nadzor koristi nekontrolisano, to je očigledno. Kamere su svuda oko nas; postavljaju ih institucije, kompanije i građani i mi najčešće ne znamo šta one snimaju i kako se snimci dalje koriste. Snimanje kamerama podleže obavezama iz Zakona o zaštiti podataka o ličnosti i taj zakon daje odgovor na pitanje koja je od svih tih kamera postavljena na zakonit način, a koja nije. Pregledanjem snimaka koje te kamere sačine, ponekad je moguće utvrditi identitet osobe sa snimka“, navodi Mišljenović.

„Međutim, upotreba veštačke inteligencije i softvera za prepoznavanje lica u okviru sistema za video nadzor, koliko je nama poznato na osnovu zvanično dostupnih informacija, nije u Srbiji stavljena u funkciju. Do sada smo dobijali različite, ponekad kontradiktorne informacije o broju i svrsi kamera koje Ministarstvo unutrašnjih poslova postavlja po Beogradu u okviru saradnje sa Kinom i tamošnjom kompanijom Huawei“, objašnjava Mišljenović, dodajući da je u Srbiji bilo postavljanja kamera mimo zakona.

„MUP je izvršilo nabavku opreme koja ima mogućnost automatskog prepoznavanja lica, što je učinjeno bez adekvatnog pravnog osnova i izvršenih analiza potreba za jednim takvim sistemom, i rizika po privatnost građana koje on nosi. Procena uticaja na zaštitu podataka sačinjena je tek nakon reakcije civilnog sektora i Poverenika za informacije od javnog značaja i zaštitu podataka o ličnosti. Iako je u Beogradu u poslednje dve godine postavljeno više hiljada kamera koje snimaju javne površine, MUP i dalje tvrdi da ni u jednom momentu nije stavljen u opticaj sistem za automatsko prepoznavanje lica“, naglašava on, dodajući da bi uvođenju novih tehnologija moralo da prethodi donošenje niza pravnih akata koje bi regulisale čitavu oblast.

Na naše pitanje da li postoji kompromisno rešenje koje može da pomiri ljudska prava s jedne i nadzor, s druge strane Mišljenović kaže da bi najpre trebalo utvrditi „uzrok bolesti“, a onda kasnije razmišljati o mehanizmima kojima će njeni simptomi biti praćeni.

„Za početak, potrebno je odbaciti nametnutu “ili-ili” dilemu, prema kojoj je moguće imati ili ljudska prava ili sve ono što se želi postići, odnosno odbraniti uvođenjem masovnog nadzora. Više nadzora ne dovodi nužno do više bezbednosti, odnosno, uvođenje novih mera ograničenja prava ne mora automatski da dovede do željenih efekata.  Važno je vratiti se osnovama. Prvo se moramo odrediti prema pitanju da li su naše društvo, naši gradovi, ulice i javni prostori nebezbedni? Ukoliko jesu, kako i zbog čega? Tek nakon što odgovorimo na to pitanje, treba da razmatramo opcije, među kojima bi masovni video nadzor i veštačka inteligencija zaista morali da budu na poslednjem mestu“, zaključio je Mišljenović.