Može li AI da bude pravno lice?

Veštačka inteligencija danas piše tekstove, analizira medicinske snimke, upravlja logističkim sistemima, daje preporuke bankama, pa čak i učestvuje u kreiranju poslovnih odluka. Iako, danas AI radi za nas, postavlja se pitanje da li ćemo u budućnosti mi raditi za AI, odnosno da li bi jednoga dana veštačka inteligencija mogla da dobije status pravnog lica.

O toj temi već godinama raspravljaju pravnici, tehnološki stručnjaci i regulatorna tela širom sveta. Suština dileme je da ako autonomni sistemi mogu da donose odluke bez direktne ljudske kontrole, da li bi u budućnosti mogli da dobiju poseban pravni status, sličan onom koji danas imaju kompanije.

„Na prvi pogled ideja deluje neobično, ali pravna istorija pokazuje da pravnu ličnost nemaju samo ljudi. Kompanije, udruženja, fondacije i druge organizacije mogu da budu nosioci prava i obaveza, da sklapaju ugovore, poseduju imovinu i odgovaraju pred sudom. Upravo zbog toga deo stručne javnosti smatra da bi se jednog dana mogao razviti poseban model „elektronske ličnosti“ namenjen najnaprednijim AI sistemima“, navode pravnici kancelarije Stojković Advokati.

Ovakve rasprave posebno su se intenzivirale u Evropi nakon Rezolucije Evropskog parlamenta iz 2017. godine. U tom dokumentu pomenuta je mogućnost stvaranja posebnog pravnog statusa za najsloženije autonomne robote, odnosno koncept takozvane „elektronske ličnosti“. Iako rezolucija nije imala obavezujući karakter, izazvala je veliku pažnju stručne javnosti, jer je prvi put na političkom nivou otvoreno pitanje da li bi AI mogao da postane poseban pravni subjekt.

Međutim, uprkos brojnim raspravama, savremeni zakoni za sada ne idu u tom pravcu.

„Regulativa Evropske unije, uključujući i aktuelni EU AI Act, ne polazi od pretpostavke da veštačka inteligencija može imati sopstvena prava ili obaveze. Naprotiv, osnovna ideja postojećih propisa jeste da odgovornost mora ostati na ljudima i kompanijama koje AI razvijaju, prodaju, integrišu ili koriste“, objašnjavaju advokati.

Drugim rečima, zakon danas AI posmatra kao alat, sistem ili proizvod, a ne kao samostalnog učesnika u pravnom prometu. To praktično znači da, ukoliko sistem veštačke inteligencije napravi grešku koja izazove štetu, odgovornost ne snosi sam algoritam, već oni koji stoje iza njegovog razvoja i primene.

„Veštačka inteligencija nema sopstvenu imovinu iz koje bi mogla da nadoknadi štetu, nema svest niti sposobnost da razume posledice svojih odluka. Upravo zbog toga deo pravnika smatra da bi uvođenje ‘elektronske ličnosti’ moglo da posluži kao način da kompanije prebace odgovornost na sam sistem“, objašnjavaju pravnici.

Na primer, ukoliko autonomni AI sistem napravi ozbiljnu grešku u medicinskoj dijagnostici, izazove finansijski gubitak ili dovede do saobraćajne nesreće, postavlja se pitanje da li bi bilo prihvatljivo da odgovornost formalno snosi „digitalni entitet“, dok bi kompanije koje su sistem razvile ili pustile u upotrebu izbegle posledice. Zbog toga se savremeni regulatorni modeli fokusiraju na koncept kontrole rizika.

„Suština je da odgovornost treba da snosi onaj ko ima najveći uticaj na način na koji se AI razvija i koristi. U praksi to mogu biti proizvođači softvera, developeri, kompanije koje integrišu AI u svoje poslovanje, vendori koji sistem stavljaju na tržište ili organizacije koje donose odluke oslanjajući se na rezultate algoritma“, kažu advokati.

Posebno je važno pitanje takozvanog „nekritičkog oslanjanja“ na AI. Stručnjaci upozoravaju da sistemi veštačke inteligencije, bez obzira na napredak, i dalje mogu da greše, proizvode netačne informacije ili donose diskriminatorne zaključke. Zato se od ljudi očekuje da zadrže kontrolu i proveravaju rezultate koje AI generiše.

Upravo zbog toga evropski propisi insistiraju na ljudskom nadzoru, transparentnosti i proceni rizika. Što je sistem opasniji ili utiče na važnije oblasti života – poput zdravstva, zapošljavanja, obrazovanja ili bezbednosti – to su i obaveze kompanija strože.

Iako se ideja o pravnoj ličnosti AI za sada uglavnom zadržava u akademskim i teorijskim raspravama, jasno je da će razvoj tehnologije nastaviti da otvara nova pitanja. Kako autonomni sistemi budu postajali sofisticiraniji, biće sve više dilema o tome gde se završava odgovornost čoveka, a gde počinje uloga mašine.

„Za sada, međutim, pravni sistemi širom sveta ostaju pri stavu da veštačka inteligencija ne može biti samostalni nosilac prava i obaveza. Umesto pitanja da li AI može da odgovara, fokus regulatora ostaje na tome ko od ljudi i organizacija u lancu razvoja i upotrebe mora da snosi posledice kada tehnologija napravi grešku“, zaključuju pravnici kancelarije Stojković Advokati.