Ko snosi odgovornost za greške veštačke inteligencije?

Stručnjaci upozoravaju da veštačka inteligencija nije nepogrešiva, a velika očekivanja od AI platformi još jednom su se pokazala nerealnim u slučaju kompanije Starbucks, koja je odlučila da ugasi AI sistem koji je prethodnih devet meseci bio zadužen za automatsko brojanje zaliha u prodavnicama širom Severne Amerike i vrati se ručnoj evidenciji i kontroli.

Naime, program je uveden kao deo strategije sa ciljem da se smanje česte nestašice proizvoda koje su uticale na prodaju i iskustvo kupaca. Ideja je bila da se veštačkoj inteligenciji prepusti posao praćenja količina mleka i sastojaka za pripremu napitaka i tako ubrza rad zaposlenih. Međutim, praksa je pokazala drugačije rezultate.

Prema internim informacijama kompanije, sistem je pravio ozbiljne propuste – pojedine proizvode nije uspevao da registruje, dok je druge pogrešno identifikovao. Umesto većeg stepena efikasnosti dobijena je dodatna neizvesnost u upravljanju zalihama. Zato se kompanija odlučila na povratak tradicionalnom modelu popisa i standardizaciji procesa u svim lokalima.

Ovaj primer iznova je otvorio pitanje: da li je problem u samoj tehnologiji ili u načinu na koji je koristimo?

Stručnjaci već duže vreme upozoravaju da neuspeh AI sistema najčešće ne nastaje zato što je tehnologija „pokvarena“, već zbog okruženja u kojem funkcioniše. Sistem može donositi loše rezultate ako je treniran na neadekvatnim ili pristrasnim podacima, ako ne postoje jasne interne procedure ili ako izostane ljudska kontrola nad odlukama koje generiše.

Prema rečima advokata kancelarije Stojković Advokati, dobar primer dolazi iz kompanije Amazon koja je svojevremeno testirala AI alat za selekciju kandidata.

„Pokazalo se da sistem nije donosio rodno neutralne procene jer je bio treniran na istorijskim podacima u kojima su dominirale prijave muškaraca. Sistem nije ‘izmislio’ pristrasnost – samo je reprodukovao obrazac koji je već postojao u podacima. To pokazuje jednu od ključnih zabluda o veštačkoj inteligenciji. Činjenica da odluku donosi algoritam ne znači automatski da je odluka objektivna“, objašnjavaju advokati.

Oni ističu da AI nije nezavisni donosilac odluka.

„On ostaje proizvod ljudi – ljudi biraju podatke, postavljaju pravila, određuju ciljeve i definišu granice sistema. Ako u tim koracima postoje greške, neravnoteža ili predrasude, postoji velika verovatnoća da će ih sistem preneti i u buduće rezultate“, objašnjavaju pravnici.

Sličan problem pojavio se i u slučaju avio-kompanije Air Canada kada je chatbot korisniku dao netačnu informaciju o mogućnosti refundacije avionske karte. U postupku koji je usledio zaključeno je da kompanija ne može izbeći odgovornost tvrdnjom da je grešku napravio chatbot, niti da je sistem neka vrsta „odvojenog entiteta“.

„Takvi slučajevi sve češće pokazuju da se pravna odgovornost ne gasi onog trenutka kada se u proces uključi veštačka inteligencija. Zato se danas sve više govori o lancu odgovornosti kod AI sistema. U tom lancu učestvuje više aktera: jedna kompanija razvija model, druga ga trenira, treća ga integriše u poslovni softver, četvrta ga koristi u svakodnevnom radu, dok zaposleni ili krajnji korisnik daju konkretne instrukcije i donose konačne odluke na osnovu rezultata“, ocenjuju advokati.

Zbog toga se u svakom pojedinačnom slučaju postavlja pitanje – ko je imao kontrolu nad rizikom i ko je bio dužan da spreči štetu?

Odgovornost može biti raspoređena između: kompanije koja je razvila AI sistem, organizacije koja je obavila trening modela i definisala skup podataka, firme koja je integrisala sistem u poslovni proces, zaposlenih koji svakodnevno koriste alat,  krajnjih korisnika koji postupaju prema rezultatima koje AI generiše.

Prema rečima pravnika iz advokatske kanclerajije Stojković Advokati baš tu nastaje i najveći izazov za pravo.

„Tradicionalni propisi nastajali su u svetu u kojem su odluke donosili ljudi i u kojem se mogao relativno jasno utvrditi uzrok greške. Kod savremenih AI sistema pojavljuje se takozvani „black box“ problem – situacija u kojoj nije uvek moguće precizno objasniti kako je sistem došao do određenog zaključka, zašto je doneo konkretnu odluku i gde je tačno nastala greška. Ipak, za većinu kompanija danas najveći rizik ne dolazi od razvoja sopstvenih AI modela. Mnogo veći izazov postaje svakodnevna upotreba dostupnih generativnih AI alata od strane zaposlenih“, navode advokati.

AI se koristi za pisanje mejlova, sažimanje dokumenata, obradu podataka, pripremu prezentacija, analizu ugovora i komunikaciju sa klijentima. To donosi brzinu i produktivnost, ali otvara i ozbiljna pitanja zaštite podataka, poslovne tajne, poverljivosti komunikacije, intelektualne svojine i ugovorne odgovornosti.

„Zato kompanije sve češće uvode osnovna pravila, da znaju koje alate zaposleni koriste, koje informacije unose u sisteme, ko proverava rezultate koje AI generiše, da li postoje interne procedure i obuka zaposlenih i da li postoji ljudski nadzor nad odlukama“, zaključuju advokati iz kancelarije Stojković Advokati.