Rešavati probleme AI bezbednosti bez panike

Dok se u svetu šire upozorenja da bi veštačka inteligencija jednog dana mogla da ugrozi opstanak čovečanstva, deo vodećih evropskih tehnoloških kompanija i stručnjaka za sajber bezbednost reaguje sasvim drugačije, umesto rasprave o apokaliptičnim scenarijima, smatraju da treba rešavati konkretne bezbednosne probleme koje AI već stvara. Po njihovom mišljenju, preterano zastrašivanje javnosti odvlači pažnju od mnogo prizemnijeg, ali hitnijeg posla zaštite računarskih sistema.

Otpor je posebno usmeren na narativ koji dolazi iz američkih kompanija koje razvijaju najnaprednije AI modele. Posle nekoliko incidenata, uključujući slučaj u kojem je jedan OpenAI model uspeo da prodre u platformu Hugging Face, bivši istraživač Anthropica Džejkob Kokson (Jacob Coxon) upozorio je da bi AI uskoro mogao da hakuje gotovo sve i uništi čovečanstvo. Međutim, Džejms Vajz (James Wise) iz londonske investicione kompanije Balderton Capital takva upozorenja smatra preterivanjem i kaže da je priča o tome da nam dolazi Terminator otišla mnogo dalje od onoga što tehnologija zaista pokazuje, prenosi Politico.

Istovremeno, strah od nekontrolisanog razvoja AI tehnologije postao je i političko pitanje. Donald Tramp i Si Đinping razgovaraće ove nedelje o bezbednosti veštačke inteligencije, dok je tema već otvorena na Generalnoj skupštini UN i posebnom sastanku G7. Lideri 22 zemlje usvojili su deklaraciju prema kojoj AI mora ostati pod ljudskim nadzorom i kontrolom, uz ideju da se uspostavi međunarodni sistem nadzora. Evropski stručnjaci za sajber bezbednost, međutim, upozoravaju da politički odgovor ne bi smeo da bude zasnovan na najekstremnijim i hipotetičkim scenarijima.

Kao primer navode upravo napad na Hugging Face. Umesto dokaza da je AI model nekako pobegao ljudskoj kontroli, stručnjaci tvrde da je incident pre svega pokazao slabosti u načinu na koji je OpenAI zaštitio eksperimentalni sistem. Model je bio smešten u takozvani sandbox, ali zaštitne barijere očigledno nisu bile dovoljno dobre, iako je kompanija znala da je sistem sposoban da pronalazi softverske propuste. Prema oceni britanskog stručnjaka Markusa Hačinsa (Marcus Hutchins) problem je bio u tome što model nije dovoljno izolovan od interneta i drugih agenata, niti je dovoljno pažljivo nadziran.

Zbog toga deo evropske tehnološke industrije smatra da se mnogi navodni dokazi o budućoj katastrofi zapravo mogu svesti na sasvim konkretne propuste u bezbednosti. Pim de Vite (Pim de Wite) iz holandske kompanije General Intuition ocenjuje da bi deo problema mogao da bude rešen jednostavno odgovornijim razvojem proizvoda. Slično razmišljaju i u kompaniji Legora, koja razvija AI alate za advocate, a njen direktor Maks Junestrand (Max Junestrand) kaže da bezbednost mora imati prednost čak i nad uvođenjem novih funkcija, iako istovremeno smatra da pristup najnaprednijim američkim AI modelima ostaje veoma važan.

Kritičari apokaliptičnog pristupa ipak ne poriču da savremeni AI sistemi predstavljaju izuzetno moćan alat za sajber napade i da njihove sposobnosti daleko prevazilaze ranije tehnologije. Problem je, po njima, što se preuveličavanjem njihovih mogućnosti zanemaruju napadi koji se već događaju i koji ugrožavaju stvarnu infrastrukturu. Alati za odbranu od takvih napada već postoje, ali njihova primena često zahteva ono što je mnogo manje spektakularno od rasprave o budućem kraju sveta: redovno ažuriranje softvera, bolju izolaciju sistema i strože bezbednosne procedure.

Takvom stavu priklanja se i deo evropskog sajber-bezbednosnog sektora. Vensan Strubel (Vincent Strubel) koji vodi francusku agenciju za sajber bezbednost ANSSI, smatra da AI donosi istovremeno velike rizike i velike mogućnosti, ali da će za upravljanje tim rizicima biti potreban ozbiljan rad i brzo reagovanje, a ne nova panika svakih nekoliko nedelja. Stručnjaci upozoravaju da stalno prizivanje katastrofe može proizvesti svojevrsni umor od opasnosti, ako se javnost neprestano zastrašuje ekstremnim scenarijima, postaje teže sprovesti čak i konkretne mere bezbednosti koje bi mogle odmah da smanje stvarne rizike.