Gotovo svaki treći zaposleni koristi neodobrene AI agente na poslu

Microsoft je objavio najnoviji izveštaj Cyber Pulse, koji pruža konkretan uvid u nove sajber rizike koji se mogu pojaviti tokom svakodnevnog obavljanja radnih zadataka. 

Jedan od najozbiljnijih izazova istaknutih u izveštaju jeste upravljanje: AI agenti se šire brže nego što ih mnoge organizacije mogu uočiti ili nadzirati, a taj nedostatak vidljivosti postaje sve veći poslovni rizik, navodi se u saopštenju.

U Microsoft ekosistemu korisnici razvijaju i implementiraju AI agente na svim ključnim platformama – od Fabric i Foundry do Copilot Studija i Agent Buildera – što odražava snažan korak ka automatizaciji rada zasnovanog na veštačkoj inteligenciji.

„U Srbiji i širom regiona AI agenti brzo postaju digitalne kolege u svakodnevnim poslovnim operacijama. Međutim, bez jasnih pravila, vidljivosti i odgovornosti oni mogu postati ozbiljan bezbednosni rizik. Inovacije i bezbednost moraju napredovati istom brzinom. Organizacije koje primenjuju principe Zero Trust, potpunu vidljivost i centralizovano upravljanje AI agentima – kao što to čine sa ljudima i sistemima – smanjiće rizik, ojačati poverenje i biti bolje pozicionirane u odnosu na konkurenciju, naročito na sve regulisanijem i digitalnijem evropskom tržištu“, izjavio je Tomislav Vračić, regionalni direktor za tehnologiju u Microsoftu.

Izrada agenata više nije rezervisana samo za tehničke uloge i ICT odeljenja. Danas zaposleni na različitim funkcijama kreiraju i koriste agente u svakodnevnom radu.  Podaci pokazuju da više od 80 odsto kompanija sa Fortune 500 liste koristi aktivne agente izrađene putem low‑code/no‑code alata. Kako se primena agenata širi, a prilike za transformaciju rastu, sada je pravi trenutak za uspostavljanje osnovnih kontrola.

Usvajanje i korišćenje AI agenata ubrzano raste na globalnom nivou: Evropa, Bliski istok i Afrika čine 42 odsto aktivnih AI agenata, slede SAD (29 odsto), Azija (19 odsto) i Latinska Amerika (deset odsto).

Rast je najizraženiji u visoko regulisanim i operativno složenim industrijama. Nakon razvoja softvera i tehnologije (16 odsto), proizvodnja čini 13 odsto globalne upotrebe AI agenata, slede finansijske usluge (11 odsto) i maloprodaja (devet odsto). U tim sektorima AI agenti se sve više koriste za izradu predloga, analizu finansijskih podataka, trijažu bezbednosnih upozorenja, automatizaciju repetitivnih procesa i otkrivanje uvida brzinom mašine.

Izveštaj upozorava da brza implementacija AI agenata može prestići bezbednosne i druge sisteme  upravljanja, povećavajući rizik od tzv. shadow AI‑a. Agenti sa prevelikim ovlašćenjima ili pod uticajem pogrešnih ulaznih podataka mogu biti zloupotrebljeni i pretvoreni u nenamerne „dvostruke agente“.

Baš kao i kod ljudskih zaposlenih, AI agenti moraju imati jasno definisane uloge, ograničene privilegije i kontinuirani nadzor kako ne bi postali ranjivost. Prema Cyber Pulse izveštaju, već 29 odsto zaposlenih koristi neodobrene AI agente u obavljanju radnih zadataka.

Prema Microsoftovom Data Security Indexu, samo 47 odsto organizacija uvodi specifične bezbednosne kontrole za GenAI – što ukazuje na priliku da kompanije obezbede potrebnu vidljivost za sigurno uvođenje AI‑a.