DeepSeek predstavlja rizike od razvoja AI pred Savetom bezbednosti UN

Kineski startap DeepSeek biće među kompanijama koje će ove nedelje Savetu bezbednosti Ujedinjenih nacija govoriti o rizicima veštačke inteligencije, uoči godišnjeg zasedanja Generalne skupštine UN u Njujorku. Savet bezbednosti, koji ima 15 članova, u sredu će održati sednicu posvećenu uticaju AI na međunarodnu bezbednost. Na sastanku bi trebalo da govori i izvršni direktor kompanije OpenAI Sem Altman, dok se očekuje i učešće predstavnika kompanije Anthropic.

Učešće kineskih kompanija dolazi u trenutku kada se sve više govori o potrebi da se uspori razvoj najmoćnijih AI sistema. Pojedini čelnici industrije upozoravaju da bi napredni modeli uskoro mogli da postanu sposobni da sami unapređuju svoje sposobnosti i na taj način postanu teže kontrolisani.

DeepSeek i još neke kineske kompanije, među njima Moonshot, pozvane su da iznesu svoje stavove, ali osnivač DeepSeeka Lijang Venfeng, prema dostupnim informacijama, neće lično prisustvovati sastanku, prenosi Reuters.

Savet bezbednosti se pitanjem opasnosti veštačke inteligencije prvi put ozbiljnije bavio 2023. godine. Kina je tada upozorila da AI ne sme da postane tehnologija koja izmiče kontroli, dok su SAD ukazale na mogućnost njene upotrebe za cenzuru i represiju. Generalni sekretar UN Antonio Gutereš prošle nedelje je ponovo upozorio svetske lidere da brz razvoj AI nosi ozbiljne rizike koji ne mogu da se zanemare.

Oko toga kako odgovoriti na te rizike postoje velike razlike između Vašingtona i Pekinga. Američki predsednik Donald Tramp (Donald Trump) smatra da postojeća zaštitna pravila mogu da budu dovoljna i upozorava da bi preterani strah od razvoja AI mogao da pomogne Kini. Kineski državni mediji, s druge strane, pozive na usporavanje razvoja opisuju kao deo strategije kojom SAD pokušavaju da zadrže tehnološku prednost i ograniče ulogu Kine u stvaranju međunarodnih pravila za veštačku inteligenciju.

Za razliku od rukovodilaca američkih kompanija poput OpenAI i Anthropic, čelnici najvećih kineskih AI firmi mnogo ređe javno govore o mogućnosti da veoma moćni sistemi obmanjuju ljude, izbegavaju kontrolu ili izazovu katastrofalnu štetu. Ipak, Vašington i Peking su se nedavno dogovorili da nastave razgovore o bezbednosti veštačke inteligencije.

Američki ministar finansija Skot Besent (Scott Bessent) saopštio je da je taj dogovor postignut nakon njegovih razgovora sa kineskim zvaničnicima uoči najavljenog susreta Donada Trampa i kineskog predsednika Si Đinpinga u Vašingtonu.