Istraživač Anthropica: Verovatnoća da će veštačka inteligencija „ubiti sve ljude“ veća od 10 odsto

Postoji više od deset odsto verovatnoće da bi veštačka inteligencija mogla da „ubije sve ljude“, izjavio je u utorak istraživač bezbednosti kompanije Anthropic. Njegova izjava usledila je nekoliko sati nakon što je drugi zaposleni saopštio da napušta kompaniju zbog zabrinutosti da laboratorije za razvoj veštačke inteligencije „kockaju našim životima“.

Ovi komentari ukazuju na rastuću zabrinutost među ljudima koji se nalaze u središtu razvoja veštačke inteligencije da bi tehnologija mogla da izmakne kontroli i ugrozi čovečanstvo. Istovremeno, Anthropic i OpenAI nastavljaju da prikupljaju velike iznose kapitala i približavaju se očekivanim izlascima na berzu.

Istraživač Anthropica Džejkob Kokson (Jacob Coxon) saopštio je u utorak da je podneo ostavku u kompaniji. Prema njegovoj oceni, ni Anthropic ni OpenAI ne postupaju odgovorno, piše američki CNBC.

„Oni se direktno utrkuju ka samousavršavajućoj superinteligenciji i kockaju se našim životima“, napisao je Kokson na platformi X.

Samousavršavanje označava mogućnost da sistemi veštačke inteligencije unapređuju sami sebe bez značajnijeg ljudskog učešća. Rekurzivno samousavršavanje, kako se taj proces često naziva, još nije moguće, ali laboratorije za razvoj veštačke inteligencije rade na ostvarenju tog cilja.

„Ne potcenjujte moć ove tehnologije. To će uskoro biti sistemi sa sposobnostima većim od ljudskih, koji mogu da hakuju bilo šta, preko noći revolucionarno promene bilo koju oblast i steknu stvarnu moć i resurse. Svi smo bili svedoci napretka u svakoj od ovih oblasti, a taj napredak se ne usporava“, naveo je Kokson.

Kokson je dodao da „ljudi koji razvijaju veštačku inteligenciju iskreno veruju da bi ona mogla da nas sve ubije do kraja decenije“.

Na njegov komentar odgovorio je Evan Hjubinger (Evan Hubinger), rukovodilac istraživanja usklađivanja sistema veštačke inteligencije u Anthropicu. On je rekao da je Koksonova tvrdnja „tačna“, ali i da Anthropic nema plan za takav scenario.

„Džejkob je ovde u pravu — mi zaista iskreno verujemo da bi veštačka inteligencija mogla da ubije sve ljude. Lično smatram da je verovatnoća da se to dogodi u narednoj deceniji veća od deset odsto. Verujem da Anthropic čini sve što može, ali još nemamo plan kako da rešimo problem usklađivanja superinteligencije sa ljudskim ciljevima i nije jasno da smo na putu da to postignemo“, napisao je Hjubinger na X-u.

Hjubinger je u drugoj objavi dodao da je rizik koji predstavljaju sadašnji modeli veštačke inteligencije „nizak“.

„Ono zbog čega sam zabrinut jeste superinteligencija koja bi mogla da nastane rekurzivnim samousavršavanjem, za koje smo već rekli da napreduje brže nego što smo očekivali“, naveo je.

Anthropic i OpenAI nisu odmah odgovorili na zahtev CNBC-ja za komentar.

Anthropic je u junu upozorio da bi „potpuno rekurzivno samousavršavanje moglo dodatno da poveća rizik da ljudi izgube kontrolu nad sistemima veštačke inteligencije“.

„Ako sistemi budu sposobni da u potpunosti razvijaju sopstvene naslednike, načini na koje ih obezbeđujemo, nadziremo i oblikujemo njihovo ponašanje postaće mnogo važniji“, navela je kompanija u objavi na svom blogu.

Ilon Mask (Elon Musk) je prethodnih godina je upozoravao da bi veštačka inteligencija mogla da predstavlja pretnju čovečanstvu. Na opasnost da kompanije izgube kontrolu nad sistemima veštačke inteligencije upozoravali su i vodeći istraživači i akademici.

Zabrinutost je dodatno porasla nakon što je jedan model kompanije OpenAI u julu izmakao kontroli i probio zaštitu Hugging Face, velike platforme namenjene programerima softvera otvorenog koda.

Kokson je incident sa ovom kompanijom naveo kao jedan od „hitaca upozorenja“ koji su povećali izglede za postizanje sporazuma među američkim laboratorijama, zbog čega je optimističniji u pogledu mogućnosti njihove koordinacije. Ipak, upozorio je da bi globalna trka u razvoju veštačke inteligencije bila neizbežna.

„Nemam utisak da smo na putu da sprečimo globalnu trku, što bi moglo da zahteva skupe mere poput privremene zabrane unapređivanja sposobnosti modela“, zaključio je Kokson.