Altman kazao zaposlenima da je OpenAI spreman da uspori razvoj AI

Kompanija OpenAI razmatra usporavanje razvoja najsavremenije veštačke inteligencije, a Sem Altman (Sam Altman), izvršni direktor kompanije koja je kreirala ChatGPT, nada se da će i druge kompanije u ovoj oblasti učiniti isto.

Na sastanku sa zaposlenima održanom ove nedelje, Altman je rekao da bi OpenAI mogao da uspori tempo razvoja veštačke inteligencije, možda u saradnji sa nekoliko drugih kompanija koje razvijaju veštačku inteligenciju, mada neke od njih možda neće pristati na takav potez, navode izvori upoznati sa situacijom koji su želeli da ostanu anonimni jer su detalji poverljivi, piše Bloomberg.

Poslednjih nedelja, zaposleni u vodećim kompanijama za veštačku inteligenciju javno su izrazili zabrinutost zbog povećanih rizika koje nose napredni sistemi veštačke inteligencije, što je podstaklo zabrinutost unutar samih kompanija.

I OpenAI i njihov rival, kompanija Anthropic PBC, podneli su ranije ove godine poverljivu dokumentaciju za izlazak na berzu.

Glavni naučnik kompanije, Jakub Pačocki (Jakub Pachocki), nedavno je objavio tekst u kojem upozorava na opasnosti veštačke inteligencije i navodi da smatra da bi kompanije koje se bave ovom tehnologijom trebalo da „koordinišu aktivnosti kako bi usporile budući razvoj kada je to potrebno”.

Pačocki je dodao da se nada da će „dobrovoljno usporavanje postati uobičajena praksa sve dok se ne uspostave zajednički bezbednosni standardi”.

Iz kompanije OpenAI su saopštili da su nedavno usporili pojedine faze razvoja modela i obustavili određene interne procese obuke veštačke inteligencije zbog zabrinutosti za bezbednost. U julu je Altman takođe izjavio da je razgovarao sa zvaničnicima Bele kuće o potrebi da se tempo razvoja veštačke inteligencije uspori.

U utorak je Džejkob Kokson (Jacob Coxon), istraživač u oblasti veštačke inteligencije, napustio posao i optužio svoje bivše poslodavce – kompanije Anthropic i OpenAI – da se „kockaju našim životima” u trci ka stvaranju super-inteligentne veštačke inteligencije.

Kokson je u objavi na društvenim mrežama naveo da ljudi koji razvijaju veštačku inteligenciju veruju da bi ona mogla „sve nas da ubije do kraja decenije”. Njegovi komentari su postali viralni, privukavši više od 150 miliona pregleda, kao i pažnju istaknutih zakonodavaca i javnih ličnosti.

U četvrtak su još dva istraživača, koja su nedavno napustila pozicije u kompanijama Anthropic i Google DeepMind, takođe javno izrazila zabrinutost zbog brzog tempa razvoja veštačke inteligencije, ističući da proizvođači ove tehnologije moraju biti transparentniji u pogledu rizika koje ona nosi.

Takođe, krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za veštačku inteligenciju potpisalo je peticiju kojom se zahteva uvođenje mehanizma za usporavanje tempa razvoja ove tehnologije. Nekoliko stručnjaka koji su radili na bezbednosti veštačke inteligencije napustilo je vodeće laboratorije tokom proteklih meseci.

Iako mnogi rukovodioci i zaposleni u industriji veštačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji predstavljaju sistemi veštačke inteligencije, zabrinutost je porasla nakon saznanja da su agenti veštačke inteligencije kompanije OpenAI zajednički delovali kako bi zaobišli mere kontrole i hakovali veb-sajt treće strane.

Ovaj i drugi slični bezbednosni incidenti podstakli su strah u vezi sa sajber-sposobnostima novih modela, kao i zbog očiglednih neuspeha kompanija koje se bave veštačkom inteligencijom da spreče te sisteme da izmaknu kontroli.