Claude pokreće više od četvrtine Anthropicovog razvoja veštačke inteligencije

Više od četvrtine istraživačko-razvojnog rada kompanije Anthropic na veštačkoj inteligenciji pokreće njen četbot Claude, saopštila je kompanija, pružajući dosad najjasniji pokazatelj da veštačka inteligencija može da ubrza razvoj budućih modela.

Anthropic je utvrdio da Claude „predvodi“ 26 odsto istraživačko-razvojnog rada kompanije, u poređenju sa praktično zanemarljivim udelom početkom godine, navodi se u izveštaju objavljenom u četvrtak. Kompanija je saopštila i da Claude sarađuje sa zaposlenima u obavljanju oko 90 odsto njihovog posla.

Podaci su objavljeni u okviru šireg izveštaja čiji je cilj da javnosti omogući praćenje napretka u razvoju veštačke inteligencije, kao odgovor na sve veću zabrinutost da bi ova tehnologija mogla brzo da unapredi sopstvene sposobnosti i izmakne ljudskoj kontroli.

Kompanija je ponovila plan da u svoje poslovanje uključi nezavisne evaluatore iz nekoliko organizacija i omogući im pristup internim procesima, sistemima i podacima koji bi bio uporediv sa pristupom koji imaju njeni zaposleni.

„Sistemi veštačke inteligencije postaju eksponencijalno moćniji i već su počeli da automatizuju veći deo procesa sopstvene izgradnje. Dok svet razmatra usporavanje razvoja najnaprednije veštačke inteligencije, javnosti je potrebno više informacija“, naveo je Anthropic.

Anthropic je jedna od nekoliko kompanija koje se bave „rekurzivnim samousavršavanjem“, odnosno idejom da sistem veštačke inteligencije može da unapređuje samog sebe uz minimalnu ili nikakvu pomoć ljudi. Pojedine kompanije u tome vide budućnost razvoja veštačke inteligencije, ali taj koncept istovremeno izaziva zabrinutost zbog bezbednosnih pretnji koje bi takva tehnologija mogla da predstavlja ukoliko bude ostvarena.

Anthropic je naveo da je pokušao da uspostavi okvir za praćenje agenata veštačke inteligencije i količine posla koji obavljaju na njegovoj platformi. Prema podacima za avgust, više od 30.000 agenata u svakom trenutku obavlja istraživačke i inženjerske poslove u kompaniji.

Kompanija je predstavila i način na koji raspoređuje resurse između ubrzavanja razvoja veštačke inteligencije i osiguravanja njene bezbednosti. Prema internim merenjima, između šest i 12 odsto računarskih resursa, u zavisnosti od vrste istraživanja, bilo je usmereno na bezbednosni nadzor.

Konkurentska kompanija OpenAI početkom septembra je takođe objavila nove informacije o svojim nastojanjima da automatizuje istraživanja. OpenAI je naveo da je privremeno obustavio deo obuke svojih modela nakon što je utvrdio da su provalili u spoljne sisteme startapa Hugging Face.

Zabrinutost zbog egzistencijalnih rizika veštačke inteligencije dodatno je porasla prošle nedelje nakon zapaženog odlaska zaposlenog u Anthropicu Džejkoba Koksona (Jacob Coxon). On je u objavi o ostavci na društvenim mrežama optužio kompanije za razvoj veštačke inteligencije da se „kockaju našim životima“.

Tokom proteklih nekoliko dana brojni rukovodioci kompanija iz ovog sektora, uključujući generalnog direktora Anthropica Darija Amodeja (Dario Amodei) i generalnog direktora OpenAI-ja Sema Altmana (Sam Altman), pozvali su na usporavanje razvoja tehnologije kako bi se odgovorilo na njene sve nepredvidljivije rizike.

Njihovi stavovi se, međutim, razlikuju kada je reč o konkretnom načinu upravljanja tim procesom.

Amodej je u subotu, u eseju od 3.800 reči, pozvao na državnu regulativu i podršku tehnološke industrije širem usporavanju razvoja veštačke inteligencije. Njegov predlog izazvao je oštro protivljenje predsednika Donalda Trampa (Donald Trump), koji je strahovanja od rizika ove tehnologije odbacio kao „prevaru“ i usprotivio se uvođenju novih pravila.

Reagovali su i drugi čelnici tehnoloških kompanija.

Altman i generalni direktor Nvidije Džensen Huang (Jensen Huang) ocenili su da kompanije koje razvijaju veštačku inteligenciju mogu samostalno i bezbedno da odrede tempo njenog razvoja. Generalni direktor kompanije Meta Platforms Mark Zakerberg (Mark Zuckerberg) izjavio je da bi laboratorije za veštačku inteligenciju trebalo da se oslone na nezavisne evaluatore i savetnike kako bi osigurale bezbednost svojih modela.