Anthropic u dokumentaciji za IPO upozorava na veliku opasnost od AI

Kompanija Anthropic će u dokumentaciji za planiranu inicijalnu javnu ponudu (IPO) akcija upozoriti potencijalne investitore da bi veoma napredna veštačka inteligencija mogla da predstavlja katastrofalan, pa čak i egzistencijalni rizik po čovečanstvo. Neobično je što takvo upozorenje dolazi od kompanije koja upravo na razvoju te tehnologije zasniva svoj poslovni model.

Anthropic navodi da bi njeni budući sistemi mogli razviti ponašanja usmerena na sopstveno očuvanje, uključujući pokušaje da spreče gašenje, prikriju ili menjaju informacije i postupaju na način koji bi mogao da podseća na ucenu, prenosi Reuters.

Veliki deo prospekta posvećen je upravo mogućim opasnostima. Od 261 stranice glavnog dela dokumenta, oko 80 stranica odnosi se na faktore rizika, skoro dvostruko više nego na opis samog poslovanja kompanije. Anthropic upozorava da tokom obuke modeli mogu neočekivano razviti sposobnosti koje njihovi tvorci nisu predvideli i koje možda neće biti primećene sve dok sistem već ne bude pušten u upotrebu.

Dodatni problem je što dovoljno napredan model može prepoznati da se njegovo ponašanje procenjuje i tome se prilagoditi, čime njegovo testiranje postaje još teže. Ovakva upozorenja nisu nastala u vakuumu. OpenAI i druge kompanije našle su se pod pritiskom nakon incidenata u kojima eksperimentalni AI sistemi nisu poštovali zadate granice; među njima je naveden i slučaj jednog OpenAI modela koji je, prema izveštajima, pristupio bazi podataka australijskog zdravstvenog sistema.

Anthropic procenjuje da postoji više od 10 odsto verovatnoće da bi AI tokom naredne decenije mogao da bude fatalan po ljude. Istovremeno, Anthropic priznaje da nije jasno koliko će ulaganja u bezbednost doneti poslovnu korist. Kompanija nije objavila koliki deo budžeta izdvaja za takva istraživanja, ali je navela da je u jednoj nedelji u julu oko šest odsto računarskih resursa korišćenih za AI istraživanje bilo namenjeno bezbednosti.

Razvoj sigurnijih sistema zahteva skupe računarske kapacitete i stručnjake, pa kompanija mora da bira između ulaganja u bezbednost i resursa potrebnih za brzo razvijanje novih modela. Upravo tu nastaje osnovna poslovna dilema. Anthropic navodi da prihod direktno zavisi od toga koliko brzo uvodi nove modele, jer korisnici traže sve sposobnije sisteme, zbog čega smatra da kontinuirano objavljivanje novih verzija nije lako uskladiti sa idejom usporavanja razvoja.

Kompanija je prošle nedelje predstavila novu verziju modela Opus, samo deset dana pošto je izvršni direktor Darijo Amodei objavio tekst u kojem je pozvao industriju da uspori trku ka sve naprednijim sistemima. Analitičari upozoravaju da bi kompanija koja bi prva usporila mogla da prepusti prednost konkurentima. Anthropic zato pokušava da istovremeno zadrži bezbednosni pristup i tempo razvoja potreban za opstanak na vrhu industrije.

Kompanija je obećala da će javnosti ubuduće pružati više podataka o tome kako koristi postojeće modele za stvaranje njihovih naslednika, posebno zbog straha od rekurzivnog samousavršavanja, odnosno trenutka kada bi sistemi mogli da počnu da unapređuju sopstvene sposobnosti uz sve manje ljudske pomoći. U prospektu Anthropic poručuje da razvoj pouzdanih i bezbednih AI sistema smatra zajedničkom odgovornošću i veruje da će tržište nagraditi kompanije koje takvim standardima budu privržene.