OpenAI kupuje još jedan startap koji rešava bezbednosne probleme

OpenAI je pristao da kupi Promptfoo, startap koji omogućava velikim kompanijama da pronađu i otklone bezbednosne probleme u modelima veštačke inteligencije tokom njihovog razvoja, kao deo nastojanja da pomogne korporativnim klijentima da smanje moguće rizike od primene AI softvera.

Kompanija koja stoji iza ChatGPT-a objavila je da će integrisati tehnologiju Promptfoo-a u OpenAI Frontier, nedavno pokrenutu platformu koja organizacijama omogućava da grade i upravljaju AI agentima. Frontier je osmišljen da pomogne da svaki agent — koje OpenAI naziva „AI saradnicima” — ima odgovarajuće zaštitne mehanizme i pristup podacima. Uslovi akvizicije nisu objavljeni, piše Bloomberg.

OpenAI i njegovi rivali utrkuju se u razvoju naprednijih AI agenata koji mogu obavljati složene zadatke u ime korisnika, uz ograničenu potrebu za ljudskom intervencijom. Istovremeno, kompanija nastoji da uveri širi krug preduzeća da plaćaju za ovu tehnologiju, tako što će obezbediti da ovi proizvodi budu efikasni i bezbedni.

„Akvizicija Promptfoo-a od strane OpenAI-a signalizira jasnu posvećenost da se korporativna veštačka inteligencija učini ne samo moćnom, već i bezbednom i pouzdanom u velikim razmerama“, rekao je Ganeš Bel, izvršni direktor u kompaniji Insight Partners, koja je prošle godine predvodila investicionu rundu od 18,4 miliona dolara u ovaj bezbednosni startap. U finansiranju je učestvovao i Andreessen Horowitz.

Promptfoo razvija open-source alate za testiranje bezbednosti AI sistema, kao i alate koji pomažu kompanijama da pokušaju da napadnu sopstvene proizvode kako bi pronašle ranjivosti, proces poznat kao „red-teaming“. Startap sa sjedištem u San Francisku među klijentima ima oko četvrtinu kompanija sa liste Fortune 500.

Promptfoo je jedan od brojnih startapova koji razvijaju sajber-bezbednosne proizvode zasnovane na veštačkoj inteligenciji kako bi se zaštitili od hakera, u trenutku kada i zlonamerni akteri koriste sličnu tehnologiju da pronađu načine da prodru u kritične mreže.

I OpenAI je počeo da ugrađuje bezbednosne funkcije u svoje AI proizvode i agente. Prošle nedelje kompanija je predstavila AI agenta namenjenog bezbednosnim timovima za pronalaženje i zakrpljivanje ranjivosti u velikim bazama podataka, slično alatu koji razvija konkurentska kompanija Anthropic PBC.

U okviru nove akvizicije, OpenAI Frontier će dobiti funkcije automatizovanog bezbednosnog testiranja i „red-teaminga“. Proizvod će takođe dobiti mogućnosti koje će pomoći organizacijama da prate promene i evidentiraju testiranja kako bi lakše upravljale rizicima i zahtevima usklađenosti.

OpenAI je saopštio da će nastaviti da razvija open-source projekte Promptfoo-a, uz istovremeno integrisanje njegove tehnologije u platformu Frontier.