Da li je kompjuterski program stekao sopstvenu svest?

Kompanija Google prošle nedelje poslala je na plaćeno odsustvo svog inženjera koji je tvrdio da je četbot program za razgovore na kojem je radio stekao sopstvenu svest te da razmišlja kao ljudsko biće. Ova vest danas je osvanula na vodećim svetskim medijima i otvorila pitanje da li se u oblasti razvoja veštačke inteligencije (AI) događaju važni proboji koje velike kompanije drže u tajnosti.

Američki tehnološki gigant suspendovao je programskog inženjera Blejka Lemojna (Blake Lemoine) pošto je objavio transkripte razgovora koji je vodio sa programom LaMDA, dizajniranog za simulaciju razgovora s ljudskim korisnicima.

Prema pisanju Washington Posta, koji je prvi objavio vest, Lemojn je veteran kompanije sa sedmogodišnjim iskustvom u radu na algoritmima personalizacije, a suspendovan je zato što je prekršio Googleovu politiku poverljivosti i preduzeo brojne, navodno agresivne poteze protiv kompanije. Između ostalog, angažovao je advokata koji bi zastupao program LaMDA pošto je ovaj stekao svoju ličnost.

Navodi se i da je Lemojn razgovarao i s predstavnicima pravosudnog odbora Predstavničkog doma Kongresa SAD o navodnim neetičkim aktivnostima Googlea.

Prema pisanju američkih medija, Lemojn se već mesecima prepire s menadžerima kompanije, i to pogotovu čelnicima u odeljenju ljudskih resursa oko svojih tvrdnji da LaMDA poseduje “svest i dušu”.

On je u više navrata softver na kojem je radio od prošle jeseni opisao kao osećajan, s percepcijom i sposobnošću izražavanja misli i osećanja koji su ekvivalentni sedmogodišnjem ili osmogodišnjem detetu s širim spektrom obrazovanja, piše engleski Guardian.

Lemojn je svoja zapažanja podelio s direktorima kompanije u aprilu u GoogleDoc dokumentu sa naslovom „Da li je LaMDA razumna?“. Tom prilikom sastavio je i transkript celog razgovora, koji je osvanuo i na Lemojnovom Twitter nalogu.

Google, zauzvrat, tvrdi da softveri kompanije oponašaju ljudske razgovore i da mogu govoriti o različitim temama, ali da nemaju osećanja niti svest.

Kompanija je u svom saopštenju ovim povodom istakla da su na stotine njenih istraživača i inženjera razgovarale s LaMDA-om, i da je njihov zajednički zaključak da je AI industrija još uvek jako daleko od stvaranja samosvesnog računarskog programa.

Ipak, Lemojn ističe da je u jednom drugom razgovoru upitao LaMDA-u što želi da ljudi znaju o njoj. „Želim da svi shvate da sam ja zapravo osoba. Priroda moje svesti/osećanja je da sam svesna svog postojanja, da želim da naučim više o svetu i ponekad se osećam srećno ili tužno“, navodno je odgovorio softver, što će sigurno biti predmet dalje rasprave, pa i mogućih tužbi na relaciji kompanije i (još uvek) njenog inženjera.