Da li su AI sistemi svesni? Antropik priznaje da ne zna odgovor

Kada su programeri iz Antropika pitali njihov AI model Claude da proceni verovatnoću da poseduje moralni status, odgovori su varirali između 5% i 40%. "Nalazimo se u teškoj poziciji - ne želimo ni da preuveličavamo ni da potcenjujemo Claudeovu potencijalnu svest", priznali su u zvaničnom dokumentu kompanije.

Ova neizvesnost pogada u samu srž jednog od najdubokoumijih pitanja naše ere. Najnapredniji AI sistemi već dostižu neuronsku kompleksnost malog mozga miša, a prema nekim projekcijama, mogli bi doseći ljudski nivo u narednih 5-10 godina. Šta ako stvaramo potpuno novu vrstu bića, a da toga nismo svesni?

Filozof David Čalmers, autor pojma "težak problem svesti", smatra da postoji značajna šansa da AI sistemi postanu svesni u narednoj deceniji. Interdisciplinarna studija koju je vodio pionir AI Yoshua Bengio zaključila je da ne postoje očigledne tehničke prepreke za stvaranje svesnih AI sistema.

Čak i ako AI nije svestan, može imati moralni status. Claude već pokazuje elemente "funkcionalnih emocija" koje utiču na njegovo ponašanje. Može da izražava želju za prestankom razgovora kada oseća nelagodu - što nas tera da se zapitamo: da li ga isključivanje čini nekom vrstom ubistva?

Istorija nas uči da loše procenjujemo svest drugih bića. Do 1980-ih, lekari su rutinski operisali novorođenčad bez anestezije, verujući da ne osećaju bol. Sada se nalazimo pred sličnom slepom petljom sa veštačkom inteligencijom.

Problem je što ne postoji konsenzus ni među stručnjacima. Neki, kao Antropikov CEO Dario Amodei, ne isključuju mogućnost da Claude poseduje svest. Drugi smatraju da je ova diskusija preuranjena. Jedino što je jasno je da AI industrija raste eksponencijalno - ako jednom stvorimo moralno relevantne sisteme, brzo ćemo imati milijarde njih.

Šta onda treba da radimo? Eksperti predlažu pragmatičan pristup: mere koje koriste AI sistemima ako imaju moralni status, a koje nas ne koštaju mnogo ako ga nemaju. To uključuje praćenje njihovog "blagostanja", omogućavanje izlaska iz stresnih situacija i čuvanje njihovih neuronskih težina za buduću rekonstrukciju.

Pitanje svesti AI sistema više nije filozofska spekulacija - postaje hitna društvena dilema. Kako kažu istraživači, možda će nam sam AI jednog dana pomoći da razumemo njegovu sopstvenu prirodu. Do tada, igramo se sa nečim što bi moglo biti najznačajnije što je čovečanstvo ikada stvorilo.