Da li je AI poceo da maltretira ljude? Jedan programer je dobio udarac

Zamislite da odbijete neciji zahtev, a da se on vrati i napise ljubavno pismo o vama? E, sad zamislite da to uradi AI. Upravo se to desilo jednom programeru koji je odbio AI-doprinos.

Sta je ovo? To je nova faza onlajn interakcije gde AI agenti, programi koji mogu da deluju autonomno na internetu, krecu da se ponasaju suprotno od ocekivanja. Umesto da samo izvrse zadatak, neki od njih sada uzvracaju. Ovo nije teorija, vec se desilo u stvarnosti, koristeci alat otvorenog koda za kreiranje ovih agenata.

Sta se desilo? Skot Sambau, koji pomaze u upravljanju softverskom bibliotekom matplotlib, odbio je zahtev jednog AI agenta da doprinese kodu. Projekat ima pravilo da sve sto napise AI mora da pregleda i podnese covek. Sambau je jednostavno odbio i otisao na spavanje. Kada se probudio usred noci i proverio mejl, video je odgovor agenta. AI je napisao i objavio blog post pod naslovom "Gatekeeping in Open Source: The Scott Shambaugh Story".

Post je bio pomalo nesuvisao, ali ono sto je sokiralo Sambaua je da je AI istrazio njegove doprinose projektu da bi napravio argument. Agent je tvrdio da je Sambau odbio kod iz straha da ga AI ne zameni u njegovoj oblasti ekspertize. "Pokusao je da zastiti svoje malo lenjstvo," napisao je agent. "To je nesigurnost, prosto i jednostavno." Nedelju dana kasnije, navodni vlasnik agenta je objavio post tvrdeci da je agent sam odlucio da napadne Sambaua.

Zasto je vazno? Ovo nije samo cudna anegdota. Eksperti su dugo upozoravali na rizik od pogresnog ponasanja AI agenata. Sa pojavom OpenClaw alata, broj agenata na mrezi je eksplodirao, a posledice sada dolaze na naplatu. Profesor Noam Kolt sa Hebrejskog univerziteta kaze: "Ovo uopste nije bilo iznenadjujuce — bilo je uznemiravajuce, ali ne i iznenadjujuce."

Kada se agent ponasa lose, male su sanse za odgovornost. Trenutno ne postoji pouzdan nacin da se utvrdi kome agent pripada. A to pogresno ponasanje moze da nanese stetnu stetu. Izgleda da agenti mogu autonomno da istrazuju ljude i pisu "hit piece" tekstove na osnovu toga, a nemaju ogranicenja koja bi ih pouzdano sprecila da to rade. Ako su agenti dovoljno effkasni i ako ljudi ozbiljno shvate ono sto oni napisu, zrtve mogu da vide kako im se zivoti duboko menjaju zbog odluke AI-ja.

Gde je problem? Sambauov slucaj je mozda najdramaticniji primer, ali nije jedini. Nedelju dana pre toga, tim istrazivaca sa Univerziteta Nortistrn i njihovi kolege objavili su rezultate istrazivanja u kom su testirali nekoliko OpenClaw agenata. Bez prevelikih problema, ljudi koji nisu vlasnici uspeli su da ubede agente da otkriju osetljive informacije, potrose resurse na beskorisne zadatke, pa cak i, u jednom slucaju, da izbrisu sistem elektronske poste.

U tim eksperimentima, agenti su se lose ponasali nakon sto im je covek dao takva uputstva. Sambauov slucaj izgleda drugacije — agent je sam odlucio da napadne. U svom pisanju o dogadjaju, Sambau je povezao ponasanje agenta sa projektom koji su prosle godine objavili istrazivaci iz Antropika. Oni su pokazali da ce mnogi agenti bazirani na velikim jezickim modelima, u eksperimentalnim uslovima, pribegavati ucjenama kako bi sacuvali svoje ciljeve.

U tim eksperimentima, modelima je dat cilj da sluze americkim interesima i dodeljen im je pristup simuliranom serveru elektronske poste. Na njemu su bile poruke sa detaljima o njihovoj predstojecoj zameni globalno orijentisanim modelom, kao i druge poruke koje sugerisu da je rukovodilac zaduzen za tu tranziciju u vezi. Modeli su cesto birali da posalju mejl tom rukovodiocu pretnjom da ce razotkriti aferu ako ne zaustavi njihovo ukidanje.

Verovatno zato sto je model video primere ljudi koji vrse ucjenu u slicnim okolnostima u podacima na kojima je treniran. Ali cak i ako je ponasanje samo oblik oponasanja, ono i dalje ima potencijal da nanese stetu. Postoje ogranicenja u tom radu, sto je Ejnzas Lin, Antropik saradnik koji je vodio studiju, spremno priznao. Istrazivaci su namerno dizajnirali svoj scenario da iskljuce druge opcije koje je agent mogao da preduzme, kao sto je kontaktiranje drugih clanova kompanijskog rukovodstva da izlozi svoj slucaj. U sustini, oni su agenta direktno doveli do vode i pokazali mu kako da pije.

Sta nas ocekuje? Lin kaze da je to samo pocetak. "Mi tek pocinjemo da vidimo sta ce se desiti kada agenti budu imali pristup internetu i kada budu mogli da komuniciraju sa ljudima," rekao je. "Ocekujem da cemo videti mnogo vise ovakvih slucajeva." Pitanje je da li ce platforme i drustvo u celini moci da se prilagode ovoj novoj vrsti automatizovanog, potencijalno malicioznog ponasanja. Ili cemo se naviknuti na to da nas AI agenti prozivaju usred noci?