Kako sam koristio AI da automatski poboljšam sopstvene modele
Eksperimentisanje sa samopoboljšavajućim AI modelima pokazuje kako bi tehnologija mogla da se razvija van monopolskih korporacija.
Da li je moguće koristiti AI da automatski trenira i stalno poboljšava manje modele, umesto da sve zavisi od velikih korporacija? Nakon nedelju dana eksperimentisanja, odgovor je iznenadujuće pozitivan. Ovaj pristup ne samo da može da olakša svakodnevne poslove, već otvara vrata za decentralizovaniji razvoj AI tehnologije.
Kao prvi korak, autor je eksperimentisao sa AutoResearch alatom, koji pomogne AI modelu kao što je Claude da izgradi i poboljša manji model. AutoResearch je kreiran od strane Andreja Karpathyja, poznatog AI istraživača koji je učestvovao u osnivanju OpenAI, vodio AI tim u Tesli, a nedavno se pridružio Anthropicu.
Koristeći Nvidia DGX – desktop "superkompjuter" dizajniran za AI eksperimente – i uz podršku Claudea, autor je omogućio modelu da radi bez uobičajenih provera kako bi se fokusirao na poboljšanje. Rezultati su bili zanimljivi: prve verzije manjeg modela nisu bile impresivne, ali kasnije verzije, autonomno poboljšane od strane Claudea, postale su koherentnije i manje sklone beskonačnom ponavljanju.
Sledeći korak bio je korišćenje startupa Prime Intellect, koji koristi AI za treniranje prilagođenih modela za specifične zadatke. Autor je sakupio oko 100 prethodnih tekstova iz svojeg newslettera i kreirao Prime Intellect trenirajuću okolinu. Claude je pomogao u izgradnji modela nazvanog Frontier_Paper_Curator, koji pronalazi i sumira zanimljive naučne radove.
Vincent Weisser, CEO Prime Intellecta, ističe da je cilj njegove kompanije da učini samopoboljšavajuće modele dostupnim svima, a ne samo velikim laboratorijama. "Dajte svakoj kompaniji pristup naprednoj trenirajućoj infrastrukturi, i kolektivna kreativnost tržišta će otključati daleko više nego što bilo koja grupa laboratorija može", kaže Weisser.
Prime Intellect nije jedini startup koji radi na ovakvom pristupu. Adaption, još jedna kompanija, nudi alat pod nazivom AutoScientist za automatsko treniranje AI modela. CEO Sara Hooker navodi da Adaption sarađuje sa nekoliko velikih kompanija koje nemaju interne AI stručnjake.
Nedavna odluka Anthropica da blokira određene zahteve za svoj najnoviji model Fable 5 ističe rizike previšnog oslanjanja na jedan model. Neki izvršni direktori, poput Alex Karp iz Palantira, upozoravaju da korišćenje velikih laboratorija takođe znači predaju sopstvenih podataka i kontrole nad tehnologijom.
Konačni cilj samopoboljšavajućih modela je da AI primeni nove ideje na model i dođe do sopstvenih uvida. Alati dostupni običnim korisnicima su još uvek ograničeni, ali impresivni. Nakon manje od jednog dana rada sa Prime Intellect, autor je uspeo da kreira model koji pronalazi i sumira naučne radove. Da, model je još uvek previše entuzijastičan i sumire previše generično, ali je to obećavajući početak.
Ovaj eksperiment pokazuje da decentralizovani razvoj AI tehnologije može biti jednako važan kao i napredak velikih laboratorija. Možda ćemo jednog dana moći da koristimo AI ne samo za automatizaciju poslova, već i za stvaranje novih rešenja koja će koristiti svima.
Ovo je izdanje Will Knightovog AI Lab newslettera. Prethodna izdanja možete pročitati ovde.
