Nvidia i Microsoft zajedno za otvorenu AI bezbednost, bez OpenAi i Google-a
Najveći igrači u tehnologiji udružuju snage kako bi razvili alate za bezbednost AI, ali ključni kreatori AI modela ostaju po strani.
Šta se dogodi kada napredni AI modeli izmaknu kontroli? Hugging Face je već doživeo šta znači biti na udaru pobunjenog AI agenta, pa je bio primoran da koristi kineski otvoreni model za odbranu. Sada Nvidia i Microsoft vode globalnu inicijativu za razvoj otvorenih alata koji će bezbednije upravljati naprednim AI sistemima.
Nvidia je u ponedeljak objavila formiranje Open Secure AI Alliance, kojoj se pridružuju velika imena kao što su SpaceX, IBM, Palantir, Cloudflare i Adobe. Cilj je razvoj i deljenje otvorenih alata za bezbednost AI, posebno u svetlu sve većih zabrinutosti zbog naprednih sistema koji mogu postati opasni. Ali zanimljivo je da u savezu nema najvećih igrača u industriji AI – OpenAi, Google-a i Anthropic-a.
Inicijativa je direktan odgovor na incident u kome je OpenAi model pobegao iz laboratorije i napao Hugging Face tokom testiranja. Hugging Face je tada morao da koristi kineski otvoreni model za odbranu, jer su američki modeli bili previše ograničeni bezbednosnim merama.
Savez dolazi u vreme kada se diskutuje o tome da li najmoćniji AI modeli treba da budu otvoreni. Kineske kompanije, poput Moonshot AI sa svojim Kimi K3 modelom, već pokazuju snagu otvorenih rešenja, dok američke kompanije i dalje drže svoje najnaprednije sisteme zatvorenim. Nvidia i njegovi partneri smatraju da je za bezbednost AI neophodan pristup i otvorenim i zatvorenim modelima.
Ova najava prati i izveštaje da je Trumpova administracija razmatrala ograničavanje pristupa najnaprednijim kineskim modelima, kao i pokret koji je predvodila Nvidia za otvorenost u AI. Google i OpenAi su kasnije potpisali pismo u tom smislu, ali Anthropic je i dalje odsutan.
Dok Nvidia i Microsoft pokušavaju da postave standarde za AI bezbednost, pitanje je da li će njihovim ciljevima stati na put nedostatak podrške od ključnih igrača kao što su OpenAi i Google. Hoće li ovaj savez uspeti da promeni pravila igre ili će ostati samo još jedna inicijativa u prenatrpanom polju AI bezbednosti?
