Luma koristi AMD hardver za napredne AI video modele
Luma je uspešno migrirala svoje zahtevne video i multimodalne AI modele na AMD hardver, bez žrtvovanja kvaliteta. Kako su to postigli?
Transformisanje običnih snimaka u filmske scenarije sada je brže i efikasnije zahvaljujući AMD hardveru. Luma, kompanija koja razvija multimodalnu veštačku inteligenciju, objavila je da je uspešno prebacila svoje najzahtevnije AI modele na AMD Instinct MI325X GPU-ove, uz minimalne izmene koda.
Ključni izazov bio je održavanje istog kvaliteta generisanih video zapisa nakon migracije. Luma je potvrdila da ljudski evaluatori ne mogu da razlikuju video snimke generisane na AMD hardveru od onih nastalih na prethodnoj platformi. Ovo je posebno impresivno s obzirom na kompleksnost njihovog Ray3.2 modela koji može da transformiše običan snimak u potpuno novi vizuelni svet.
Zašto je video poseban izazov za AI infrastrukturu? Moderni video modeli nisu jednostavne mreže već složeni pipeline-ovi koji uključuju autoenkodere, ControlNet-ove, LoRA adaptacije i denoising komponente. Svaka od ovih komponenti ima različite zahteve za memoriju i procesorskom snagom. AMD MI325X GPU-ovi sa svojim velikim VRAM kapacitetom omogućili su da sve komponente ostanu u memoriji, izbegavajući sporo prebacivanje na CPU.
Migracija je iznenađujuće prošla glatko - oko 90% Lumina PyTorch koda je radilo odmah bez ikakvih modifikacija. Čak su i prilagođeni Triton kernel-i radili "out of the box" kroz AMD backend. Jedina veća intervencija bila je prilagodba attention operacija korišćenjem AMD-ove AITER biblioteke.
Za multimodalni model Uni-1, koji koristi KV keširanje, Luma je iskoristila AMD-ovu FlashInfer podršku. Iako je ovaj model zahtevao dodatna podešavanja, AMD-ov inženjerski tim je brzo reagovao i pomogao u postizanju ciljanih performansi.
Šta ovo znači za budućnost AI razvoja? Luma ističe da AMD-ov softverski ekosistem, uključujući podršku za HipKittens, FlyDSL i Triton, omogućuje brzu implementaciju novih algoritama. Ovo je ključno za kompanije koje, poput Lume, kontinuirano razvijaju nove modele ka cilju stvaranja opšte veštačke inteligencije.
Sa sadašnjim rezultatima, Luma planira da nastavi da koristi AMD hardver za svoje buduće modele i tehnike serviranja. Njihovo iskustvo pokazuje da alternativni hardverski pristupi mogu biti jednako efektivni kao i tradicionalni, što otvara nove mogućnosti u brzo razvijajućem svetu AI infrastrukture.
