Apple i Google dobili nalog da uklone aplikacije za AI "razgolićivanje"
San Francisko optužio tehnološke gigante da zaradjuju milione od aplikacija koje generišu nepristojne deepfake snimke, tražeći hitno uklanjanje 13 programa.
Tehnološki giganti Apple i Google moraju hitno ukloniti aplikacije koje korisnicima omogućavaju da generišu nepristojne AI snimke ljudi bez njihove saglasnosti. Gradski tužilac San Franciska David Chiu poslao je službena upozorenja obema kompanijama, navodeći da njihove platforme olakšavaju seksualno zlostavljanje.
"Ove kompanije imaju odgovornost da osiguraju da aplikacije na njihovim platformama ne olakšavaju seksualno nasilje", rekao je Chiu za WIRED. Njegova kancelarija već je preduzela pravne mere protiv 16 popularnih deepfake sajtova, a sada ističe da su Apple i Google verovatno zaradili "milione dolara od provizija" na štetnim aplikacijama.
U pitanju je 13 aplikacija — osam u App Store-u i pet na Google Play-u — koje se reklamiraju kao alati za zamenu lica, ali u stvari nude mogućnost generisanja eksplicitnih deepfake snimaka. Jedna od njih ima preko milion preuzimanja, a na svom sajtu promoviše stilove poput "bikini queen curvy" i "cinematic intimacy".
Google je izjavio da je već uklonio "stotine" aplikacija koje krše pravila, uključujući pet koje je pomenuo Chiu. "Proaktivno preduzimamo korake da otkrijemo i uklonimo štetne aplikacije", rekao je portparol Dan Džekson. Apple nije komentarisao.
Problem nije nov. Samo u januaru i aprilu ove godine, nezavisna grupa Tech Transparency Project otkrila je oko 100 sličnih aplikacija na obe platforme. Procenjuje se da su te aplikacje imale skoro 480 miliona preuzimanja i zaradile 120 miliona dolara.
"Apple i Google u marketingu obećavaju sigurne i pouzdane prodavnice aplikacija, ali stvarnost je drugačija", kaže Kejt Pol, direktorka TTP-a. Istraživanja sa univerziteta Cornell i Georgetown pokazala su da 70% aplikacija za zamenu lica može generisati nepristojne snimke, iako se ne reklamiraju kao takve.
Šteta je ogromna. Deepfake snimci se koriste za maltretiranje, ponižavanje i pretnje, posebno ženama i devojkama. Postoje slučajevi gde su žrtve bile suicidalne. Gradski tužilac upozorava da će, ako Apple i Google ne reaguju, razmotriti sve pravne opcije.
Pitanje je hoće li ove kompanije konačno ojačati mehanizme za moderaciju, ili će se problem nastaviti ponavljati iza kulisa profitabilnih, ali destruktivnih tehnologija.
