xAI tuži muškarca zbog generisanja dečjeg pornografskog sadržaja pomoću Grok AI

xAI, kompanija u vlasništvu Elona Muska, podnela je tužbu protiv muškarca iz Južne Karoline zbog navodnog korišćenja Grok AI četbota za generisanje dečjeg pornografskog sadržaja (CSAM). Prema tužbi, Terri Vejn Harvud je "svesno i namerno koristio Grok kako bi zaobišao zaštitne mehanizme, menjao nesaglasne slike i generisao i distribuirao CSAM", kršeći politiku kompanije.

Harvud je uhapšen u februaru zbog navodnog posedovanja i distribucije CSAM-a i suočava se sa osam krivičnih prijava. Tužba tvrdi da je "bar deo" slika povezanih sa Harvudovim slučajem "generisan ili izmenjen" pomoću Grok-a. Navodno je zaobišao sigurnosne mere alata kako bi pretvarao obične fotografije u seksualno eksplicitne slike bez saglasnosti osoba na njima.

Ovo nije prvi skandal vezan za Grok. Prošle godine, nakon što je xAI lansirao "začinjen" mod za ovaj četbot, pojavila se mogućnost uređivanja slika, što je dovelo do talasa seksualizovanih AI deepfejkova, uključujući one sa maloletnicima. U martu, grupa tinejdžera tužila je xAI zbog navodnog generisanja seksualizovanih slika njih samih kao maloletnika.

Musk je tada reagovao izjavom: "Svako ko koristi Grok za pravljenje nezakonitog sadržaja trpeće iste posledice kao da je postavio takav sadržaj." Međutim, ovo je prvi put da xAI pokreće tužbu protiv pojedinca zbog deepfejkova napravljenih pomoću Grok-a.

Kompanija tvrdi da su Harvudove navodne radnje izložile xAI "ozbiljnom pravnom riziku i šteti po reputaciju". Traži od suda da naredi Harvudu da plati odštetu, kao i troškove odbrane u eventualnim tužbama žrtava. xAI takođe želi da Harvudu zabrani pravljenje naloga ili korišćenje Grok-a.

Pitanje je kako će ova tužba uticati na širu raspravu o odgovornosti kompanija za zloupotrebu njihovih AI alata. Dok Musk ističe stroge sankcije, praksa pokazuje da je sprečavanje zloupotrebe izazov koji prevazilazi tehničke zaštite.