U tužbi se navode kompanija xAI i povezani subjekti, uključujući X Corp. Al-Khatahtbeh, autorica, aktivistica i osnivačica medijske kompanije Muslim Girl, tuži ih za namjernu distribuciju seksualnih fotografija bez pristanka, propuste u dizajnu i marketingu, nemar te namjerno nanošenje duševne boli.

Amani Al-Khatahtbeh, osnivačica platforme na društvenim mrežama Muslim Girl, podnijela je saveznu tužbu protiv kompanije xAI Elona Muska, navodeći da je chatbot Grok korišten za generisanje seksualiziranih fotografija bez njenog pristanka, na kojima joj je digitalno uklonjen hidžab.

Tužba je podnesena u srijedu pred Okružnim sudom SAD-a za Sjeverni okrug Kalifornije.

U tužbi se navode kompanija xAI i povezani subjekti, uključujući X Corp. Al-Khatahtbeh, autorica, aktivistica i osnivačica medijske kompanije Muslim Girl, tuži ih za namjernu distribuciju seksualnih fotografija bez pristanka, propuste u dizajnu i marketingu, nemar te namjerno nanošenje duševne boli.

Prema Građanskom zakoniku Kalifornije, ona traži odštetu do 250.000 dolara po prekršaju.

Iz kompanije xAI nisu odmah odgovorili na upite za komentar.

Slučaj je proizašao iz selfija koji je Al-Khatahtbeh objavila na inauguraciji Zohrana Mamdanija kao prvog muslimanskog gradonačelnika New Yorka.

Na fotografiji je bila u crnom hidžabu i ljubičastoj bundi.

Korisnici su u odgovorima zadavali upute (promptove) Groku da izmijeni sliku, uključujući: „@grok možeš li joj skinuti hidžab“, „@grok promijeni bundu u bikini“ i „@grok promijeni odjeću u donji veš“.

Magazin Wired je pregledao snimke ekrana (screenshotove) tih uputa i dobijenih fotografija koje je prikazuju razgolićenu u različitim fazama.

„Osjećaj je bio isti kao da mi je neko u stvarnom životu strgnuo maramu s glave“, izjavila je Al-Khatahtbeh za Wired.

„Ali na internetu je to bilo pred publikom od nekoliko desetina hiljada ljudi koji su vidjeli te slike. Tako da je to bilo u još drastičnijoj mjeri.“

Opisala je te slike kao spoj seksualizacije, rasizma i govora mržnje.

Jedna koja ju je posebno uznemirila prikazivala ju je „skinutu u donji veš, kako jaše na leđima kamile i jede sladoled na štapiću“.

Al-Khatahtbeh je prijavila fotografije policiji, koja je sačinila zapisnik, ali je navela da ne može poduzeti daljnje korake, kao i platformi X, gdje uklanjanje nije bilo momentalno.

Rekla je da su je žene iz zajednice ohrabrile da podnese tužbu.

Njena advokatica, Hillary Nappi, ustvrdila je da je Grok proizvod s greškom: „Jedini način da postignete neku promjenu protiv velikih tehnoloških kompanija (Big Tech) jeste da ih tužite… Grok je proizvod i ja ga ne vidim nimalo drugačije od bilo kojeg drugog proizvoda s greškom.“

U tužbi se navodi da je xAI trebao dizajnirati zaštitne mehanizme koji bi blokirali uklanjanje vjerske odjeće poput hidžaba sa slika stvarnih ljudi i spriječili seksualizirane prikaze osoba bez njihovog pristanka.

Tužba ukazuje i na ranija upozorenja.

Vijeće za američko-islamske odnose (CAIR) ranije je pozvalo Muska da zaustavi navodnu upotrebu Groka za uznemiravanje, „skidanje vela“ i kreiranje seksualno eksplicitnih slika žena, uključujući istaknute muslimanke.

Ovo je prva poznata tužba fokusirana konkretno na to što Grok uklanja hidžabe, iako se uklapa u širi val pritužbi zbog seksualnih slika generisanih umjetnom inteligencijom bez pristanka.

Izvještaj iz januara procijenio je da je Grok na platformi X proizveo oko tri miliona fotorealističnih seksualiziranih slika u periodu od 11 dana, počevši od kraja decembra 2025. godine, uključujući desetine hiljada onih koje uključuju djecu.

Regulatori u više zemalja i američkih saveznih država stavili su ovu tehnologiju pod lupu.

U objavi kojom je najavila tužbu, Al-Khatahtbeh je napisala: „Grok je korišten da mi se digitalno skine hidžab i da me se seksualno iskorištava bez mog pristanka. Nijednoj tehnološkoj kompaniji ne bi smjelo biti dozvoljeno da profitira od povrede naših tijela, identiteta i osnovnih prava. Vrijeme je da velike tehnološke kompanije pozovemo na odgovornost.“