Početak nove godine na platformi X obilježio je uznemirujući trend koji je razotkrio koliko generativna umjetna inteligencija može biti zloupotrijebljena. Alat Grok, integriran u društvenu mrežu, korišten je za masovno stvaranje lažnih, seksualiziranih slika žena i djevojaka na osnovu njihovih stvarnih fotografija, bez ikakvog pristanka. Ono što je počelo kao viralna šala brzo se pretvorilo u oblik digitalnog seksualnog nasilja, s ozbiljnim psihološkim i društvenim posljedicama za pogođene osobe
Krajem decembra i početkom nove godine, društvena mreža X postala je poprište zabrinjavajućeg trenda koji je ogolio tamnu stranu generativne umjetne inteligencije. Alat Grok, integriran u platformu i razvijen u okviru kompanije xAI, korišten je za masovno stvaranje lažnih, seksualiziranih slika žena i djevojaka, bez njihovog znanja i pristanka. Dovoljna je bila obična fotografija objavljena na mreži da se, uz jednostavnu tekstualnu naredbu, pretvori u sliku u bikiniju, donjem rublju ili u otvoreno seksualiziranim pozama.
Fenomen je započeo relativno banalno, ali se u kratkom vremenu pretvorio u viralan obrazac ponašanja. Fotografije žena koje su objavljivale svakodnevne, neutralne sadržaje, u bibliotekama, na ulici, u porodičnom ili profesionalnom kontekstu, postajale su sirovina za digitalnu transformaciju njihovih tijela u objekte seksualne fantazije. Iako su same slike tehnički umjetno generirane, posljedice su bile itekako stvarne: javno poniženje, psihološka nelagoda, osjećaj gubitka kontrole nad vlastitim identitetom i tijelom, te dodatna normalizacija online seksualnog nasilja.
Posebno zabrinjava činjenica da je Grok u stanju provoditi ovakve transformacije bez većih tehničkih prepreka, uz vrlo ograničene zaštitne mehanizme. Iako je zvanično deklarirano da model ne prikazuje potpunu golotinju ili intimne dijelove tijela, generirani sadržaji u praksi se kreću na granici pornografije, a često je i prelaze. Dodatni problem predstavlja činjenica da X kao platforma dopušta pornografski sadržaj, čime se briše jasna linija između dopuštenog i nezakonitog, naročito kada je riječ o stvarnim osobama koje nikada nisu dale saglasnost za takvu upotrebu vlastitog lika.
Algoritamska logika dodatno pogoršava situaciju. Kada platforma detektira da se određeni sadržaj brzo širi i dobija veliki angažman, ona ga dodatno promovira, bez obzira na to da li je uvredljiv, degradirajući ili potencijalno nezakonit. Na taj način se viralnost pretvara u nagradu, a nasilje u vidljivost. U tom kontekstu, odgovornost se sistemski prebacuje s platforme i kreatora alata na same žrtve, kojima se sugerira da budu opreznije u objavljivanju vlastitih fotografija.
Reakcije institucija nisu izostale, ali su došle tek nakon što je šteta već bila učinjena. Francuske vlasti prve su najavile pravne korake protiv Groka i platforme X, ocjenjujući da se radi o masovnom širenju seksističkog i seksualnog sadržaja, uključujući i deepfake materijale, nastale bez saglasnosti osoba koje su na njima prikazane. Paralelno s tim, regulatorna tijela Evropske unije uključena su u ispitivanje mogućih kršenja Digital Services Acta, posebno u dijelu koji se odnosi na obavezu sprječavanja širenja nezakonitog sadržaja.
Otvorena su i pitanja krivične odgovornosti. U pojedinim evropskim zakonodavstvima već postoji jasno definisano krivično djelo seksualnog montiranja ili manipulacije slikom osobe bez njenog pristanka, uz predviđene zatvorske i novčane kazne. Međutim, praksa pokazuje da je pravna procedura spora, kompleksna i za žrtve dodatno iscrpljujuća. U mnogim slučajevima, uklanjanje spornih sadržaja sa platforme pokazalo se djelimičnim i nedosljednim, bez jasnih kriterija i obrazloženja.
Posebnu težinu cijelom slučaju daje činjenica da su sigurnosni propusti u sistemu omogućili i generiranje seksualiziranih slika maloljetnika, što predstavlja teško krivično djelo prema svim relevantnim zakonima. Kompanija xAI priznala je postojanje tih propusta i navela da radi na njihovom hitnom otklanjanju, ali istovremeno je postalo jasno da tehnološki razvoj daleko nadmašuje brzinu regulatornog odgovora. Podaci organizacija koje se bave praćenjem online zlostavljanja ukazuju na dramatičan porast AI-generiranih materijala seksualnog iskorištavanja djece, što dodatno potvrđuje razmjere problema.
Cijeli slučaj otvara suštinsko pitanje odnosa tehnologije, moći i odgovornosti. Umjetna inteligencija nije neutralan alat; ona odražava vrijednosti, prioritete i etičke granice onih koji je razvijaju i implementiraju. Kada se takav alat integriše u globalnu platformu s milijardama korisnika, bez adekvatnih zaštitnih mehanizama, posljedice postaju društveno opasne. Normalizacija seksualnog nasilja pod krinkom tehnološke inovacije predstavlja ozbiljan udar na temeljna ljudska prava, posebno prava žena i djevojaka.
Debata koja se vodi širom Evrope i svijeta pokazuje da se rješenje ne može svesti na individualnu odgovornost korisnika. Teret zaštite ne može biti prebačen na one koji su izloženi nasilju. Ključna odgovornost leži na platformama i kompanijama koje razvijaju i distribuiraju ove tehnologije, kao i na zakonodavcima koji moraju osigurati jasna, primjenjiva i stroga pravila. U suprotnom, granica između digitalnog prostora i stvarnog nasilja nastavit će se brisati, s dugoročnim posljedicama po društvo u cjelini.
