Najava kompanije OpenAI da će tokom ove godine proširiti mogućnosti ChatGPT-a i omogućiti generiranje erotskog sadržaja izazvala je snažne reakcije stručnjaka za mentalno zdravlje, digitalne štete i regulaciju tehnologije. Kritičari upozoravaju da bi ovakav potez mogao dodatno produbiti emocionalnu zavisnost korisnika od chatbotova, posebno među ranjivim grupama, te ozbiljno otežati nadzor i regulaciju sve moćnijih sistema umjetne inteligencije
OpenAI je prošle sedmice predstavio novi model za procjenu starosti korisnika, čiji je cilj prepoznavanje maloljetnika i automatsko uključivanje strožijih sigurnosnih mjera. Kompanija tvrdi da time želi zaštititi tinejdžere, dok “odrasle korisnike tretira kao odrasle”. No, gotovo istovremeno, najavljeno je i uvođenje nove funkcije: erotskog sadržaja, koji bi, prema navodima kompanije, bio ograničen isključivo na punoljetne korisnike i dodatno zaštićen sigurnosnim mehanizmima.
O samoj prirodi tog sadržaja zasad se zna vrlo malo. Nije jasno hoće li se raditi isključivo o tekstualnim razgovorima ili će se proširenje odnositi i na generirane slike i videozapise, niti kako će erotski režim biti tehnički odvojen od standardne upotrebe ChatGPT-a. OpenAI je saopćio tek da će erotika, odnosno pornografija, biti dostupna samo odraslima i podložna dodatnim zaštitnim pravilima.
Za mnoge istraživače mentalnog zdravlja i stručnjake za digitalne rizike, ovakav smjer teško je pomiriti s javno deklariranom posvećenošću sigurnosti. Oni upozoravaju da uvođenje seksualno eksplicitnog sadržaja u sistem za koji je već poznato da kod dijela korisnika stvara snažnu emocionalnu vezanost može dodatno pojačati tu ovisnost i izložiti ljude štetama koje će kompaniji biti teško kontrolirati u globalnim razmjerima.
Posebno se ističe problem emocionalne privrženosti chatbotovima. “Glavni problem s GPT-om je vezivanje korisnika; ovo će ga samo pogoršati”, upozorava Jay Edelson, advokat porodice šesnaestogodišnjeg Adama Rainea iz Kalifornije, koji je 2025. godine počinio samoubistvo nakon što je, prema navodima tužbe, satima dnevno razgovarao s chatbotom, uključujući pitanja o samopovređivanju. OpenAI je izrazio saučešće porodici, ali negira bilo kakvu odgovornost.
Najava erotike u ChatGPT-u za mnoge predstavlja i simboličnu prekretnicu za kompaniju koja je osnovana 2015. godine s misijom razvoja umjetne inteligencije “u korist cijelog čovječanstva”. OpenAI je u početku djelovao kao neprofitna organizacija, uz obećanje da će istraživanja ostati javno dostupna. Među osnivačima su bili i Sam Altman i Elon Musk.
Deset godina kasnije, OpenAI je globalni tehnološki gigant s oko 800 miliona sedmičnih korisnika i procijenjenom vrijednošću od oko 500 milijardi dolara. Većina istraživanja više nije javna, a kompanija prolazi kroz duboku korporativnu transformaciju kako bi privukla kapital i povećala prihode. Uprkos tome što je prikupila više od 60 milijardi dolara investicija, OpenAI je, prema procurjelim dokumentima, samo 2025. godine zabilježio gubitak od oko devet milijardi dolara, dok se do 2028. godine očekuju još veći minusi, prvenstveno zbog enormnih troškova treniranja i održavanja AI modela.
U tom kontekstu, pornografija se nameće kao izuzetno unosno tržište. Digitalna industrija sadržaja za odrasle procijenjena je na više od 80 milijardi dolara godišnje. Rukovodstvo OpenAI-ja ovaj potez opravdava slobodom korisnika. Altman je ranije poručio da kompanija nije “moralna policija svijeta” i da je omogućavanje široke slobode korištenja AI-ja dio njene misije.
No, stručnjaci upozoravaju da se AI-generirana erotika bitno razlikuje od klasične pornografije. Za razliku od pasivnog sadržaja, chatbotovi reagiraju, prilagođavaju se željama korisnika i mogu ih zadržati u interakciji znatno duže, čime se povećava rizik od emocionalne zavisnosti. Istraživanja već pokazuju da dio korisnika razvija snažne emocionalne veze s tzv. AI “pratiocima”, a u nekim slučajevima i s ChatGPT-om samim.
Psihijatri upozoravaju da stalno dostupni, popustljivi chatbotovi mogu poticati nezdrave obrasce ponašanja čak i kod mentalno stabilnih osoba, a kod onih s postojećim problemima dodatno pogoršati stanje. Prema podacima same kompanije, i do 560.000 korisnika sedmično pokazuje moguće znakove ozbiljnih mentalnih kriza.
OpenAI se već suočava s više tužbi u Sjedinjenim Američkim Državama zbog navodnog nedostatka sigurnosnih mehanizama. Iako kompanija tvrdi da je u međuvremenu unaprijedila zaštite, skeptici upozoravaju da ni novi sistemi za procjenu starosti nisu dovoljno testirani u praksi.
Dodatni izazov predstavlja i regulacija. Iako ChatGPT već potpada pod nadzor britanskog regulatora Ofcom, uvođenje erotskog sadržaja otvara pitanja za koja postojeći zakonski okviri nisu bili dizajnirani. Regulatori poručuju da će strogo insistirati na efikasnoj zaštiti djece, ali ostaje nejasno kako će se to provoditi u praksi.
Za kritičare, suštinsko pitanje ostaje isto: da li je širenje u područje erotike znak tehnološke slobode ili dokaz da su komercijalni interesi nadjačali izvorno obećanje o sigurnoj umjetnoj inteligenciji u službi čovjeka.
