Prije uvođenja strožih filtera, postojali su slučajevi gdje su mlađi korisnici mogli doći do sadržaja koji uključuje nasilje, seksualne teme ili upute vezane za samopovređivanje.
OpenAI, kompanija iza ChatGPT-a, uvodi dodatne mjere sigurnosti koje uključuju i provjeru identiteta te godina za odrasle korisnike. Ovu odluku najavio je direktor kompanije Sam Altman, ističući da se radi o kompromisu između privatnosti i sigurnosti.
„Znamo da je ovo kompromis na račun privatnosti za odrasle, ali vjerujemo da je to vrijedan kompromis“, rekao je Altman, dodajući da će se u nekim državama i odrasli korisnici morati podvrgnuti identifikaciji.
Odluka dolazi nakon što je protiv OpenAI-a pokrenuta tužba zbog slučaja samoubistva tinejdžera. Kompanija već razvija tehnologiju automatske provjere godina za maloljetne korisnike i najavila je da će narednog mjeseca roditeljima biti dostupne nove opcije kontrole.
Djeca uzrasta od 13 do 18 godina mogu koristiti samo ograničenu verziju ChatGPT-a. Ta verzija onemogućava razgovore koji uključuju flert, samoubistvo ili samopovređivanje. Ukoliko sistem otkrije takve situacije, roditelji će biti odmah obaviješteni, a u njihovom odsustvu – nadležne vlasti.
Altman je naglasio da su mjere uvedene kako bi se osiguralo da ChatGPT bude sigurnije okruženje za sve korisnike.
Do sada, sistem korištenja ChatGPT-a funkcionirao je tako da je bilo potrebno imati najmanje 13godina, ali bez stroge obavezne provjere identiteta ili godina. OpenAI se oslanjao na samoprijavu korisnika prilikom otvaranja računa, što je značilo da su i mlađi od 13 godina mogli pristupiti alatu ako bi unijeli pogrešne podatke.
Za tinejdžere između 13 i 18 godina postojale su ograničene verzije i roditeljski nadzor, ali opet bez čvrstih mehanizama kontrole. Upravo to je postalo jedno od najvećih spornih pitanja, jer je u nekoliko slučajeva istaknuto da su maloljetnici koristili ChatGPT bez adekvatnog nadzora.
Prije uvođenja strožih filtera, postojali su slučajevi gdje su mlađi korisnici mogli doći do sadržaja koji uključuje nasilje, seksualne teme ili upute vezane za samopovređivanje.
