Platforme poput WhatsAppa, Messengera ili iMessagea same bi odlučivale da li žele koristiti automatizirane sisteme za otkrivanje materijala seksualnog zlostavljanja djece. Time je, barem formalno, uklonjen najveći kamen spoticanja — bojazan da bi EU uvodila nadzor nad enkriptiranom komunikacijom stotina miliona ljudi.

Seksualno zlostavljanje djece putem interneta već godinama se smatra jednim od najbrže rastućih oblika kriminala u Evropi. S porastom dostupnosti pametnih telefona, anonimnih platformi, enkriptiranih komunikacijskih servisa i mogućnosti vještačkog identiteta, predatori su dobili neusporedivo lakši pristup maloljetnicima nego ikad ranije. Evropska unija posljednjih godina pokušava odgovoriti na ovaj fenomen ambicioznim zakonskim okvirima, ali ti napori sve češće otvaraju teška pitanja o granici između zaštite djece i narušavanja privatnosti građana.

Upravo zbog toga, na evropske političke pozornice ponovno se vraća prijedlog tzv. CSA regulative (Child Sexual Abuse), koji već mjesecima izaziva oštre podjele između vlada država članica, tehnološkog sektora i zagovornika digitalnih prava. Taj pravni paket mnogi nazivaju i – “chat kontrola”.

Nakon što je prethodna verzija regulative praktično bila povučena krajem prošlog mjeseca — prije svega zbog snažnog protivljenja Njemačke, koja je ocijenila da zadire preduboko u privatne komunikacije građana — Danska, kao država predsjedavajuća Vijećem EU, iznijela je novu, kompromisnu verziju dokumenta.

Prema informacijama koje prenose evropski mediji i koje je potvrdio i danski ministar pravde Peter Hummelgaard, ključna razlika leži u tome da skeniranje privatnih poruka, fotografija i videa ne bi bilo obavezno, nego dobrovoljno.

Drugim riječima, platforme poput WhatsAppa, Messengera ili iMessagea same bi odlučivale da li žele koristiti automatizirane sisteme za otkrivanje materijala seksualnog zlostavljanja djece. Time je, barem formalno, uklonjen najveći kamen spoticanja — bojazan da bi EU uvodila nadzor nad enkriptiranom komunikacijom stotina miliona ljudi.

Međutim, brojni pravni eksperti naglašavaju da se i dalje ostavlja prostor da države članice, kroz mehanizam “očekivane razumne mjere”, mogu od kompanija zahtijevati uvođenje skeniranja ako procijene da platforme “nisu učinile dovoljno” da spriječe širenje zlostavljanja.

Drugim riječima, “dobrovoljnost” se može pretvoriti u indirektnu obavezu.

Za razliku od prethodnih prijedloga, koji su se fokusirali isključivo na fotografije, video-snimke i linkove, najnovija verzija regulative uvodi i mogućnost skeniranja tekstualnih poruka uz pomoć umjetne inteligencije.

Ovo je zahtjev koji su neke organizacije za zaštitu djece ranije zagovarale, tvrdeći da većina online predatorstva započinje kao “grooming” – proces u kojem predator kroz chat polako gradi povjerenje djeteta. No, upravo je ta odredba otvorila novu lavinu kritika.

Patrick Breyer, bivši zastupnik Zelenih u Evropskom parlamentu i jedan od najglasnijih protivnika CSA regulative, upozorava da niti jedan postojeći AI model ne može pouzdano razlikovati: flert i grooming, sarkazam i prijetnju, privatne intimne poruke i kriminalno ponašanje.

“Zamislite da vaš telefon analizira svaku poruku koju pošaljete partneru, djetetu, terapeutu — i da je proslijedi vlastima samo zato što se negdje pojavila riječ ‘ljubav’ ili ‘sastanak’. To nije zaštita djece, to je digitalni lov na vještice”, navodi Breyer.

Njegov stav dijele i mnogi stručnjaci za digitalna prava, koji upozoravaju da bi automatizirano čitanje poruka otvorilo vrata masovnom nadzoru bez sudskog naloga, povećalo rizik od pogrešne identifikacije i značajno narušilo povjerenje građana u digitalne servise.

Zagovornici regulative tvrde da kompanije već sada posjeduju tehnologiju i mehanizme za borbu protiv seksualnog zlostavljanja djece, ali da ih ne koriste dovoljno. Ipak, kada je danski ministar pravde Hummelgaard ranije upitan ima li ikakve podatke o tome koliko je slučajeva u Danskoj otkriveno na osnovu trenutnih skenova — nije imao odgovor. Isto su odgovorili državno tužilaštvo i policija.

To otvara pitanje na čemu se temelji politički pritisak na kompanije ako ne postoje transparentni podaci o rezultatima postojećih sistema?

Velike tehnološke platforme upozoravaju da bi masovno skeniranje dovelo do slabljenja enkripcije i otvaranja sigurnosnih rupa koje bi mogle iskoristiti hakeri, kriminalci i strani akteri. Time bi se ugrozila sigurnost svih – uključujući i djece.

Seksualno zlostavljanje djece na internetu jeste alarmantna i duboko traumatizirajuća pojava. Samo u EU, broj slučajeva prijavljenih Europolu raste iz godine u godinu, a stručnjaci upozoravaju da je to tek vrh ledenog brijega.

No, kako EU traži pravni okvir za borbu protiv tog fenomena, suočava se s jednom od najtežih dilema savremenog društva – kako zaštititi djecu bez narušavanja temeljnih prava na privatnost, enkripciju i slobodu komunikacije?

Danski kompromis pokušava odgovoriti na taj izazov, ali i dalje ostavlja mnoga otvorena pitanja — od tehnološke izvodljivosti, preko efikasnosti, pa sve do mogućih zloupotreba.

Dok se rasprava nastavlja u Vijeću i Evropskom parlamentu, jedna je stvar jasna – digitalno zlostavljanje djece neće nestati bez zajedničkog djelovanja — ali ni evropska demokratija ne smije dozvoliti da borba protiv kriminala postane izgovor za digitalni nadzor nad milionima nedužnih građana.