Deepfake pornografija: Digitalna pretnja i potreba za snažnijom medijskom pismenošću

U vremenu kada nas svakodnevno preplavljuju informacije raznorodnog porekla – od vesti i memova do video-sadržaja na društvenim mrežama – sposobnost kritičkog prosuđivanja predstavlja odbrambeni mehanizam svakog pojedinca. Istovremeno, Evropska unija je prepoznala specifične opasnosti koje nameće neovlašćeno kreiranje i širenje sintetičkih seksualnih materijala. Digital Services Act (DSA) izričito zahteva od onlajn platformi da uklone ili onemoguće pristup nelegalnom sadržaju, uključujući pornografske snimke nastale bez pristanka žrtve, dok predloženi EU AI Act klasifikuje generisanje dubokih lažnjaka („deepfakes“) u visoku rizčnu kategoriju, te propisuje stroge zahteve za transparentnost i procenu uticaja na ljudska prava. Dodatno, Kodeks ponašanja o dezinformacijama podstiče digitalne platforme na samoregulaciju u otkrivanju i uklanjanju lažnih i sintetičkih medija. Uprkos ovim okvirima, praksa pokazuje da tehnologija često pretekne regulativu, pa se pojedinci i dalje suočavaju sa posledicama osvetničkog pornografskog sadržaja.

Deepfake pornografija oslanja se na algoritme dubokog učenja, prvenstveno na generativne neuronske mreže (GAN), koje “uče” iz stotina ili hiljada fotografija i video-snimaka ciljanih osoba. Nakon što model savlada karakteristike lica i mimiku, on automatski “lepi” to lice na snimke originalnih porno-glumaca ili –glumica, tako da konačni rezultat deluje izuzetno ubedljivo. Prema Aleksandru Đokiću, autoru izveštaja “Deep Fake Porn – duboko učenje i strah od lekcija”, ovaj proces može da traje svega nekoliko sati, a potezi koji prethode objavi takvog sadržaja obično se odvijaju na specijalizovanim forumima i podsajtovima koje mesečno posećuje i po nekoliko desetina miliona ljudi .

Motivacija i ciljevi napadača

Iako se u početku govorilo o tzv. “osvetničkom pornu” — video-snimcima napravljanim s namerom da bivšim partnerima nanesu bol ili osramote ih — praksu danas često pokreću komercijalni interesi, političke zloupotrebe i čist senzacionalizam. Stefan Janjić, profesor na Odeljenju za medijske studije, ističe da se u recentnim slučajevima deepfake napada vide pokušaji diskreditacije javnih ličnosti i novinara, gde se pokušava narušiti poverenje javnosti u rad i integritet žrtve . Ove manipulacije se prikrivaju behind-the-scenes foruma, gde algoritamskom preciznošću “hvataju” lica poznatih ličnosti i predstavljaju ih u kompromitujućem svetlu.

Victimizacija kroz deepfake pornografiju nije samo degradacija ličnosti; ona se često povezuje sa jakim stresom, osećajem gubitka kontrole i, kod nekih žrtava, simptoma sličnih posttraumatskom stresnom poremećaju. Đokićevo istraživanje navodi da su žene u javnom životu — političarke, influenserke, novinarke — posebno izložene, jer se njihova telesnost koristi kao oruđe zastrašivanja i ućutkavanja. Čak i nakon uklanjanja lažnih video-snimaka, društvene mreže zadržavaju tragove (“cache”) sadržaja, pa žrtve dugo “plivaju” u večitoj senci nečeg što nikada nisu uradile .

Pravni okvir i izazovi regulacije

U Srbiji, ali i u većini evropskih zemalja, zakonska regulativa ne prati korak sa tehnološkim inovacijama. Iako Krivični zakonik predviđa zaštitu od neovlašćenog objavljivanja intimnih snimaka (kao oblik digitalnog nasilja), dokazi o AI-manipulacijama teže se prikupljaju, a sudski procesi mogu trajati godinama. Potrebne su jasnije smernice za identifikaciju i verifikaciju autentičnosti sadržaja, ali i međunarodni mehanizmi saradnje da bi se presekle mreže koje proizvode i šire deepfake pornografiju.

Borba protiv deepfake pornografije mora biti dvojakog pristupa:

Tehnološki alati – razvijanje algoritama za detekciju sintetičkog sadržaja na osnovu neujednačenog osvetljenja, neusklađenog kretanja očiju ili neadekvatnog audio-sinhronizovanja. Nekoliko start-up kompanija već testira modele koji mogu signalizirati “neprirodne” delove video-snimka.

Obrazovne inicijative – uvođenje obaveznih modula o medijskoj pismenosti u srednjim školama, gde bi se učenici upoznavali sa osnovama funkcionalnosti AI-alata, specifičnostima deepfake sadržaja i tehnikama procene verodostojnosti informacija. Sam Stefan Janjić naglašava da je “edukacija jedini dugoročni odgovor na tehnološku prevaru” .

Deepfake pornografija je manifestacija mračnih strana digitalne revolucije: dok s jedne strane otvara mogućnosti za kreativne primene veštačke inteligencije, s druge stvara nove oblike nasilja i ugrožavanja ljudskog dostojanstva. Otuđenje od istine, koje se manifestuje kroz lazne video-snimke, direktno potkopava temelje poverenja u medije i društvene mreže. Da bismo odgovorili na ovaj izazov, potrebno je istovremeno ojačati tehničku detekciju i proširiti opštu medijsku pismenost. Samo tako se može stvoriti otpornost prema manipulaciji i zaštititi prava i slobode pojedinaca u digitalnom dobu.

Izvori: Stefan Janjić, Novosadska novinarska škola  https://novinarska-skola.org.rs/ai-u-sluzbi-osvete-i-diskreditacije-ljudi/

Aleksandar Đokic Fake news Tragač https://fakenews.rs/wp-content/uploads/Dipfejk-porn-duboko-ucenje-i-strah-od-lekcija-2023.pdf