Eksplozija deepfake sadržaja: Tehnologija koja najviše pogađa žene

Jedna od najbrže rastućih „industrija“ modernog doba narasla je za preko 500 posto u posljednje četiri godine. Riječ je o „deepfake“ uradcima čiji eksponencijalni rast postaje prijetnja demokratskim procesima, a, kako pokazuju istraživanja, najveće žrtve ove tehnologije zapravo su – žene. 

Ministarstvo domovinske sigurnosti SAD-a u izvještaju „Prijetnje deepfakea” („Increasing threats of deepfake identities“ - dostupno ovdje), ovaj fenomen definira kao „sintetički medij koji koristi strojno učenje kako bi stvorio uvjerljive slike, zvukove, tekstualne i video zapise događaja koji se nikada nisu dogodili”. 

Tehnološka tvrtka za digitalnu sigurnost, Security Hero, u opsežnom istraživanju o prisutnosti deepfake tehnologije na internetu (dostupno ovdje), navodi kako je 2023. godine kolalo oko 95.820 deepfake video uradaka. Strelovit uspon od 550 posto u odnosu na 2019. godinu, prije svega je rezultat napretka i dostupnosti tehnologije. Naime, trećina alata za manipulaciju videom omogućava korisnicima da sami naprave deepfake video. Za kreiranje je potrebna tek jedna fotografija žrtve i 25 minuta vremena. Sam postupak posve je besplatan što je dovelo do toga da se čak 98 posto deepfake videa dostupnih na internetu odnosi na pornografski sadržaj. Ukoliko se pak usredotočimo na spol, otkrivamo kako su žrtve u čak 99 posto deepfake pornografije - žene. Taj je postotak u „običnim“ deepfake uradcima 77 posto.

„U digitalnom dobu, ovaj trend ima veliki utjecaj na privatnost. S mogućnošću kopiranja i manipulacije slikom bez dozvole (osobe na slici), deepfake postaje prijetnja osobnom integritetu”, napominju stručnjaci tehnološke tvrtke čiji izvještaj su ozbiljno shvatili i u američkom Kongresu koji je, temeljem ovih podataka, krajem prošle godine zatražio od društvenih mreža akcijski plan za suzbijanje poplave ovakvog sadržaja.

„Kako deepfake video postaje sve sofisticiraniji, omogućio je zlostavljačima da stvaraju i šire realističan pornografski sadržaj bez pristanka uzrokujući emocionalnu i psihičku štetu”, stoji, između ostaloga, u pismu (dostupno ovdje) kojeg su supotpisali američki kongresnici s oba ideološka spektra.

Mjesec dana ranije, u listopadu 2024. godine, južnokorejski sud osudio je 40-godišnjeg diplomanta Nacionalnog sveučilišta u Seoulu na deset godina zatvora zbog deepfake seksualnog zločina. Sudski postupak utvrdio je, naime, kako je kreirao i distribuirao 1852 deepfake fotografije i video uratka studentica i drugih žena. Osuđeni je bio vođa grupe koja je tijekom četiri godine kreirala više od 200 kanala na Telegramu odakle je materijal distribuiran. U presudi je sud primijetio i kako su ovim nedjelom „počinitelji u anonimnosti, i na perverzan način, izrazili kompleks inferiornosti i mržnju prema uspješnim ženama”. 

Premda je deepfake prisutan u gotovo svim zemljama, posebno su osjetljiva visoko digitalizirana društva poput Južne Koreje na koju otpada čak 53 posto deepfake pornografije. Slijede Sjedinjene Države s 20 posto i Japan s deset posto.

Institut za ženska prava Južne Koreje napominje kako „digitalni seksualni zločini imaju velike posljedice na temeljna ljudska prava žena. Žrtve ne doživljavaju samo psihološke probleme, već i fizičku štetu s pripadajućim simptomima“.

U pozadini eksplozije digitalnih seksualnih zločina u Južnoj Koreji, Hansu Park, istraživač s korejskog Instituta Istočne Azije, između ostaloga, navodi i strukturne društvene probleme koji dovode do anksioznosti u mlađoj muškoj populaciji, posebice u posljednjim generacijama. Ostaci patrijarhalne kulture još uvijek postavljaju financijsku odgovornost uglavnom na leđa muškaraca. 

„Mladići osjećaju povećanu kompeticiju koja se dodatno produbljuje krizom nezaposlenosti kao i manjkom stambenog prostora (...) Anksioznost i nezadovoljstvo proizlaze iz diskrepancije između ekonomske realnosti i društvene percepcije zbog čega rastu protu-ženski osjećaji i seksualni zločini kao manifestacija ove mržnje”, analizira Park.

Istraživač s Instituta Istočne Azije naglašava kako deepfake ima društvene posljedice koje se odražavaju na žene. 

„Digitalni seksualni zločini mogu uzrokovati i bitnu društvenu štetu jer odvraćaju žene od društvenih i poslovnih aktivnosti. Novinarke koje pišu o deepfake seksualnim zločinima nerijetko se cilja u sobama za razgovor na Telegramu što predstavlja prijetnju njihovim osobnim pravima kao i slobodnom novinarstvu”, objašnjava. 

Park navodi i kako ankete upućuju na to da je tamošnja javnost svjesna prijetnje kao i nelegalnosti deepfake pornografije, ali se oslanja na anonimnost interneta i rupe u zakonima kako bi izbjegli kazne.

Rezultati ankete o utjecaju, svijesti i stavovima o deepfake tehnologiji koju je Security Hero proveo među građanima SAD-a ukazuju na koji način i zbog čega konzumacija deepfake sadržaja mijenja konvencionalnu pornografiju. Prema ovoj anketi gotovo tri četvrtine ispitanika ne osjeća krivnju gledajući deepfake pornografiju. Kao razloge više od trećine navodi kako „znaju da nije riječ o pravoj osobi“ dok nešto manje od trećine smatra da „nema nikakve štete dok god to rade iz osobnih interesa“. Čak petina ispitanika razmišljala je o tome da i sama kreira deepfake pornografiju, a tri četvrtine prijavile bi deepfake pornografiju kada bi se u njoj našao netko njima poznat.

Iako se deepfake tehnologija koristi u širenju dezinformacija, u marketingu kao i u političke svrhe, „pornografija bez pristanka zapravo je najveći katalizator širenja deepfake sadržaja i predstavlja većinu AI kreiranog sintetičkog sadržaja”, ističe Ministarstvo državne sigurnosti SAD-a. 

Usprkos naporima pojedinih država kao što su Južna Koreja, SAD ili EU koje su usvojile različite zakonske prakse za suzbijanje ovakvog sadržaja, deepfake i dalje cvjeta zahvaljujući anonimnim zajednicama i internet uslugama. Iako se deepfake sadržaj u medijima najčešće spominje kao prijetnja demokraciji, istraživanja pokazuju kako je, za sada, prvenstveno, riječ o prijetnji ženama.