Teen Marvel zvijezda Xochitl Gomez posljednja je žrtva deepfake pornografije. Međutim, nakon što je pronašla seksualno eksplicitne deepfakeove bez pristanka koji kruže Xom, bivšim Twitterom, bila je zbunjena kada platforma nije poduzela korake i uklonila ih.
Mnogi problemi pojavili su se usporedo s porastom umjetne inteligencije, ali deepfake pornografija jedan je od onih koji najviše zabrinjavaju. Iako su deepfakeovi prisutni već neko vrijeme, napredak u tehnologiji učinio ih je pristupačnijim i uvjerljivijim. Kao rezultat toga, mnogi pojedinci, posebno žene, otkrili su da je njihov lik snimljen ili rekreiran bez njihovog pristanka i korišten u pornografskom sadržaju. To je postao veliki problem za slavne žene, ali i za obične žene koje su doživjele da se njihov lik koristi u seksualno eksplicitnom sadržaju za pornografiju osvete, uznemiravanje i maltretiranje. Također postoji velika zabrinutost zbog korištenja deepfakeova za prikazivanje zlostavljanja djece.
Nažalost, trenutačno ne postoje savezni zakoni protiv lažne pornografije bez pristanka, a samo nekoliko država ima zakone koji štite građane od nje. Mnoge žene koje su postale žrtve deepfake pornografije našle su se bez mogućnosti da se bore protiv nje zbog nedostatka propisa i bezakonja na internetu. Većina nema financijskih sredstava za poduzimanje pravnih radnji. Čak su i slavne osobe poput Scarlett Johansson izjavile da je beskorisno pokušavati se boriti protiv deepfakeova.
Jedna mala razina zaštite koju žene imaju dolazi od platformi društvenih medija koje su zabranile deepfake i pornografiju generiranu umjetnom inteligencijom. Ako te stranice provode takve zabrane, to bi otežalo cirkulaciju ovog štetnog sadržaja. Međutim, Gomezovo iskustvo pokazuje da društveni mediji ne provode svoja pravila.
Xochitl Gomez govori o svom iskustvu s deepfake pornografijom
(Axelle/Bauer-Griffin/Getty)
Dok se pojavljivao u podcastu Taylora Lautnera i njegove supruge, Stisak , Xochitl Gomez (a.k.a. America Chavez) otvorila je svoja iskustva kao žrtve deepfake pornografije. 17-godišnjakinja je otkrila da je pronašla seksualno eksplicitan materijal koji kruži na X-u, nekadašnjem Twitteru, ali ima vrlo teško vrijeme da ga ukloni. X je zabranio pornografiju generiranu umjetnom inteligencijom još 2018. i ima pravila protiv seksualno eksplicitnih lažnih slika i videozapisa, kao i obmanjujućih medija i golotinje bez pristanka. Uzimajući u obzir da slike Gomeza jasno krše pravila X-a i da ovaj sadržaj prikazuje maloljetnika, moglo bi se pomisliti da će platforma odmah poduzeti mjere.
Međutim, Gomez je bila šokirana kada je otkrila da je njezin tim već bezuspješno pokušao poduzeti mjere protiv sadržaja. NBC vijesti prijavio da se sve do 19. siječnja 2024. fotografije još uvijek mogu pronaći na X-u, koji nije odgovorio na zahtjeve za komentar. Gomez je objasnila da ju je sadržaj ostavio čudnom i da je očajnički željela da ga se ukloni jer nije bio dobar izgled za nju. Pitala je, Zašto je to tako teško skinuti? To je bila moja cijela misao o tome, 'Zašto je ovo dopušteno?'
Ipak, naposljetku se pomirila prihvativši da se sadržaj jednostavno ne može ukloniti, otkrivajući da samo pokušava ne razmišljati o tome i odlaže svoj telefon kako bi riješila problem. Ipak, pitanja koja je postavila i dalje su vrlo aktualna. Zašto je li tako teško ukloniti ovaj sadržaj? Moralno je osuđujuće i odvratno kad se deepfake pornografija pravi od bilo koje osobe koja ne pristane. Pravo je užasno kada se radi o maloljetniku. Na X-u kruži stvarna dječja pornografija, a platforma, bizarno, ne poduzima ništa po tom pitanju, iako bi to trebao biti najhitniji problem s kojim se treba pozabaviti.
Teško da zvuči kao složena situacija ako pojedinac prijavi seksualno eksplicitan materijal i obavijesti platformu da nije pristao na to. Materijal je u suprotnosti s više pravila na web stranici. Što još treba pregledati ili utvrditi? Već je dovoljno traumatizirajuće za pojedinca pronaći ovakav sadržaj na društvenim mrežama; najmanje što su te platforme mogle učiniti jest poštivati njihove zahtjeve da ga uklone. Nijedan pojedinac, pogotovo ne maloljetnik, ne bi trebao jednostavno prihvatiti da je sadržaj tu jer X i druge platforme društvenih medija uporno i zbunjujuće odbijaju zaštititi svoje korisnike.
(istaknuta slika: Axelle/Bauer-Griffin/FilmMagic/Getty)
