Pedofili u posljednje vrijeme sve češće koriste vještačku inteligenciju za kreiranje slika slavnih osoba kao djece. Iz Internet Watch Foundationa (IWF) saopćili su da već slike jedne poznate pjevačice zamišljene kao dijete dijele predatori na dark webu. Kako dodaju, na jednom dark web forumu se slikama djece glumaca također manipulira kako bi ih učinili seksualnima.
Stotine slika stvarnih žrtava seksualnog zlostavljanja djece također se sada stvaraju korištenjem namjenskih generatora slika. Ove pojedinosti dolaze iz posljednjeg izvještaja IWF-a o rastućem problemu jer pokušavaju podići svijest o opasnostima od pedofila koji koriste AI sisteme koji mogu stvoriti slike iz jednostavnih tekstualnih uputa.
Otkako su ovi moćni sistemi za generiranje slika ušli u javnu upotrebu, istraživači su upozorili da postoji mogućnost njihove zloupotrebe za generiranje nedopuštenih slika. U maju su ministrica unutrašnjih poslova Velike Britanije Suella Braverman i američki ministar sigurnosti Alejandro Mayorkas izdali zajedničku izjavu u kojoj se obvezuju uhvatiti u koštac, kako su istakli, salarmantnim porastom slika djece generiranih umjetnom inteligencijom koje pedofili seksualno iskorištavaju.
Izvještaj IWF-a detaljno opisuje kako su istraživači proveli mjesec dana skupljajući slike napravljene vještačkom inteligencijom s jedne web stranice na kojoj su bila djeca izložena zlostavljanju te su uspjeli pronaći gotovo 3.000 vještački napravljenih slika koje su nezakonite.
Analitičari kažu da postoji novi trend grabežljivaca koji snimaju pojedinačne fotografije i rekreiraju ih u različitim okruženjima seksualnog zlostavljanja. Jedan folder koji su pronašli sadržavao je 501 sliku žrtve iz stvarnog svijeta koja je imala oko devet-deset godina kada je bila izložena seksualnom zlostavljanju. U folderu predatori također dijele fino podešenu datoteku AI modela kako bi drugima omogućili da generiraju više njenih slika.
IWF kaže da su neke od slika, uključujući one slavnih osoba kao djece, izuzetno realistične i da ne bi bilo moguće razlučiti nevještim očima da li se radi o stvarnom prizoru ili lažnom. Analitičari su vidjeli slike većinom pjevačica i filmskih zvijezda koje su pomoću softvera “izopačene” kako bi izgledale poput djece. U izvještaju se ne navodi koje su slavne osobe bile na meti.
Iz IWF-a kažu da upravo sada objavljuju rezultate ovog istinski zabrinjavajućeg istraživanja kako bi se ovo bitno pitanje stavilo na dnevni red britanske vlade o umjetnoj inteligenciji koje je planirano za sljedeću sedmicu u Bletchley Parku.
U mjesec dana, IWF je istražio 11.108 AI slika koje su podijeljene na forumima na dark webu. Za njih 2.978 potvrđeno je da su slike koje nisu u skladu sa zakonima Velike Britanije, što znači da su prikazivale seksualno zlostavljanje djece. Više od jedne od pet ovih slika (564) klasificirano je u kategoriju A, najozbiljniju vrstu, a više od polovice (1.372) ovih slika prikazivalo je djecu osnovnoškolske dobi (od sedam do deset godina). Osim toga, 143 slike prikazuju djecu od tri do šest godina, dok dvije slike prikazuju bebe (mlađe od dvije godine).
U junu je IWF upozorio da predatori počinju istraživati korištenje umjetne inteligencije za izradu eksplicitnih slika djece, ali sada IWF kaže da su njihovi strahovi postali stvarnost.
“Naše najgore noćne more su se ostvarile”, rekla je Susie Hargreaves OBE, izvršna direktorica IWF-a.
“Ranije ove godine upozorili smo da bi slike napravljene vještačkom inteligencijom uskoro mogle postati nerazlučive od stvarnih slika djece koja trpe seksualno zlostavljanje i da bismo mogli posvjedočiti da se te slike šire u mnogo većem broju. Sada smo prošli tu tačku”
Iako djeca nisu izravno oštećena u izradi sadržaja, slike normaliziraju predatorsko ponašanje i mogu uzalud trošiti policijske resurse dok istražuju djecu koja ne postoje. U nekim se scenarijima istražuju i novi oblici prekršaja, stvarajući nove složenosti za agencije za provođenje zakona.
