1 de cada 5 joves afirma haver estat víctima de 'deepfakes' durant la seva infància o adolescència, segons un informe de Save the Children.
El treball 'Xarxes que atrapen: l'explotació sexual de la infància i l'adolescència en entorns digitals' analitza com Internet, les xarxes socials i les tecnologies no només faciliten la captació i l'exposició als riscos relacionats amb l'explotació sexual, sinó que també poden ser el mitjà on es cometen aquestes violències contra infants i adolescents.
L'informe, que inclou una enquesta a més de 1.000 joves d'entre 18 i 21 anys de l'Estat, mostra que el 97% afirma haver patit algun tipus de violència sexual en entorns digitals quan eren menors.
Segons dades facilitades pels Mossos d'Esquadra a l'entitat, el 2024 es van registrar a Catalunya 814 denúncies per delictes cibernètics contra infants i adolescents, de les quals 72 per delictes sexuals.
La responsable de polítiques d'infància de Save the Children, Ona Lorda, ha afirmat que aquestes xifres "representen només la punta de l'iceberg, ja que la majoria de casos no arriben a conèixer-se", per l'absència de denúncia i per les dificultats de detecció. Aquestes situacions s'agreugen quan els fets tenen lloc en l'entorn en línia.
L'organització assenyala entre les principals formes de violència sexual digital el contacte per part de persones adultes amb finalitats sexuals ('grooming'), el sèxting sense consentiment o la difusió no autoritzada de contingut íntim. D'altra banda, distingeix les formes d'abús i explotació sexual en línia, incloent-hi el consum, producció i difusió de material d'abús sexual infantil; la sextorsió, on infants i adolescents són coaccionats, sotmesos a xantatge o amenaçats per enviar material íntim sexual; l'ús d'eines d'intel·ligència artificial per crear aquest tipus de contingut i l'exposició involuntària a continguts sexuals.
L'informe assenyala que el 2024 el NCMEC (l'organització mundial líder en la prevenció i localització de menors víctimes d'explotació sexual digital) va registrar més de 19,8 milions de denúncies relacionades amb material d'abús sexual infantil.
Aquests continguts poden generar-se a partir d'abusos en entorns físics o bé directament en l'entorn digital mitjançant manipulació, enganys, amenaces o extorsions que indueixen la víctima a produir imatges de contingut sexual.
D'altra banda, Save the Children ha advertit sobre un altre tipus de material d'explotació sexual infantil que inclou representacions sexualitzades d'infants o situacions de nuesa parcial o total que, tot i no mostrar actes sexuals explícits, presenten la infància des d'una mirada sexualitzada. Lorda ha apuntat que aquests materials es troben en zones grises, perquè no arriben als llindars legals per ser considerats delicte en alguns països, però plantegen preocupacions serioses pel potencial de normalitzar o banalitzar la sexualització i l'explotació d'infants.
En molts casos, poden ser fotografies de la vida quotidiana sense intenció sexual, com imatges a la platja o en activitats esportives, que són manipulades o recontextualitzades amb finalitats d'explotació o gratificació sexual per part d'adults.
L'entitat ha alertat també que aquests materials es poden crear amb intel·ligència artificial, són els anomenats 'deepfakes' o ultrafalsificacions. En aquest sentit, un de cada cinc joves afirma que algú va compartir amb tercers imatges creades amb IA que els mostraven nus quan eren menors d'edat i sense el seu consentiment.
Aquests continguts són produïts pels mateixos infants i adolescents, de manera voluntària o per coacció/manipulació, mostrant-se en postures sexualitzades o en conductes més explícites (sèxting). Un 27% dels enquestats va enviar voluntàriament missatges, fotos o vídeos íntims o sexuals durant la infància o l'adolescència.
D'altra banda, més del 65% no percep com a risc reenviar imatges sense consentiment del menor representat. Pel que fa als motius per compartir imatges o vídeos íntims propis, gairebé la meitat no sap que pot ser perillós (48 %); el 46 % ho veu com quelcom normal o sense conseqüències; el 42 % busca atenció o validació; i quatre de cada deu espera obtenir algun benefici a canvi.
D'altra banda, l'informe analitza les principals formes de captació amb finalitats d'explotació sexual. Així, el 33% dels joves enquestats havia tingut contacte amb un adult amb finalitats sexuals a l'entorn digital. Hi havia més noies (36%) que nois (26%).
L'enquesta també confirma la varietat de vies de contacte que utilitzen els explotadors: xarxes socials com Instagram (68 %) o X (44 %), i aplicacions de missatgeria com WhatsApp (48 %). Cal destacar igualment el contacte a través de jocs en línia i plataformes d'streaming (44 %).
Pel que fa als perfils dels agressors, Save the Children assenyala que, tot i que no hi ha un perfil únic, sí que es poden identificar patrons comuns: la majoria són homes, la franja d'edat més habitual és dels 18 als 25 anys (amb una mitjana de 28 anys); poden actuar només en l'entorn digital (anàlisis oficials indiquen que només el 34 % busca trobades presencials); no oculten la seva identitat, cosa que pot generar una falsa sensació de confiança; no sempre són desconeguts (el 35 % dels casos pertany a l'entorn proper); i la motivació no sempre és sexual, ja que hi ha casos de 'grooming' i extorsió amb finalitats econòmiques.
Davant d'aquestes dades, Save the Children ha demanat desplegar totes les mesures que recull la llei de protecció a la infància i l'adolescència i reforçar la protecció en línia dels drets dels infants i adolescents en la futura llei de protecció dels menors d'edat en entorns digitals.
Ha demanat també incorporar de manera transversal al currículum educatiu l'educació digital sobre l'ús segur i responsables de les tecnologies, juntament amb l'educació afectiva i sexual integral, així com la formació dels professionals educatius. Per últim, reclama campanyes adreçades a infants, adolescents i famílies per sensibilitzar sobre els riscos associats a l'explotació en l'entorn digital.
