Un de cada cinc joves afirma haver estat víctima de deepfakes amb finalitats sexuals

L’organització Save the Children ha publicat aquest 8 de juliol 'Xarxes que atrapen: l’explotació sexual de la infància i l’adolescència en entorns digitals', un informe que analitza com les xarxes socials, Internet i les noves tecnologies afavoreixen la vulneració de drets de nens, nenes i adolescents i amplifiquen les situacions de violència sexual digital. El document, elaborat en col·laboració amb l’Associació Europea per a la Transició Digital, recull dades preocupants: un 20 % de les persones joves enquestades reconeix haver estat víctima de deepfakes amb imatges íntimes generades sense el seu consentiment durant la infància o adolescència.

L’informe es basa en una enquesta a més de 1.000 joves d’entre 18 i 21 anys, i revela que pràcticament la totalitat (97 %) ha patit algun tipus de violència sexual en entorns digitals sent menor d’edat. Algunes de les formes més habituals són el grooming (contacte adult-menor amb finalitats sexuals), la difusió d’imatges íntimes sense consentiment, la sextorsió i la generació de continguts sexualitzats amb intel·ligència artificial.

Segons dades dels Mossos d’Esquadra facilitades a Save the Children, només l’any 2024 es van registrar a Catalunya 814 denúncies per delictes cibernètics contra infants i adolescents, 72 de les quals eren per delictes sexuals. “Aquestes xifres només són la punta de l’iceberg”, apunta Ona Lorda, responsable de polítiques d’infància de l’organització, “ja que molts casos no es denuncien i són difícils de detectar, especialment si es produeixen en l’àmbit digital”.

Una nova dimensió de la violència sexual contra la infància

El document alerta especialment sobre l’ús d’eines d’intel·ligència artificial per generar imatges sexuals falses de menors, sovint a partir de fotografies extretes de xarxes socials. “Tot i ser una forma de violència molt greu, el 70 % dels joves no perceben els deepfakes com un risc durant la infància”, destaca l’informe. Una adolescent de 12 anys, atesa per Save the Children a Alacant, va ser amenaçada amb la publicació de fotos falses creades amb IA, fet que li va generar culpa i por tot i no haver compartit mai cap imatge íntima real.

També s’hi analitza el paper del material autogenerat, que suposa el 27 % dels casos reportats per les persones enquestades. Tot i que en molts casos els missatges o imatges sexuals es comparteixen voluntàriament, Lorda adverteix que “un cop enviats, escapen al control de qui els crea i poden ser reutilitzats, extorsionats o redistribuïts”. A més, el 65 % no considera que reenviar imatges sense consentiment sigui un risc.

Nous espais i noves formes de captació

Un terç dels joves assegura haver estat contactat per una persona adulta amb finalitats sexuals durant la seva adolescència. Les aplicacions més habituals d’aquest primer contacte són Instagram, WhatsApp i X, però també s’hi detecten casos a jocs en línia i plataformes de streaming. Tot i això, només un 24 % del jovent coneix què és el grooming, i menys d’un 20 % identifica correctament les seves dinàmiques.

L’informe també alerta de l’augment de casos en què la captació deriva en coaccions, amenaces o xantatges: un 26 % afirma haver estat pressionat per enviar contingut íntim, un 20 % ha rebut amenaces per mostrar-lo i un percentatge similar ha estat amenaçat amb la seva difusió.

El 2024, els Mossos van registrar 20 denúncies per actes d’explotació sexual infantil digital com la difusió de material pornogràfic de menors o la sol·licitud de relacions sexuals a canvi de compensacions. Segons dades de l’Estat, el perfil més habitual dels agressors és un home d’entre 18 i 25 anys, que actua a través d’Internet sense buscar necessàriament una trobada presencial i que, sovint, forma part de l’entorn proper del menor.

Reforçar la protecció i l’educació digital

L’organització llança aquest informe en el marc de la seva campanya #DretsSenseConnexió, amb l’objectiu de conscienciar sobre la necessitat de garantir que infants i adolescents puguin desenvolupar-se a internet amb els seus drets protegits. En aquest sentit, Save the Children reclama l’aplicació plena de la Llei de protecció a la infància davant la violència (LOPIVI) i una regulació robusta dels entorns digitals en la nova llei en tràmit per protegir persones menors d’edat.

A més, proposa incorporar transversalment l’educació digital segura i l’educació afectiva i sexual als currículums escolars, amb formació específica per a professionals educatius. També subratlla la importància de dissenyar campanyes informatives creades amb la participació dels mateixos infants i adolescents, i dirigides tant a joves com a les seves famílies, per identificar, prevenir i actuar davant situacions d’explotació o risc en línia.