Primer paso para frenar contenidos sexuales falsos de menores: la Fiscalía investigará las redes sociales

El Gobierno Central ha acordado este martes instar a la Fiscal General del Estado a investigar y, en su caso, perseguir posibles delitos de violencia sexual digital cometidos contra menores en las principales redes sociales. La decisión fue adoptada en Consejo de Ministros y se ampara en el artículo 8 del Estatuto Orgánico del Ministerio Fiscal.

La iniciativa se apoya en un informe técnico conjunto del Ministerio de la Presidencia, Justicia y Relaciones con las Cortes, el Ministerio para la Transformación Digital y de la Función Pública, y el Ministerio de Juventud e Infancia, que ya había alertado sobre el impacto de estas prácticas en los niños y niñas. “No podemos permitir que a través del algoritmo se puedan amplificar o amparar estos delitos”, ha afirmado la ministra portavoz, Elma Saiz, durante la rueda de prensa posterior al Consejo de Ministros. “Está en juego la seguridad de nuestros hijos, de nuestras hijas, la protección de su imagen, de su intimidad, de su libertad”.

Un informe alerta sobre 'deepfakes' y manipulación de imágenes

El documento técnico analiza las posibles responsabilidades penales derivadas de la generación y difusión de contenidos sexuales y pornografía infantil mediante ultrafalsificaciones ('deepfakes') y la manipulación de imágenes reales para crear material sexual explícito. Además, el informe señala que las redes sociales pueden estar facilitando estos delitos, al permitir su difusión masiva con rapidez y opacidad, y favorecer la articulación de redes que producen, comparten y monetizan estos contenidos.

El Gobierno solicita que la Fiscalía, en el ejercicio de su autonomía y tras consultar a la Junta de Fiscales de Sala del Tribunal Supremo, investigue estos hechos y adopte las acciones penales que considere pertinentes. Asimismo, se busca establecer criterios de actuación que permitan a las víctimas y a sus tutores defender sus derechos ante el Ministerio Fiscal. En enero, el Ministerio de Juventud e Infancia ya había alertado de la necesidad de que se estudiaran estos posibles delitos.

La violencia sexual digital, un riesgo creciente para los menores

El Ejecutivo justifica esta acción ante la creciente amenaza que representan las redes sociales y la inteligencia artificial generativa para la explotación sexual de menores. Según datos de la Comisión Europea, el 98 por ciento de los 'deepfakes' generados son de carácter pornográfico. En España, una de cada cinco personas jóvenes, especialmente niñas y adolescentes, afirma haber sufrido la difusión de falsos desnudos creados con IA siendo menores, mientras que un tercio asegura haber sufrido acoso sexual digital durante su infancia, según 'Save the Children'.

“El daño individual es grave, pero afecta también a la seguridad y dignidad de la infancia española en su conjunto. La impunidad en internet obliga a que las instituciones recurran a todos los mecanismos existentes para luchar contra este fenómeno”, subraya el acuerdo del Consejo de Ministros.

Coordinación con investigaciones internacionales

España se suma así a otros países e instituciones que investigan estos delitos. En Francia, la fiscalía analiza la generación de deepfakes sexuales en X; en Italia, la autoridad de protección de datos ha advertido sobre posibles responsabilidades penales; y la Comisión Europea investiga a Grok y TikTok bajo la Digital Services Act -DSA-. Además, países como Reino Unido, Malasia, Indonesia, Kenia y varios estados de Estados Unidos también han iniciado diligencias sobre estos casos.

Empresas como Meta, TikTok y X, así como la inteligencia artificial Grok, ya están bajo la lupa de la Comisión Europea por la difusión de contenidos ilícitos, mientras que Francia, Brasil y Canadá han presentado denuncias adicionales contra Grok.

Primer paso del plan de regulación de redes sociales

Esta medida es la primera de las acciones previstas en el paquete de regulación de redes sociales anunciado por el presidente del Gobierno, Pedro Sánchez, durante la Cumbre de Gobiernos celebrada a principios de febrero en Dubái. Con esta iniciativa, el Ejecutivo busca “poner orden” en un espacio digital donde “las leyes se ignoran y los delitos se toleran”, según sus palabras en el encuentro.