Alerta PaPaz - Cuando se usa Inteligencia Artificial para crear “imágenes íntimas” de niñas, niños y adolescentes. ¿Cómo prevenirlo y manejarlo?

Creado el 07/03/2025

Subtema: Explotación sexual comercial de niñas, niños y adolescentes

Desde Te Protejo Colombia, hemos recibido reportes sobre el uso de diferentes herramientas de inteligencia artificial para la creación de material de explotación sexual de niñas, niños y adolescentes (MESNNA).

Es un sistema que aprende de la información que recibe. Puede hacer predicciones, dar recomendaciones, tomar decisiones y crear contenido como imágenes o videos. La IA está en todas partes, y aunque tiene muchos beneficios, también se usa de manera peligrosa.

Algunas personas usan IA para tomar fotos inofensivas (como una selfie) y convertirlas en imágenes falsas donde niñas, niños y adolescentes parecen estar desnudos. A esto se le llama “deepfake”. Estas son tan realistas que es difícil distinguirlas de las verdaderas, y aunque sean falsas, el daño que causan es real. En Colombia, según el código penal, crear o compartir este contenido, es un delito grave, porque se considera MESNNA.

Limitar lo que publica en redes sociales. Cualquier foto, por más inocente que sea, puede ser usada en la creación de “deepfakes”.

Asegurar de que tanto sus redes sociales como las de sus hijas e hijos tengan la máxima privacidad. Esto reduce el riesgo.

Tratar la situación, si sucede entre escolares, utilizando los protocolos de convivencia escolar definidos para las situaciones tipo 2 y tipo 3 (ver aquí).

Recordar que las imágenes son falsas. La persona que aparece ahí es una víctima y debe ser acompañada.

Reportar, cuando encuentre este contenido, a través de Te Protejo (la App Te Protejo o Te Protejo sin conexión: bit.ly/terpotejosinconexion).

Enseñar, sobre la intimidad y el propio cuerpo, y que nadie puede tomar decisiones o acciones sobre él sin su consentimiento.

Solicitar eliminar la imagen íntima de Internet, existen estas dos herramientas:

⭐ Take It Down es un servicio gratuito y anónimo que permite eliminar contenido de plataformas populares.

⭐ Proyecto Arácnido sirve para rastrear el contenido (si no sabe dónde está) y solicitar su eliminación.

No volver a compartir imágenes, una vez realizado el reporte o eliminación de este contenido. Para evitar que sea visto, difundido o utilizado por otras personas, podría perpetuar el daño y dificultar su eliminación definitiva.

Crear un espacio seguro donde niñas, niños y adolescentes se sientan cómodos para contarle cualquier cosa.

Gracias al trabajo de Red PaPaz a través de Te Protejo Colombia, se han creado protocolos para eliminar este contenido en Internet. En el país, Te Protejo colabora con la Policía, el ICBF y plataformas como Facebook, Instagram, WhatsApp, Discord y TikTok. Además, recibe apoyo de organismos internacionales como INTERPOL y el Centro Nacional para Niños Desaparecidos de EE. UU. Gracias a esto, ha procesado más de 200 mil reportes y clasificado más de 1 millón de imágenes.

Aprendiendo a Ser PaPaz - Centro de recursos

Consúltelo aquí

Descargue la App en iOS

Descargue la App en Android

Guía: Descubrir que tu hija o hijo ha sido víctima de de abuso sexual in Internet. Cómo lidiar con las emociones.

Consúltela aquí

Conferencia - Inteligencia Artificial al alcance de las Familias.

Véala aquí

Protocolo de convivencia escolar para la prevención del Ciberacoso y delitos en medios digitales del Ministerio de Educación Nacional

Léalo aquí

Video - Por Ahora de Canadá.

Véalo aquí

Referencias

1. Política Nacional de Inteligencia Artificial de Colombia: https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%C3%B3micos/4144.pdf

2. Informe de la Fundación de vigilancia de Internet (Reino Unido): https://www.iwf.org.uk/media/nadlcb1z/iwf-ai-csam-report_update-public-jul24v13.pdf

La CORPORACIÓN COLOMBIANA DE PADRES Y MADRES RED PAPAZ identificada con NIT. 830.130.422-3, con sede principal en la Carrera 16 #93a-36 oficina 201, Bogotá D.C. dando cumplimiento a lo estipulado en la Ley 1581 de 2012 y el decreto 1074 de 2015, tendiente a la protección de datos personales lo invita a que conozca nuestra Política de Tratamiento de Información Personal la cual puede ser consultada en las instalaciones físicas de la organización o a través de nuestra página web www.redpapaz.org la cual establece los derechos que le asisten como titular, el procedimiento para ejercerlos, las finalidades para la cual se tratan los datos, entre otros aspectos. Si usted tiene alguna inquietud frente al manejo de la información envíe su solicitud a través del correo electrónico contactenos@redpapaz.org y con gusto será atendido.

Alerta PaPaz Cuando se usa Inteligencia Artificial para crear imágenes íntimas