¿Cómo prevenirlo y manejarlo?
Desde Te Protejo Colombia, línea de reporte del Centro de Internet Seguro Viguías de Red PaPaz se han recibido casos sobre el uso de diferentes herramientas de inteligencia artificial para la creación de material de explotación sexual de niñas, niños y adolescentes (MESNNA).
¿Qué es la Inteligencia Artificial (IA)?
Es un sistema que aprende de la información que recibe. Puede hacer predicciones, dar recomendaciones, tomar decisiones y crear contenido como imágenes o videos. La IA está en todas partes, y aunque tiene muchos beneficios, también se usa de manera peligrosa.
¿Cómo esto vulnera los derechos de niñas, niños y adolescentes?
Algunas personas usan IA para tomar fotos inofensivas (como una selfie) y convertirlas en imágenes falsas donde niñas, niños y adolescentes parecen estar desnudos. A esto se le llama “deepfake”. Estas son tan realistas que es difícil distinguirlas de las verdaderas, y aunque sean falsas, el daño que causan es real. En Colombia, según el código penal, crear o compartir este contenido, es un delito grave, porque se considera MESNNA.
¿Qué se puede hacer para prevenir y manejar esta situación?
1. Limitar lo que publica en redes sociales. Cualquier foto, por más inocente que sea, puede ser usada en la creación de “deepfakes”.
2. Asegurar de que tanto sus redes sociales como las de sus hijas e hijos tengan la máxima privacidad. Esto reduce el riesgo.
3. Tratar la situación, si sucede entre escolares, utilizando los protocolos de convivencia escolar definidos para las situaciones tipo 2 y tipo 3 (ver recursos al final).3. Tratar la situación, si sucede entre escolares, utilizando los protocolos de convivencia escolar definidos para las situaciones tipo 2 y tipo 3 (ver recursos al final).
4. Recordar que las imágenes son falsas. La persona que aparece ahí es una víctima y debe ser acompañada.
5. Reportar, cuando encuentre este contenido, a través de Te Protejo (o la App Te Protejo o Te Protejo sin conexión: bit.ly/terpotejosinconexion).
6. Enseñar, sobre la intimidad y el propio cuerpo, y que nadie puede tomar decisiones o acciones sobre él sin su consentimiento.
7. Solicitar eliminar la imagen íntima de Internet, existen estas dos herramientas:
● Take It Down es un servicio gratuito y anónimo que permite eliminar contenido de plataformas populares.
● Proyecto Arácnido sirve para rastrear el contenido (si no sabe dónde está) y solicitar su eliminación.
● Para dudas sobre cómo eliminar estos contenidos o cómo abordar estas situaciones, en Te Guío está bien preguntar, a través de la página web o en el Whatsapp: 314 821 0435.
8. No volver a compartir imágenes, una vez realizado el reporte o eliminación de este contenido. Para evitar que sea visto, difundido o utilizado por otras personas, podría perpetuar el daño y dificultar su eliminación definitiva.
9. Crear un espacio seguro donde niñas, niños y adolescentes se sientan cómodos para contarle cualquier cosa.
Gracias al trabajo de Red PaPaz a través de Te Protejo Colombia, se han creado protocolos para eliminar este contenido en Internet. En el país, Te Protejo colabora con la Policía, el ICBF y plataformas como Facebook, Instagram, WhatsApp, Discord y TikTok. Además, recibe apoyo de organismos internacionales como INTERPOL y el Centro Nacional para Niños Desaparecidos de EE. UU. Gracias a esto, ha procesado más de 200 mil reportes y clasificado más de 1 millón de imágenes.
