Denuncian que delincuentes utilizan la IA para generar imágenes realistas de abuso sexual infantil

La explotación infantil encontró un nuevo campo de juego donde los pedófilos están utilizando la tecnología de inteligencia artificial (IA) para crear y comercializar material de abuso sexual infantil realista, según un informe emitido hoy por la BBC.

Uno de los sitios identificados en el informe es Patreon, una plataforma para compartir contenido que permite a los creadores recibir pagos de sus suscriptores.

Aunque Patreon mantiene una política de "tolerancia cero" con respecto a este tipo de imágenes, algunos individuos aún logran burlar el sistema y generar contenido de abuso sexual infantil.

Abuso infantil

Ante esto, el Consejo de Jefes de Policía Nacional británico (NPCC) reaccionó con indignación, y cuestionó el hecho de que estas plataformas obtengan grandes beneficios sin asumir una "responsabilidad moral".

En respuesta al informe, la Agencia de Inteligencia, Seguridad y Cibernética del Gobierno británico (GCHQ), destacó que los delincuentes de abuso sexual infantil adoptan todas las tecnologías, indicando que "el futuro del material de abuso sexual infantil radica en el contenido generado por IA".

Los perpetradores utilizan un software de inteligencia artificial llamado Stable Diffusion para generar estas imágenes realistas de abuso.

Chat GPT con inteligencia artificial

Originalmente diseñado para crear imágenes para arte o diseño gráfico, este software permite a los usuarios especificar cualquier imagen que deseen mediante instrucciones verbales.

Sin embargo, ahora, según la investigación del medio público británico, se la utiliza para crear imágenes perturbadoras de abuso sexual infantil.

Al respecto, Ian Critchley, líder del NPCC en protección infantil, señaló que las imágenes "sintéticas" representan un riesgo real.

Abuso infantil

Dijo que podrían permitir que un pedófilo avance desde la ideación hasta el abuso real de un niño vivo.

Este problema no se limita a una única plataforma ya que algunos creadores de imágenes de abuso también utilizan Pixiv, una popular plataforma de redes sociales japonesa.

Aunque el sitio tiene políticas contra el contenido explícito, las leyes en Japón, donde Pixiv está alojado, no consideran ilegales las caricaturas y dibujos sexuales de niños.

Ante estos hallazgos, las plataformas en cuestión prometieron tomar medidas: Patreon, por ejemplo, reafirmó su compromiso de eliminar todo material de abuso infantil de su sitio, mientras que Pixiv declaró que estaba asignando recursos sustanciales para combatir este problema. (Télam)