El lado oscuro de la IA: Alertan por ‘explosión’ de imágenes falsas de abuso infantil

Una avalancha de imágenes de abuso sexual infantil creadas con IA ha preocupado a especialistas, que piden tomar medidas para detener la situación

La ya alarmante proliferación de imágenes de abuso sexual infantil en Internet podría empeorar mucho si no se hace algo para controlar las herramientas de inteligencia artificial que generan fotografías ultrafalsas, advirtió esta semana una agencia de vigilancia.

En un informe escrito, la Internet Watch Foundation, con sede en el Reino Unido, insta a los gobiernos y proveedores de tecnología a actuar rápidamente antes de que una avalancha de imágenes de abuso sexual infantil generadas por IA abrume a los investigadores encargados de hacer cumplir la ley y amplíe enormemente el grupo de víctimas potenciales.

“No estamos hablando del daño que podría causar”, dijo Dan Sexton, director de tecnología del grupo de vigilancia. “Esto está sucediendo ahora mismo y es necesario abordarlo ahora mismo”.

En un caso único en su tipo en Corea del Sur, un hombre fue condenado en septiembre a dos años y medio de prisión por utilizar inteligencia artificial para crear imágenes virtuales de abuso infantil en 360°, según el Tribunal de Distrito de Busan, en el sureste del país. .

En algunos casos, los niños utilizan estas herramientas entre sí. En una escuela del suroeste de España, la policía ha estado investigando el presunto uso de una aplicación telefónica por parte de adolescentes para hacer que sus compañeros de escuela completamente vestidos aparecieran desnudos en las fotografías.

El informe expone un lado oscuro de la carrera por construir sistemas de inteligencia artificial generativa que permitan a los usuarios describir con palabras lo que quieren producir (desde correos electrónicos hasta obras de arte o videos novedosos) y hacer que el sistema lo escupe.

Si no se detiene, la avalancha de imágenes falsas de abuso sexual infantil podría atascar a los investigadores que intentan rescatar a niños que resultan ser personajes virtuales. Los perpetradores también podrían utilizar las imágenes para preparar y coaccionar a nuevas víctimas.

Sexton dijo que los analistas de la IWF descubrieron rostros de niños famosos en línea, así como una “demanda masiva para la creación de más imágenes de niños que ya han sido abusados, posiblemente hace años”.

Fuente: El Financiero