Las lolis se volverían la ruina de las IA

Recientemente se ha descubierto que en Internet se están vendiendo datos adicionales de aprendizaje para IA generativa de imágenes, los cuales permiten crear imágenes que se asemejan a menores de edad reales. Entre estos datos, se han encontrado aquellos de antiguos artistas infantiles japoneses, y las imágenes generadas con estos datos, que contienen contenido sexual, también están siendo comercializadas en sitios web separados.

La IA generativa de imágenes funciona aprendiendo de una gran cantidad de datos visuales, lo que le permite generar imágenes detalladas con solo recibir instrucciones textuales. Aunque normalmente es difícil crear imágenes que se asemejen a personas específicas introduciendo solo sus nombres, algunos sistemas de IA pueden lograrlo mediante el aprendizaje de datos adicionales, conocidos como archivos “LoRA”.

El periódico Yomiuri Shimbun ha identificado un sitio web en inglés que vende estos datos adicionales de varios artistas infantiles, tanto nacionales como internacionales, a un precio de aproximadamente tres dólares en criptomonedas por archivo. También se encontraron datos de mujeres adultas en venta. Las imágenes sexuales generadas con estos datos de artistas infantiles japoneses se vendían por varios cientos de yenes en otro sitio web japonés.

La creación de imágenes sexuales a partir de datos de menores genera serias preocupaciones legales. Según el Ministerio de Justicia de Japón, la Ley de Prohibición del Contenido para Adultos que Involucra a Menores exige que la víctima sea una menor real para que se aplique la normativa. Aunque las imágenes generadas por computadora que parezcan menores reales podrían estar reguladas, los expertos señalan que es posible que las imágenes generadas por IA no entren en esta categoría si no se asemejan completamente a las características físicas de los menores reales, lo que deja un vacío legal.

Takashi Nagase (長瀬貴志), exjuez y profesor en la Universidad de Kanazawa, destaca que “el uso indebido de IA y datos adicionales ha revelado una violación de los derechos de los menores. Existe el riesgo de que los daños se amplíen bajo la superficie. La situación no está contemplada en las leyes actuales, por lo que es necesario considerar una legislación específica para regular las imágenes sexuales de menores generadas por IA“.

El avance de la tecnología de IA ha traído consigo numerosos beneficios, pero también plantea serios desafíos éticos y legales. La capacidad de generar imágenes realistas de menores con contenido inapropiado pone de manifiesto una grave amenaza para la protección de los derechos de los niños. Es imperativo que se implementen medidas legislativas adecuadas para abordar estos nuevos tipos de explotación y garantizar que las tecnologías emergentes no se utilicen para perjudicar a los más vulnerables. La cooperación internacional y la actualización constante de las leyes serán esenciales para enfrentar estos desafíos de manera efectiva.

Fuente: Yaraon!