España prohíbe las imágenes sexuales generadas por inteligencia artificial

El Gobierno español presentó el martes un proyecto de ley para penalizar el uso de la inteligencia artificial para generar imágenes o vídeos sexualmente explícitos de personas sin su consentimiento. Esta iniciativa responde a la creciente preocupación mundial por el uso indebido de la IA, especialmente en la creación de contenidos deepfake.

La tecnología deepfake, que produce imágenes y videos realistas generados por IA, ha sido ampliamente explotada con fines dañinos. Según un estudio de 2019 de la empresa holandesa de IA Sensity, alrededor del 96% de los videos deepfake en línea son pornografía no consentida, con las mujeres como principales objetivos.

El ministro de Justicia, Félix Bolaños, subrayó que los deepfakes sexualmente explícitos o insultantes deberían ser delitos contra la integridad moral. La medida forma parte de un proyecto de ley más amplio para proteger a los menores de los riesgos digitales y defender el derecho a la intimidad.

España se enfrenta al aumento de casos de chantaje e imágenes de desnudos generadas por IA

En los últimos años, España se ha enfrentado a varios casos de gran repercusión relacionados con la distribución de imágenes de chicas menores de edad desnudas generadas por inteligencia artificial. En muchos de estos casos, los autores no sólo crearon y compartieron estas imágenes manipuladas, sino que también intentaron chantajear a sus víctimas, exigiéndoles dinero a cambio de mantener las imágenes en privado.

Además de centrarse en los contenidos explícitos generados por inteligencia artificial, el proyecto de ley también propone protecciones digitales más estrictas para los menores. Obligaría a los fabricantes de smartphones y tabletas a incluir sistemas de control parental gratuitos que se activen por defecto. Además, los influencers online estarían obligados a implantar sistemas de verificación de la edad de sus suscriptores.

Read Original Article: TechXplore

Read More: ChatGPT Enhances its Image-Generation Capabilities