La organización AI Forensics alertó que la plataforma Hugging Face alberga modelos de inteligencia artificial (IA) capaces de generar imágenes de personas desnudas mediante instrucciones escritas.
De acuerdo con un estudio de la organización, siete de los nueve modelos de edición de imágenes más destacados en la plataforma permiten realizar este tipo de contenido.
Los investigadores señalaron que cualquier usuario, incluso sin conocimientos técnicos, puede obtener resultados mediante el uso de prompts, es decir, instrucciones redactadas en lenguaje natural.
Como parte de la investigación, AI Forensics creó una interfaz experimental para analizar el tipo de solicitudes realizadas por los usuarios.
Durante una semana se registraron mil 81 peticiones, de las cuales 73% correspondieron a solicitudes de carácter sexual.
El informe indica que prácticamente todas esas peticiones buscaban generar imágenes de mujeres desnudas mediante herramientas de IA generativa.
Además, el 6.7% de las solicitudes sexuales hacía referencia a personas menores de edad, según los resultados presentados por la organización.
En respuesta, Hugging Face aseguró que analizará el informe y aplicará medidas de moderación donde se identifiquen deficiencias en sus sistemas.
No obstante, la empresa rechazó las acusaciones sobre una supuesta ausencia generalizada de controles y cuestionó la metodología utilizada por la organización.
El estudio también recuerda que investigaciones previas detectaron imágenes similares generadas por Grok, el chatbot desarrollado por xAI, en la red social X.
Tras esa controversia, el Parlamento Europeo aprobó una prohibición para los servicios de inteligencia artificial que permitan crear imágenes de personas desnudas sin su consentimiento.
Aunque la medida ya cuenta con respaldo político dentro de la Unión Europea, su implementación aún se encuentra pendiente mientras continúan los debates sobre la regulación de la IA generativa y la protección de la privacidad.
📌Esto también te va a interesar, dale click 📌