La red social X, propiedad del empresario Elon Musk, anunció nuevas medidas restrictivas para impedir que su inteligencia artificial Grok genere imágenes sexuales no consentidas de personas reales, tras una ola de críticas internacionales por el uso indebido de esta tecnología.
El anuncio se produce luego de que la fiscalía del estado de California abriera una investigación contra xAI, empresa responsable de Grok, por presuntamente facilitar la producción masiva de deepfakes sexualizados, utilizados para acosar y cosificar a mujeres y menores en internet.
El fiscal general Rob Bonta fue contundente al señalar que existe “tolerancia cero” ante la creación y difusión de contenido íntimo generado con IA sin consentimiento, al tiempo que subrayó que estas prácticas podrían constituir delitos graves bajo la ley estatal.
A la condena se sumó el gobernador Gavin Newsom, quien calificó como “vil” la permisividad inicial de la plataforma y exigió responsabilidades legales a la compañía.
En respuesta, X informó que bloqueará geográficamente la capacidad de Grok para editar imágenes de personas reales con ropa reveladora, como bikinis o ropa interior, en jurisdicciones donde estas acciones sean ilegales. La restricción aplicará a todos los usuarios, incluidos los suscriptores de pago.
El caso ha reavivado el debate global sobre la regulación de la inteligencia artificial, la protección de la identidad digital y los límites éticos del uso de herramientas generativas, especialmente cuando se trata de derechos humanos y privacidad.