La empresa de Elon Musk, xAI, demandó al estado Minnesota por ser la primera demarcación de Estados Unidos en promulgar una ley que prohíbe que en sitios web y aplicaciones tengan la tecnología IA para crear imágenes falsas de desnudos de personas reales.
En la demanda de 38 páginas, xAI —cuyo chatbot de modelo de IA y generador de imágenes, Grok, está disponible en X, antes Twitter, y en otros lugares— señaló que no cuestiona el interés del estado en prohibir la distribución de imágenes de desnudos generadas por IA de personas reales sin su consentimiento.
Pero, sostuvo, la ley de Minnesota «va mucho más allá de ese objetivo», al prohibir muchas imágenes y videos protegidos
La compañía presentó la demanda este lunes en un tribunal federal, pocos días antes de que la ley, que fue promulgada en mayo, entre en vigor este sábado y convierta a Minnesota en el primer estado que intenta prohibir por ley esta tecnología.
Uno de los argumentos de la demanda es que no existe una disposición de «puerto seguro» para las empresas que realizan esfuerzos de buena fe para impedir que los usuarios creen ese tipo de imágenes, y que la norma abarca imágenes que contaron con el consentimiento de la persona retratada, o incluso que fueron creadas por esa misma persona.
También afirma que la definición de «parte íntima» en la ley es excesivamente amplia, al incluir partes del cuerpo que se muestran de manera habitual en público.
Antecedentes dispares
El fiscal general estatal de Minnesota, Keith Ellison, indicó por su parte en un comunicado que su oficina aún no había recibido formalmente la demanda ni la había visto.
«Pero sé que usar IA para generar imágenes de desnudos de personas contra su voluntad es espantoso. Hay que tener muchos debates valiosos sobre la política de IA. Este no es uno de ellos. La desnudez generada por IA le arrebata la dignidad al objetivo y puede causar un daño inmenso a nivel emocional, personal y profesional», manifestó Ellison.
Las leyes estatales sobre deepfakes electorales han tenido resultados dispares en los tribunales: mientras que la ley de California al respecto fue bloqueada por la garantía a la libre expresión establecida en la Primera Enmienda constitucional, la ley de Minnesota, hasta ahora, ha sobrevivido a una impugnación judicial de 2025 presentada por la empresa de Musk.
Sin embargo, la ley antidesnudos de IA de Minnesota difiere de las normas estatales y federales que prohíben las imágenes sexualmente explícitas generadas por IA de personas sin su consentimiento, las cuales suelen sancionar a quienes usan las herramientas para crear estas imágenes, no a los fabricantes de las herramientas en sí.
La ley federal Take it Down Act, aprobada el año pasado, también exige que los sitios web y las aplicaciones implementen procesos para retirar esas imágenes.
Está en los términos de servicio
En la demanda, xAI indica que los términos de servicio para usar Grok prohíben utilizarlo para «cualquier actividad ilegal, dañina o abusiva» que viole la privacidad de alguien, incluida la alteración de su imagen para desnudarlo o para representarlo en una imagen sexualmente explícita.
Añade que xAI hace cumplir esas reglas contra los infractores mediante suspensiones o cancelaciones de cuentas, y reportando contenido sospechoso de abuso sexual infantil.
También afirmó a principios de este año que tiene «tolerancia cero ante cualquier forma de explotación sexual infantil, desnudez sin consentimiento y contenido sexual no deseado».
Después de una reacción mundial por la circulación de imágenes sexualizadas de mujeres y niños, xAI dijo en enero que Grok aplicaría un bloqueo geográfico al contenido si infringe las leyes de un lugar en particular, impidiendo que, por ejemplo, la gente edite fotos de personas reales con ropa reveladora en lugares donde eso sea ilegal.
El «spicy mode» («modo picante») de Grok permitía a los usuarios crear contenido explícito.
«Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis, ropa interior y otras prendas sugerentes», señaló xAI en un comunicado de enero.
Discussion about this post