POR MARC LEVY and BARBARA ORTUTAY
La empresa de Elon Musk, xAI, demandó a Minnesota por ser el primer estado en Estados Unidos en promulgar una ley que prohíbe la tecnología de desnudez en sitios web y aplicaciones, lo que podría servir como prueba de hasta dónde pueden llegar los gobiernos para regular el uso de la inteligencia artificial.
La compañía presentó la demanda el lunes en un tribunal federal, días antes de que la ley entre en vigor el sábado y convierta a Minnesota en el primer estado que intenta ilegalizar la tecnología, cada vez más extendida, que permite a la gente usar IA para crear imágenes falsas de desnudos de personas reales. La ley fue promulgada en mayo.
En la demanda de 38 páginas, xAI —cuyo chatbot de modelo de IA y generador de imágenes, Grok, está disponible en X, antes Twitter, y en otros lugares— señaló que no cuestiona el interés del estado en prohibir la distribución de imágenes de desnudos generadas por IA de personas reales sin su consentimiento.
Pero sostuvo que la ley de Minnesota “va mucho más allá de ese objetivo”, al prohibir muchas imágenes y videos protegidos constitucionalmente y someter a la empresa a una sanción de 500.000 dólares por cada infracción.
La demanda argumenta que no existe una disposición de “puerto seguro” para las empresas que realizan esfuerzos de buena fe para impedir que los usuarios creen ese tipo de imágenes, y que la norma abarca imágenes que contaron con el consentimiento de la persona retratada, o incluso que fueron creadas por esa misma persona.
También afirma que la definición de “parte íntima” en la ley es excesivamente amplia, al incluir partes del cuerpo que se muestran de manera habitual en público.
En un comunicado, el fiscal general estatal de Minnesota, Keith Ellison, indicó que su oficina aún no había recibido formalmente la demanda ni la había visto.
“Pero sé que usar IA para generar imágenes de desnudos de personas contra su voluntad es espantoso. Hay que tener muchos debates valiosos sobre la política de IA. Este no es uno de ellos.
La desnudez generada por IA le arrebata la dignidad al objetivo y puede causar un daño inmenso a nivel emocional, personal y profesional”, manifestó Ellison.
Las leyes estatales sobre deepfakes electorales han tenido resultados dispares en los tribunales. La ley de California fue bloqueada por la garantía a la libre expresión establecida en la Primera Enmienda constitucional.
La ley de Minnesota, hasta ahora, ha sobrevivido a una impugnación judicial de 2025 presentada por la empresa de Musk.
La ley se distingue de las normas estatales y federales que prohíben los deepfakes, es decir, imágenes sexualmente explícitas generadas por IA de personas sin su consentimiento.
Esas leyes suelen sancionar a quienes usan las herramientas para crear estas imágenes, no a los fabricantes de las herramientas en sí.
La ley federal Take it Down Act, aprobada el año pasado, también exige que los sitios web y las aplicaciones implementen un proceso para retirar esas imágenes.
En la demanda, xAI indicó que los términos de servicio para usar Grok prohíben utilizarlo para “cualquier actividad ilegal, dañina o abusiva” que viole la privacidad de alguien, incluida la alteración de su imagen para desnudarlo o para representarlo en una imagen sexualmente explícita.
Señaló que hace cumplir esas reglas contra los infractores mediante suspensiones o cancelaciones de cuentas, y reportando contenido sospechoso de abuso sexual infantil.
XAI también afirmó a principios de este año que tiene “tolerancia cero ante cualquier forma de explotación sexual infantil, desnudez sin consentimiento y contenido sexual no deseado”.
Tras una reacción mundial por la circulación de imágenes sexualizadas de mujeres y niños, Grok dijo en enero que aplicaría un bloqueo geográfico al contenido si infringe las leyes de un lugar en particular, impidiendo que la gente edite fotos de personas reales con ropa reveladora en lugares donde eso sea ilegal.
El “spicy mode” (“modo picante”) de Grok permitía a los usuarios crear contenido explícito, lo que provocó una reacción de gobiernos de todo el mundo.
“Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis, ropa interior y otras prendas sugerentes”, señaló xAI en un comunicado de enero.
Marc Levy está en X como @timelywriter
