Elon Musk vuelve a estar en el centro de la polémica, y esta vez es por cuenta de xAI, la compañía detrás del chatbot Grok. La firma presentó una demanda federal contra el estado de Minnesota apenas días antes de que entre en vigor una ley histórica que busca frenar la tecnología de “nudificación”, esa que permite crear fotos y videos falsos de personas desnudas usando inteligencia artificial. La norma, que se convertirá en la primera de su tipo en Estados Unidos, entra en vigencia este sábado 1 de agosto, y xAI quiere que un juez la bloquee antes de que eso pase.
Lo curioso es que la compañía de Musk no está diciendo que esté mal prohibir este tipo de contenido no consentido. De hecho, en su demanda de 38 páginas, xAI reconoce que Minnesota tiene todo el derecho de perseguir la distribución de imágenes desnudas generadas por IA sin permiso de la persona involucrada. El problema, según ellos, es que la ley “se extiende mucho más allá de ese objetivo” y termina castigando contenido que estaría protegido por la Primera Enmienda.
Por qué xAI dice que la ley es “torpe” y demasiado amplia
La demanda apunta directo contra el fiscal general de Minnesota, Keith Ellison, y describe la norma como “excesivamente amplia” y un “torpe intento” de prohibir la nudificación. Entre los argumentos más llamativos está que la definición legal de “parte íntima” incluiría partes del cuerpo que se muestran normalmente en público, como hombres sin camisa, personas en traje de baño o en pantalones cortos.
Además, xAI advierte que la ley no tiene ningún “puerto seguro” para empresas que hagan esfuerzos genuinos por evitar este tipo de contenido, ni siquiera si ya tienen controles técnicos casi perfectos para impedirlo. Y el tema del dinero también pesa bastante en el reclamo. Las multas pueden llegar a $500,000 dólares por cada infracción, y la propia compañía calculó que con apenas 100,000 imágenes prohibidas la exposición legal podría dispararse hasta unos escalofriantes 50,000 millones de dólares.
Las críticas en contra de xAI no se hicieron esperar
Como era de esperarse, la jugada de xAI no cayó nada bien entre quienes impulsaron la ley. La representante estatal Jess Hanson, autora de la versión del proyecto en la Cámara, calificó la demanda como “absolutamente asquerosa”. Por su parte, la senadora Erin Maye Quade, quien lideró la iniciativa, ya había anticipado este tipo de resistencia y fue tajante al respecto: dijo que su ley fue redactada específicamente para resistir desafíos legales mientras protege la libertad de expresión, y que seguirá “peleando contra las Big Tech y sus interminables intentos de sacar provecho del abuso sexual basado en imágenes”. Meses atrás, ya había advertido que las empresas “no pueden seguir soltando esta tecnología al mundo sin consecuencias”.
Muchos ven en esta demanda una jugada más de Musk para blindar a Grok, cuyo generador de imágenes ha estado envuelto en polémicas por permitir contenido sexualizado, y la interpretan como parte de un patrón donde las grandes tecnológicas priorizan su negocio antes que la seguridad de los usuarios.
Apple y Google también están bajo la lupa
Este no es un problema exclusivo de xAI. Las apps de “desnudificación” llevan meses bajo escrutinio total, y tanto Apple como Google ya han tenido que reaccionar. Una investigación del Tech Transparency Project detectó decenas de estas aplicaciones camufladas en la App Store y en Google Play, lo que obligó a ambas empresas a eliminar decenas de ellas.
La presión se intensificó cuando el fiscal de San Francisco, David Chiu, envió cartas de cese y desistimiento exigiendo la retirada de al menos 13 apps de este tipo, dándole a ambas compañías un plazo de 28 días para actuar. Google ya dejó claro que su política prohíbe representaciones de desnudos sexuales, mientras que Apple prohíbe explícitamente el material “abiertamente pornográfico”. El caso de Minnesota podría convertirse en el primer gran test judicial sobre hasta dónde pueden llegar los estados para regular la inteligencia artificial, y todo el sector tecnológico está mirando de cerca cómo termina.
Sigue leyendo:
• “Cada momento lo convirtió en porno”: cómo un amigo me traicionó usando mi imagen con inteligencia artificial
• Descubren más de 100 que crean desnudos con IA en Play Store y App Store: el lado oscuro de los deepfakes
• Apple y Google, contra las cuerdas por las apps que desnudan con IA