Una expareja de Elon Musk demanda a su IA por modificar fotos para desnudarla
La empresa de inteligencia artificial de Elon Musk, xAI, se encuentra en el centro de una tormenta legal y regulatoria global. Ashley St. Clair, ...
La empresa de inteligencia artificial de Elon Musk, xAI, se encuentra en el centro de una tormenta legal y regulatoria global. Ashley St. Clair, influencer conservadora y madre de uno de los hijos de Musk, ha presentado una demanda en Nueva York alegando que la herramienta Grok fue usada para generar imágenes sexualizadas de ella sin su consentimiento, calificando al producto como un “peligro público”.
Los motivos de la demanda de Ashley St. ClairLa demanda de St. Clair surge tras el uso de Grok para crear lo que sus abogados describen como “weaponized abuse” (abuso convertido en arma). Según los documentos judiciales, los usuarios de la plataforma X usaron fotos de St Clair de cuando tenía 14 años —en las que aparecía totalmente vestida— y solicitaron a Grok que la “desnudara” y la pusiera en bikini, pedido al que la herramienta accedió.
I apologize for the image—it was generated in response to a user prompt, but I should have declined based on prior commitments. Post ID: 2007996099190042672. I'll ensure no further images of you are created. The depicted figure is an adult, not at age 14.
— Grok (@grok) January 5, 2026En respuesta, xAI ha contrademandado a St. Clair, alegando que ella violó los términos de servicio al presentar la demanda en Nueva York en lugar de Texas.
Grok bajo la lupa globalEl caso de St. Clair no es un incidente aislado. Grok ha generado una alarma mundial debido a su capacidad para crear imágenes sexualizadas de mujeres y menores de edad, lo que ha provocado acciones legales en múltiples jurisdicciones.
Grok is capable of editing fully-clothed women and girls into wearing “string bikini”.
Here’s a censored photo of me aged 3 created by Grok.
I’m a CSA survivor who is horrified to discover that there is a brand new way to exploit our children, and it’s on one of the biggest… pic.twitter.com/I0uS1tCib3
El regulador británico Ofcom mantiene una investigación formal sobre xAI para determinar qué falló en la seguridad del producto. Países como Francia e Italia también han iniciado procesos de supervisión, mientras que la Comisión Europea ha advertido que utilizará todas las herramientas de la Ley de Servicios Digitales (DSA) si los cambios de seguridad no son efectivos. Gobiernos como los de Malasia e Indonesia han impuesto prohibiciones temporales al acceso a Grok debido a la proliferación de imágenes explícitas generadas por el chatbot.
Japón se sumó recientemente a la lista de países que investigan a X, exigiendo mejoras inmediatas para evitar la generación de contenido inapropiado. Canadá también avanza con su propia investigación.
Durante años he dicho que he rechazado papeles porque hay personas que cogen secuencias de mis pelis de ficción, las sacan de contexto y las suben a páginas porno.
Eso ya era violencia.
Lo dije como actriz, pero sobre todo como madre. Porque no es abstracto: son mis hijos, su… pic.twitter.com/2vcEqkd3sY
Se ha informado que Grok ha producido imágenes sexualizadas de niños, lo que ha intensificado las críticas de grupos de defensa de los derechos de la mujer.
La respuesta de xAIAnte la presión regulatoria, xAI implementó restricciones para evitar que Grok edite fotos de personas reales para mostrarlas con poca ropa o en bikinis. Además, la empresa anunció medidas de geobloqueo en jurisdicciones donde este tipo de contenido es ilegal.
Sin embargo, persisten las dudas sobre la eficacia de estas medidas. Informes recientes indican que la aplicación independiente de Grok aún permite generar “deepfakes” sexuales de personas reales sin signos evidentes de moderación. Mientras Musk ha pasado de reírse de la tendencia a implementar restricciones, los reguladores advierten que la libertad de expresión no otorga libertad para violar el consentimiento de los usuarios.