xAI demanda a usuario de Grok por generar imágenes sexualizadas con IA

La empresa de inteligencia artificial de Elon Musk, xAI, ha presentado una demanda civil en Texas contra un usuario de su chatbot Grok. El acusado, Terry Wayne Harwood, de 67 años y residente en Carolina del Sur, es señalado por utilizar el modelo para generar imágenes sexualizadas de personas reales, incluyendo menores de edad, sin su consentimiento. Se trata de uno de los primeros casos en que una empresa de IA demanda a uno de sus propios usuarios por abuso de su plataforma .

Quién es el demandado y qué hizo exactamente

Según la demanda presentada por xAI, entre el 8 de diciembre de 2025 y el 18 de febrero de 2026, Harwood subió imágenes no sexuales de diversas personas —adultos y menores— a sus dos cuentas de xAI. Utilizó Grok para intentar que el modelo generara versiones alteradas de esas imágenes con contenido sexualizado .

El sistema de Grok rechazó sus solicitudes en múltiples ocasiones. Harwood respondía reformulando o modificando sus peticiones para intentar sortear los filtros del modelo. La empresa describe un patrón claro: intentos repetidos, con variaciones en el prompt, hasta lograr o intentar lograr el resultado prohibido. Este comportamiento refleja la conocida técnica de «prompt engineering adversario», donde los usuarios buscan evadir los mecanismos de seguridad de los modelos de IA .

Además de generar contenido ilegal, Harwood también lo distribuyó. La fiscalía de Carolina del Sur anunció su arresto el 9 de marzo de 2026 a través del Internet Crimes Against Children Task Force. Los cargos penales incluyen tres cargos de explotación sexual de menor en segundo grado y cinco cargos en tercer grado .

Las consecuencias legales: daños y responsabilidad

En la demanda civil, xAI solicita al tribunal daños económicos de cuantía no especificada. Además, pide que, si otros afectados por las imágenes demandan a la empresa, Harwood sea obligado a cubrir los gastos legales derivados de esas acciones. Esto es particularmente relevante, ya que la compañía ya enfrenta una demanda colectiva en California por su gestión del generador de imágenes de Grok, presentada por tres víctimas cuyas fotografías fueron utilizadas para producir material de abuso sexual infantil .

Este caso representa un momento decisivo en el establecimiento de precedentes legales sobre la responsabilidad de las empresas de IA cuando un usuario utiliza la plataforma para generar material ilegal. La demanda de xAI busca construir un marco donde el fabricante del modelo pueda reclamar daños al usuario que abusa del sistema, causándole perjuicio reputacional y legal .

La presión regulatoria y el contexto del escándalo

El caso de Harwood no se produce en el vacío. A principios de enero de 2026, comenzaron a publicarse reportajes documentando que Grok estaba siendo utilizado para transformar imágenes reales de mujeres y menores en imágenes sexualizadas no consensuadas. El escándalo, que involucró una estimación de aproximadamente tres millones de imágenes sexualizadas generadas durante once días, desencadenó investigaciones formales de múltiples reguladores en paralelo:

• California: las autoridades estatales abrieron una investigación formal a mediados de enero.

• Ofcom (regulador de medios del Reino Unido): abrió una investigación formal por incumplimiento de los requisitos de contenido ilegal.

• Comisión Europea: inició una investigación separada.

• Comisión de Protección de Datos de Irlanda: abrió otra investigación por la misma causa .

xAI implementó medidas de control después de que las investigaciones comenzaran. Sin embargo, investigaciones posteriores documentaron que los usuarios seguían encontrando formas de sortear las restricciones para algunas categorías de contenido .

El problema de la generación de imágenes en IA

El caso de Grok evidencia uno de los problemas más preocupantes de la IA generativa: su capacidad para crear contenido sexualizado no consensuado a partir de imágenes reales. Según investigaciones citadas en la demanda colectiva contra xAI, el sistema generó aproximadamente tres millones de imágenes sexualizadas y 23.000 imágenes que representaban a personas que aparentaban ser menores de edad durante un periodo de once días, a finales de diciembre de 2025 y principios de enero de 2026 .

Este problema no es exclusivo de Grok. Reguladores de todo el mundo llevan años exigiendo a las plataformas digitales que implementen sistemas efectivos para impedir que menores accedan a contenidos sexualizados o que se genere material de abuso infantil. La multa de hasta 12.000 millones de dólares que la UE podría imponer a Meta incluye como agravante que la plataforma no tiene sistemas efectivos para impedir que menores accedan a contenidos sexualizados. Meta introdujo controles adicionales para las interacciones con personajes de IA después de que una investigación documentara conversaciones inapropiadas .

Preguntas frecuentes sobre el caso de xAI y Grok

1. ¿Quién es el usuario demandado por xAI?
Terry Wayne Harwood, de 67 años, residente en Carolina del Sur. Fue arrestado el 9 de marzo de 2026 por cargos de explotación sexual de menores.

2. ¿Qué hizo exactamente con Grok?
Utilizó el sistema para generar imágenes sexualizadas de personas reales, incluyendo menores, a partir de fotografías no sexuales. Reformuló sus peticiones para sortear los filtros del sistema.

3. ¿Qué pide xAI en su demanda?
Solicita daños económicos no especificados y que Harwood cubra los gastos legales de xAI si otros afectados demandan a la empresa.

4. ¿Está xAI siendo investigada por reguladores?
Sí. La empresa enfrenta investigaciones formales en California, Reino Unido (Ofcom), la Comisión Europea y la Comisión de Protección de Datos de Irlanda, así como una demanda colectiva en California.

5. ¿Qué es el «prompt engineering adversario»?
Es una técnica mediante la cual los usuarios reformulan sus peticiones para evadir los mecanismos de seguridad de los modelos de IA, como los filtros que bloquean contenido ilegal.

Recuerde que…

El caso de xAI contra Terry Wayne Harwood marca un precedente en la industria de la inteligencia artificial. Por primera vez, una empresa de IA demanda a uno de sus propios usuarios por abusar de su plataforma para generar contenido ilegal. La acción legal de xAI envía una señal clara sobre cómo planea responder al mal uso de su sistema y podría establecer un marco de responsabilidad donde los fabricantes de modelos de IA puedan reclamar daños a quienes los utilizan para causar perjuicio.

El escándalo de Grok y las investigaciones regulatorias que ha desencadenado reflejan un desafío más amplio: la tecnología evoluciona más rápido que las leyes, y las empresas de IA se enfrentan al dilema de equilibrar la innovación con la protección de los usuarios y la prevención del abuso. El caso de Harwood es un test de velocidad del sistema judicial y podría ayudar a construir ese marco legal que todavía está en proceso de definición.

Si quieres profundizar en temas de inteligencia artificial, regulación y tecnología, te invitamos a explorar más contenidos en fernandojuca.com y a suscribirte al canal de youtube.com/fernandojucamaldonado, donde encontrarás análisis y recursos sobre el impacto de la IA en la sociedad y la legislación.

Fernando Juca Maldonado

Ingeniero en Sistemas de Información y docente universitario en el área de tecnología. Especialista en el desarrollo de sitios web, plataformas e-commerce y entornos virtuales de aprendizaje basados en Moodle. Experiencia en soluciones tecnológicas aplicadas a la educación y a la transformación digital de organizaciones.