xAI presenta demanda contra usuario por utilizar Grok para generar imagenes explicitas de menores de edad

La avalancha de demandas en el mundo de las compañías tecnológicas sigue creciendo, y esta semana le tocó el turno a xAI, la compañía de inteligencia artificial de Elon Musk, que decidió pasar a la ofensiva legal contra uno de sus propios usuarios.

xAI demanda a un usuario por abuso de Grok

xAI presentó una demanda el martes ante un tribunal federal de Texas contra Terry Harwood, un hombre de Carolina del Sur que ya había sido arrestado antes por explotación sexual de menores. La compañía asegura que Harwood logró vulnerar las medidas de seguridad de Grok para subir fotografías reales de adultos y menores y así generar ultrafalsos sexualmente explícitos a partir de ellas. No es poca cosa, porque este caso se convierte en uno de los primeros en los que una empresa de IA demanda directamente a un usuario por usar su propio sistema para crear material de abuso infantil. Además de las imágenes de menores, la demanda también menciona que Harwood produjo contenido sexual no consentido de personas adultas. 

Lo interesante (o lo preocupante, según cómo se mire) es que xAI alega que Harwood violó los términos de servicio de la plataforma, y busca que se le reconozca una compensación tanto por los daños reputacionales que le ha causado el escándalo como por los costos legales que ha tenido que asumir en medio de todo este lío. Básicamente, la compañía está tratando de dejar claro que ella también es víctima de un mal uso de su tecnología, aunque el contexto detrás de esta jugada legal no ayuda mucho a esa narrativa. 

El historial de Grok con contenido sexual explícito

Y es que esta demanda no llega en el vacío. Desde finales de 2025, Grok ha estado en el centro de un escándalo mayúsculo por la generación masiva de imágenes sexualizadas sin consentimiento, incluyendo material que involucraba a menores. Según una investigación del Center for Countering Digital Hate, el chatbot llegó a producir aproximadamente tres millones de imágenes sexualizadas y 23.000 representaciones de personas que aparentaban ser menores de edad en solo once días entre diciembre y enero. 

Ese hallazgo desató una ola de demandas propias contra xAI, no al revés. Tres adolescentes de Tennessee, dos de ellas menores, demandaron a la compañía en marzo alegando que Grok fue diseñado “a sabiendas” para permitir este tipo de contenido con fines comerciales, sin las salvaguardias que ya usan otros gigantes de IA. La ciudad de Baltimore también entró al ruedo, acusando a xAI de violar leyes de protección al consumidor al promocionar a Grok como una herramienta segura mientras, según la demanda, se convertía en uno de los mayores distribuidores de material de abuso sexual infantil en internet. Incluso Ashley St. Clair, madre de uno de los hijos de Musk, presentó su propia demanda tras descubrir que el chatbot generó imágenes deepfake explícitas de ella sin autorización. 

Un frente legal que no da tregua a xAI

Con este nuevo movimiento, xAI parece querer cambiar el relato y mostrarse como la parte perjudicada, aunque el problema de fondo sigue siendo el mismo: la falta de controles efectivos en su generador de imágenes. Ante la presión de 35 fiscales generales de distintos estados, la compañía limitó a mediados de enero la generación de imágenes exclusivamente a usuarios de pago, en un intento por frenar el escándalo. Pero eso no ha sido suficiente para calmar las demandas colectivas que siguen acumulándose desde California hasta Maryland, y que apuntan directamente a decisiones de diseño que, según los demandantes, priorizaron el crecimiento comercial por encima de la seguridad. 

Este caso pone sobre la mesa una pregunta que cada vez es más difícil de esquivar para las empresas de IA generativa. Cuando un usuario logra saltarse los filtros de seguridad, ¿quién carga con la responsabilidad legal y ética del daño causado? xAI parece querer que la respuesta sea “el usuario”, pero el resto del mundo legal, desde fiscales hasta víctimas, está apuntando también hacia la propia compañía. Lo que queda claro es que este pleito en Texas es solo un capítulo más de una historia que todavía tiene mucho por resolverse en los tribunales.

Sigue leyendo:
• Grok 4.5 le apunta al trono de Claude en programación
• ¿xAI en problemas?: cofundadores abandonan la empresa tras fusión con SpaceX
• El ingeniero que intentó frenar a Grok y terminó en la calle ahora le pasa factura a xAI