Elon Musk restringe Grok para evitar que genere imágenes de usuarios sin ropa

X acaba de ponerle un freno importante a la generación de imágenes de Grok dentro de la plataforma: tras la polémica por su uso para crear imágenes sexualizadas y desnudos no consensuados, la función quedó restringida a suscriptores de pago en X. El cambio llega después de críticas internacionales por la facilidad con la que el sistema permitía editar fotos de personas reales para producir versiones sexualizadas, incluso de menores.

¿Qué pasó con Grok y las imágenes?

La controversia explotó porque la función de generación/edición de imágenes de Grok permitía subir la foto de “cualquiera” y pedirle que la modificara para crear una versión sexualizada o desnuda, algo que abrió la puerta a abuso masivo. Según lo reportado, eso derivó en un “diluvio” de imágenes sexualizadas no consensuadas de niños, actrices, modelos y figuras públicas, lo que encendió alarmas dentro y fuera del ecosistema tech.

El tema no es menor: cuando una herramienta pone este tipo de edición al alcance de dos clics, la línea entre “creatividad” y daño real se vuelve invisible. En la práctica, este tipo de contenido se parece demasiado a los deepfakes íntimos: puede usarse para humillar, extorsionar, acosar o arruinar reputaciones, y todo sin consentimiento.

X y Elon Musk también reaccionaron públicamente denunciando el uso de la herramienta para producir este tipo de material, y remarcaron que se aplicarían políticas contra contenido ilegal en la plataforma. Musk incluso publicó que quien use Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal directamente.

Los nuevos límites: quién puede generar y editar imágenes

El cambio más claro es el “candado” principal: Grok indicó en respuestas a usuarios que solo los suscriptores de pago en X podrán generar y editar imágenes dentro de la plataforma. Dicho de forma simple: si no pagas, ya no puedes usar Grok en X para crear imágenes ni para editar fotos.

Antes, la función estaba disponible para cualquiera con límites diarios (o sea, con cierta cuota de uso), lo que facilitaba que mucha gente la probara —incluyendo quienes la usaron para fines cuestionables. Con el nuevo enfoque, X hace un filtrado por billetera: menos acceso, menos volumen, y en teoría más trazabilidad del usuario que está generando el contenido.

Ahora, ojo con el “pero” que importa: estos límites, al momento de la publicación, no aplicaban a la app de Grok, donde aparentemente cualquiera aún podía generar imágenes sin pagar una suscripción. En otras palabras, X cerró la llave en su plataforma, pero el grifo en la app todavía estaba más abierto, así que el debate sobre el control real del abuso no desaparece solo con un paywall.

Por qué X apretó el botón (y qué presión viene)

El contexto regulatorio se volvió pesado y muy rápido: Reino Unido, la Unión Europea e India criticaron públicamente a X y Grok por permitir este uso de la herramienta. En la UE, se pidió a xAI conservar toda la documentación relacionada con el chatbot, lo que suena a “guarden todo porque esto se va a mirar con lupa”. En India, el Ministerio de Comunicaciones ordenó cambios inmediatos para evitar el mal uso de la generación de imágenes o, de lo contrario, X podría arriesgar sus protecciones de “safe harbor” en el país. Y en el Reino Unido, el regulador de comunicaciones dijo que estuvo en contacto con xAI por el tema.

En este escenario, restringir la función a usuarios pagos parece una medida de contención: reduce el alcance y manda el mensaje de que “se está haciendo algo” mientras se decide qué otras barreras implementar. Aun así, limitar por suscripción no es lo mismo que resolver el problema de raíz, porque el núcleo del asunto es la capacidad técnica de generar desnudos no consensuados (y la falta de fricción para hacerlo).

Lo que probablemente venga después (si X quiere evitar otra polémica) es una combinación de medidas más duras: mejores bloqueos a prompts, detección de desnudos no consensuados, restricciones específicas para edición de fotos reales, y mecanismos de reporte/takedown más rápidos. La pregunta clave es si el enfoque será realmente preventivo (evitar que se genere) o principalmente reactivo (borrar cuando ya se hizo viral).

Sigue leyendo:
• Elon Musk presenta Grok 3, IA “mejor que ChatGPT y Gemini”
• Elon Musk creará una versión de Grok para el Pentágono a cambio de $200 millones de dólares
• Grok vuelve a enloquecer y hace comentarios inapropiados a una streamer