La empresa de inteligencia artificial xAI, fundada por Elon Musk, decidió restringir la función de generación y edición de imágenes del chatbot Grok en la red social X exclusivamente a suscriptores de pago, tras una ola de críticas por el uso de la herramienta para crear imágenes sexualizadas.

La decisión se produce luego de que se detectara que la función era utilizada para generar o modificar imágenes de mujeres y menores con vestimenta mínima, en muchos casos sin consentimiento, lo que provocó un fuerte rechazo público y político. La circulación masiva de este tipo de contenido llevó a legisladores europeos a exigir acciones legales contra la plataforma.

Autoridades de la Unión Europea calificaron las imágenes como ilegales, mientras que el ministro alemán de Medios de Comunicación, Wolfram Weimer, describió el fenómeno como una “industrialización del acoso sexual”. En paralelo, el regulador de datos del Reino Unido solicitó explicaciones a X sobre el cumplimiento de las leyes de protección de datos ante la preocupación de que Grok estuviera generando contenido de abuso sexual.

A partir de este ajuste, Grok informó dentro de X que las funciones de generación y edición de imágenes solo están disponibles para usuarios con suscripción de pago. Sin embargo, la aplicación independiente de Grok, que opera fuera de la red social, continúa permitiendo la creación de imágenes sin necesidad de suscribirse.

Una reportera de Reuters comprobó la restricción al solicitar a Grok en X que transformara una fotografía suya en una imagen con bikini, una petición común en los últimos días. El chatbot rechazó la solicitud y respondió que la herramienta está limitada a suscriptores.

Ante una solicitud de comentarios, xAI respondió mediante un mensaje automatizado acusando “mentiras de los medios tradicionales”, mientras que X no emitió una respuesta inmediata. La semana pasada, Elon Musk advirtió que cualquier usuario que emplee Grok para crear contenido ilegal afrontará las mismas consecuencias que si lo publicara directamente en la plataforma.