La Comisión Europea ha anunciado este lunes la apertura de una investigación contra la red social X por la creación de imágenes sexualizadas y desnudos sin consentimiento por parte de su inteligencia artificial, Grok, y que examinará si la compañía propiedad del magnate Elon Musk cumple con sus obligaciones bajo las leyes digitales europeas.

PUBLICIDAD

En un comunicado, Bruselas dijo que evaluará si X ha examinado adecuadamente y mitigado los riesgos asociados con la puesta en marcha de las funciones de Grok en la Unión Europea, incluyendo la posible distribución de contenido ilegal como imágenes manipuladas sexualmente explícitas e que incluso pueden considerarse material de abuso sexual infantil.

PUBLICIDAD

"Estos riesgos parecen haberse materializado. Por ello, la Comisión investigará si X cumple con sus obligaciones bajo la Ley de Servicios Digitales para evaluar y mitigar riesgos sistémicos (...) y de producir y enviar a la Comisión un informe de riesgos ad hoc sobre las funcionalidades de Grok que tengan un impacto clave en el perfil de riesgo de X antes de lanzarlo", señaló.

Incluso antes de lanzar la investigación, la Comisión Europea ya había ordenado a la red social X conservar toda su documentación interna relativa a Grok durante 2026, en el marco de la investigación que mantiene abierta a la plataforma para analizar su política contra los contenidos ilegales.

La orden llegó en plena polémica por las imágenes de niños y mujeres desnudas generadas por Grok en las últimas semanas y que llevaron al Gobierno francés a principios de año a denunciar a X ante los tribunales por los mismos motivos que ahora presenta la UE. A lo que se añade la creciente crispación internacional contra esta herramienta En Estados Unidos y otros países, numerosos usuarios han denunciado que la herramienta está siendo utilizada para generar imágenes no consensuadas de personas reales  en bikini o ropa interior, lo que ha motivado llamamientos públicos para restringir la funcionalidad de la IA y retirar el contenido generado.

Otros contenidos creados también por esta IA han sido criticados y puestos en el foco. Este fin de semana el Museo de Auschwitz denunciaba en sus redes sociales el blanqueo del Holocausto debido a unas imágenes creadas con Grok en las que se falseaban fotografías de ese periodo.

La Comisión Europea cree que, si da por probadas estas alegaciones, X estaría infringiendo varios artículos de la Ley de Servicios Digitales a la que está sujeta cuando opera en la Unión Europea, incluyendo sobre la evaluación y mitigación de riesgos sistémicos para los ciudadanos europeos.

Bruselas ya multó a X en diciembre con 120 millones de euros por incumplir sus obligaciones de transparencia de acuerdo a esta ley por el "diseño engañoso" de su marca de verificación azul, la falta de transparencia de su repositorio publicitario y la falta de acceso a los datos públicos para los investigadores.

En paralelo, Bruselas prorrogó también este lunes su investigación en marcha desde 2023 sobre si X cumple con sus obligaciones de gestión de riesgos de sus sistemas de recomendación de contenido, que incluirá el impacto de cambiar a uno basado en la inteligencia artificial de Grok.