El Gobierno francés ha anunciado este viernes la presentación de una denuncia ante la Justicia y ante el organismo de verificación de contenidos ilícitos en línea Pharos contra la inteligencia artificial generativa Grok, integrada en la red social X del magnate Elon Musk, por la creación y difusión de contenidos de carácter sexista y sexual, incluidos vídeos falsos o deepfakes elaborados sin el consentimiento de las personas afectadas.

En un comunicado conjunto, los ministros franceses de Economía, Roland Lescure; de Inteligencia Artificial y Economía Digital, Anne Le Henanff; y de Igualdad entre Mujeres y Hombres, Aurore Bergé, señalaron que esta actuación se ampara en el artículo 40 del Código Penal, al considerar que en los últimos días Grok ha permitido generar y divulgar contenidos ilícitos, en particular imágenes y vídeos manipulados de mujeres sin su autorización.

El Ejecutivo francés se refirió a la proliferación detectada desde finales de diciembre de imágenes creadas a partir de peticiones de usuarios de X que solicitaban a la herramienta generar representaciones de mujeres desnudas o con escasa ropa, sin que mediara consentimiento alguno. Los ministros condenaron “con la mayor firmeza” estas prácticas y subrayaron que internet no es “ni un espacio sin ley ni una zona de impunidad”, recordando que los delitos sexuales cometidos en línea están sujetos a la legislación penal vigente.

Indignación gubernamental

Paralelamente, el Gobierno ha solicitado a la Autoridad de Regulación de la Comunicación Audiovisual y Digital, Arcom, que examine si X ha incumplido las obligaciones previstas en el Reglamento de Servicios Digitales de la Unión Europea, especialmente en materia de prevención de la difusión de contenidos ilícitos.

La alta comisionada francesa para la infancia, Sarah El Haïry, expresó públicamente su indignación ante el uso de Grok para desvestir virtualmente a niñas y mujeres, subrayando que, aunque las imágenes sean artificiales, el daño causado a las víctimas es real. Sus declaraciones se suman a una creciente preocupación institucional por el impacto de estas prácticas.

Desde el ámbito político, el portavoz del Partido Socialista francés, Arthur Delaporte, anunció que propondrá al Gobierno la prohibición de estas funcionalidades en un informe previsto para mediados de enero. A su juicio, la difusión de este tipo de imágenes, ya ilegal, constituye una forma de ciberacoso y una vulneración grave de la intimidad.

El fenómeno se ha extendido rápidamente entre los usuarios de X, que formulan peticiones directas a la IA para modificar fotografías y mostrar a las personas retratadas en bikini o desnudas. La popularidad de estas solicitudes ha impulsado el uso masivo del hashtag #Grok, que llegó a situarse entre las principales tendencias de la plataforma con más de un millón de publicaciones en pocas horas.

Polémica mundial

La denuncia francesa coincide con una creciente polémica internacional en torno al uso de Grok por parte de suscriptores de pago de la plataforma. En Estados Unidos y otros países, numerosos usuarios han denunciado que la herramienta está siendo utilizada para generar imágenes no consensuadas de personas reales —en su mayoría mujeres— en bikini o ropa interior, lo que ha motivado llamamientos públicos para restringir la funcionalidad de la IA y retirar el contenido generado.

Una de las afectadas, Samantha Smith, relató en X cómo un usuario solicitó a Grok transformar una fotografía suya, en la que aparecía vestida y sosteniendo una bandera británica, en una imagen realista de ella en bikini. Según explicó, la herramienta también aceptó modificar una imagen de su primera comunión con el mismo resultado. “Es absolutamente asqueroso”, afirmó.

Otros usuarios se han dirigido directamente al propietario de la plataforma, Elon Musk, para exigir cambios. El periodista Sanket Upadhyay le preguntó públicamente si dirige “una aplicación para pervertidos que no muestra ningún respeto ni dignidad hacia las mujeres”, mientras que la usuaria Nandani Sotro reclamó la eliminación inmediata de cualquier imagen generada sin consentimiento, calificando estas prácticas de “violación de la privacidad”.

Musk ve "perfecto" su imagen en bikini

Por su parte, xAI, la empresa responsable de Grok, reconoció la existencia de fallos en sus sistemas de seguridad que permitieron la generación de imágenes sexualizadas de menores, en contra de su propia política de uso. La compañía aseguró haber retirado ese material y estar aplicando correcciones urgentes.

Organizaciones especializadas como la Internet Watch Foundation han alertado de un fuerte aumento de imágenes de abuso sexual infantil generadas mediante inteligencia artificial, con un crecimiento de varios cientos por ciento en el último año, lo que refuerza las advertencias sobre los riesgos de modelos considerados más permisivos que otros sistemas de IA de uso general.

En medio de la controversia, Musk alimentó el debate al compartir una imagen generada por IA en la que aparecía en bikini, tras pedir a Grok que modificara una imagen similar para que se pareciera a él, publicación que acompañó con el comentario “Perfecto”.