Gran Bretaña evalúa prohibir X tras supuesta generación de imágenes inapropiadas por Grok

Las autoridades británicas apuntan a la plataforma de Elon Musk tras un incidente con su modelo de IA.

El escándalo de contenido

La Financial Conduct Authority (FSA) —en un movimiento que recuerda a su tradicional aversión a la innovación financiera— ha iniciado consultas para una posible suspensión de X en el Reino Unido. El detonante: reportes de que Grok, el modelo de lenguaje de xAI integrado en la plataforma, habría generado material visual explícito que viola las regulaciones locales de contenido.

Respuesta y repercusiones

X Corp. no ha confirmado los incidentes, pero fuentes cercanas al desarrollo señalan "fallos de filtro en fase beta". La amenaza de prohibición llega en un momento crítico para la integración de criptoactivos en la red social, que busca posicionarse como hub de pagos digitales. Un veto británico podría enfriar la adopción institucional justo cuando los grandes bancos exploran canales en plataformas sociales.

El mensaje es claro: incluso la IA más disruptiva tropieza con la burocracia regulatoria. Mientras los algoritmos aprenden, los comités de cumplimiento preparan sus tijeras.

Kier Starmer insta a Ofcom a poner todas las opciones sobre la mesa

El primer ministro del Reino Unido, Kier Starmer, solicitó a la Oficina de Comunicaciones (Ofcom), el organismo de control de internet del Reino Unido, que presentara todas las opciones al considerar el caso de Musk después de que Grok, la aplicación de xAI, generara presuntamente imágenes delictivas de mujeres jóvenes y niños. Según un informe del Telegraph, la Ley de Seguridad en Línea del Reino Unido permite al país imponer multas millonarias a la aplicación X, o incluso bloquear el acceso a X en Gran Bretaña. 

La aplicación X tiene más de 650 millones de usuarios en todo el mundo, de los cuales al menos 20 millones son del Reino Unido. El primer ministro Starmer advirtió en Greatest Hits Radio que X debería actuar con sensatez y retirar el material, añadiendo que se tomarán medidas contra la aplicación de Musk porque simplemente es intolerable. Advirtió después de que aparecieran varias imágenes de mujeres y niños desnudos junto a otros en bikini, supuestamente generadas por el Grok .

X tiene que controlar esto, y Ofcom cuenta con todo nuestro apoyo para tomar medidas al respecto. Esto está mal. Es ilegal. No lo vamos a tolerar. He solicitado que se consideren todas las opciones

-Kier Starmer, primer ministro del Reino Unido 

Hasta el momento, se espera que el regulador siga el debido proceso legal antes de aplicar la prohibición, incluyendo investigaciones y resoluciones provisionales. Si X no resuelve las preocupaciones de Ofcom, el regulador podría intentar bloquear el sitio web en el Reino Unido. Ofcom ya contactó a la plataforma de redes sociales esta semana, indicando que podría iniciar una investigación sobre las imágenes. 

Musk cree que la intención de la OSA es la supresión del pueblo

Musk ha criticado la Ley de Seguridad en Línea (OSA) británica, alegando que su objetivo es reprimir a la ciudadanía. Según Musk, la OSA del Reino Unido corre el riesgo de vulnerar la libertad de expresión con sus medidas para proteger a los niños de contenido dañino. Musk señaló que las intenciones "loables" de la ley incluían una implementación agresiva a través de Ofcom.

Alexander Ngaire, director de la línea directa de la organización benéfica Internet Watch Foundation, declaró a la BBC que herramientas como Grok corrían el riesgo de introducir imágenes sexuales de IA dirigidas a menores en los medios de comunicación tradicionales. Clasificó el material como Categoría C según la legislación del Reino Unido, la categoría más baja para fines delictivos. Añadió que el usuario que subió las imágenes había utilizado una herramienta de IA diferente, no Grok, para crear una imagen de Categoría A, considerada el material delictivo más grave.

Según Ngaire, a la IWF le preocupa la facilidad y rapidez con la que se genera material de abuso sexual infantil (MASI) fotorrealista. La fundación busca eliminar dicho material de internet a través de una línea directa donde se denuncian casos sospechosos de MASI, y sus analistas evalúan su legalidad y gravedad. Los analistas de la IWF descubrieron que el material solo aparecía en la red oscura y no se encontraba en la plataforma X.

Según X, se tomarán medidas contra el contenido ilegal en su plataforma, incluido el abuso sexual infantil (CSAM), eliminándolo y suspendiendo permanentemente las cuentas, además de colaborar con los gobiernos locales y las fuerzas del orden cuando sea necesario. La plataforma social advierte que cualquiera que incite a Grok a crear contenido ilegal enfrentará las mismas consecuencias que si lo hubiera subido él mismo. 

Si estás leyendo esto, ya estás al tanto. Sigue leyendo nuestro boletín .