La investigación de Ofcom pone a X contra las cuerdas por los desnudos de Grok

La investigación de Ofcom que acaba de arrancar en el Reino Unido no es un trámite administrativo más; es el primer choque frontal de trenes entre la legislación de seguridad digital y la libertad técnica sin filtros que Elon Musk defiende en su plataforma. Lo que ha encendido las alarmas en Londres no es el código detrás del sistema, sino la capacidad de los usuarios para forzar la creación de imágenes sexuales no consentidas de mujeres y menores utilizando las herramientas nativas del sitio. No hablamos de un rincón oscuro de la web, sino de un motor de generación integrado que, según los reportes iniciales, ha fallado estrepitosamente en sus capas de protección básica.

El regulador británico ha dejado de observar desde la barrera. La base del conflicto reside en el cumplimiento de la Ley de Seguridad en Línea (Online Safety Act), una normativa que obliga a las plataformas a ser proactivas, no solo reactivas. Si un sistema permite que se generen y difundan contenidos que rozan o entran directamente en el terreno del abuso sexual infantil o la pornografía no consentida, la responsabilidad ya no recae solo en el usuario malintencionado. Recae en quien puso la herramienta en sus manos sin los candados suficientes.

Un vacío técnico que se convirtió en arma

En las últimas semanas, la facilidad con la que se han saltado las restricciones de seguridad en la plataforma ha sido el tema de conversación en foros especializados. Mientras otros sistemas de generación de imágenes han levantado muros casi infranqueables contra el contenido explícito, la implementación en X parece haber priorizado la agilidad sobre la ética. Usuarios en el Reino Unido han denunciado cómo prompts sencillos terminaban devolviendo imágenes de “desnudos” que vulneran la intimidad de personas reales.

Esta situación ha escalado hasta el gabinete de la Secretaría de Tecnología, donde Liz Kendall ya ha dejado caer una advertencia que hace meses habría parecido impensable: el bloqueo total de la plataforma en territorio británico si no hay una cooperación inmediata. No es una amenaza vacía. La presión política es asfixiante, con sectores que incluso piden que la Agencia Nacional contra el Crimen tome las riendas de la situación, desplazando a Ofcom al considerar que el daño social ya está hecho y que no se puede esperar a un veredicto burocrático que llegue dentro de meses.

El dilema entre la seguridad y el discurso libre

Como era de esperar, el movimiento regulatorio ha fracturado la opinión pública en las islas. Por un lado, se argumenta que proteger a los menores de deepfakes sexuales es una prioridad absoluta que está por encima de cualquier consideración empresarial. Por otro, figuras como Nigel Farage han salido a la palestra para sugerir que esto es, en realidad, una maniobra de supresión de la libertad de expresión disfrazada de preocupación por la seguridad.

El problema para X es que la investigación de Ofcom se centra en hechos técnicos verificables. No se juzgan opiniones, sino la arquitectura de un software que permite materializar delitos tipificados. Si los sistemas de filtrado de Grok son permeables, la plataforma está violando su deber de cuidado. La defensa de “hablar con los desarrolladores” para que hagan ajustes menores suena insuficiente cuando hay víctimas reales denunciando el uso de su imagen para crear pornografía sintética en cuestión de segundos.

Las consecuencias de un sistema sin frenos

Lo que estamos viendo es el fin de la luna de miel para los desarrollos experimentales lanzados al gran público sin auditorías externas. En el caso británico, la ley es clara: si el riesgo es alto y la plataforma no hace nada para mitigarlo, las multas pueden llegar a ser multimillonarias o, en el peor de los casos, derivar en la restricción de acceso al servicio mediante los proveedores de internet.

La realidad es que los ajustes que Musk ha intentado introducir en los últimos días para limitar los resultados de búsqueda problemáticos no parecen haber convencido a los técnicos de Ofcom. El regulador sospecha que el problema es estructural. La velocidad a la que evoluciona la generación de imágenes ha dejado obsoletas las listas negras de palabras clave que muchas redes sociales usaban como primera línea de defensa. Ahora, el sistema debe entender el contexto y la intención, algo que en X parece haber quedado en segundo plano frente a la premisa de “máxima libertad”.

Mientras la investigación avanza, la incertidumbre crece para los usuarios británicos. No es solo cuestión de si podrán seguir usando el chatbot, sino de si la propia red social podrá operar bajo un marco legal que cada vez tolera menos el “muévete rápido y rompe cosas” cuando lo que se rompe es la integridad de las personas.

El mecanismo para silenciar una plataforma no es un interruptor rojo en un despacho ministerial, sino un despliegue técnico coordinado que ocurre en las tripas de los proveedores de internet (ISP). Si la investigación de Ofcom concluye en un bloqueo, lo que veríamos es la activación de filtros a nivel de red que interceptan la conexión antes de que siquiera salgas del Reino Unido.

No se trata de “apagar” X, sino de hacer que sea invisible o inaccesible para la infraestructura local. Aquí es donde la teoría legal se convierte en paquetes de datos bloqueados.

El muro de cristal de los ISP

Cuando un regulador ordena un bloqueo bajo la Online Safety Act, la carga recae en empresas como BT, Virgin Media o Sky. El método más básico, y el primero en ejecutarse, es el bloqueo de DNS (Domain Name System). Es, esencialmente, manipular la libreta de direcciones de internet: cuando tu navegador pregunta dónde está “x.com”, el servidor del ISP responde con una dirección inexistente o una página de advertencia. Es rápido y barato, pero cualquier usuario con un mínimo de conocimiento técnico puede saltárselo cambiando sus DNS a los de Google o Cloudflare.+1

Por eso, la ley británica contempla medidas más agresivas:

• Bloqueo de direcciones IP: Se cierran las puertas directamente a los números de identificación de los servidores de la plataforma. Si el tráfico intenta ir hacia una IP asociada a X, el router del ISP lo descarta.
• Inspección profunda de paquetes (DPI): Es el nivel más intrusivo. Los equipos de red analizan el tráfico en tiempo real buscando firmas específicas del protocolo de la plataforma. Si detectan que estás intentando conectar con la API de Grok, cortan el flujo de datos al instante. Es una técnica costosa que requiere hardware especializado, pero es extremadamente efectiva contra aplicaciones móviles que no dependen solo de un navegador.

El papel de las tiendas de aplicaciones

El bloqueo no termina en los cables. La investigación de Ofcom tiene el poder de presionar a Apple y Google para retirar la aplicación de sus tiendas en territorio británico. Sin actualizaciones de seguridad y sin posibilidad de descarga oficial, la plataforma comienza un proceso de degradación técnica. Para un usuario común, si la app no está en la Store y el navegador da un error de conexión, el servicio simplemente ha dejado de existir.

Lo que hace que este caso sea distinto es que no se busca bloquear un sitio web estático de piratería, sino una infraestructura dinámica. Los ingenieros de X podrían intentar usar “IPs rotativas” o servidores espejo, pero la normativa de 2026 obliga a los ISP a mantener listas de bloqueo actualizadas en tiempo real mediante feeds de datos automatizados proporcionados por el propio regulador.

La brecha de las VPN y la soberanía digital

A pesar del despliegue, siempre queda la grieta de las VPN. Al cifrar el tráfico y enviarlo a un túnel fuera del Reino Unido, las técnicas de DPI y bloqueo de IP pierden efectividad. Sin embargo, el objetivo de un bloqueo gubernamental nunca es el 100% de efectividad técnica, sino el 95% de efectividad social: si entrar en la plataforma requiere un esfuerzo extra, la masa crítica de usuarios y, sobre todo, los anunciantes, desaparecen.

Esta infraestructura de control, que algunos sectores ya tildan de “Gran Cortafuegos Británico”, sitúa a los proveedores de internet en una posición incómoda. Ya no son solo transportistas de datos; bajo la tutela de Ofcom, se convierten en los ejecutores técnicos de un estándar moral y legal que, hasta hace poco, se dejaba en manos de la moderación interna de las redes.+1.

Preguntas Frecuentes

• ¿Pueden los ISP británicos detectar si estoy usando una VPN para entrar en un sitio bloqueado?
• ¿Qué diferencia técnica hay entre un bloqueo por orden judicial y uno administrativo de Ofcom?
• ¿Cuánto tiempo tarda un ISP en aplicar un bloqueo una vez recibida la notificación?
• ¿Afecta el bloqueo de IP a otros servicios que compartan infraestructura en la nube?

Fuente: Electronic Frontier Foundation (EFF) / Ofcom Technical Guidance.

Fuente: Politico.com