Vulnerabilidades con IA en infraestructura crítica en 90 h

Vulnerabilidades con IA en infraestructura crítica dejaron de ser una promesa de laboratorio. Un sistema armado con modelos comerciales de uso general halló 99 fallos en 90 horas en el software de red de equipos industriales, dispositivos médicos y aparatos conectados.

Forescout Research – Vedere Labs, el brazo de investigación de Forescout, publicó el estudio el 12 de noviembre con el título «Finding Critical Infrastructure Bugs with Off-the-Shelf AI». La pregunta de partida era incómoda: ¿puede cualquiera, con presupuesto corto y modelos que se venden al público, encontrar fallos reales en el código que sostiene servicios esenciales?

La respuesta quedó en cifras. De las 99 vulnerabilidades validadas, 66 eran nuevas para todo el mundo. El 52 % de esas 66 recibió gravedad alta o crítica, y el 29 % vive en componentes centrales de la pila de red, no en funciones laterales que un atacante apenas pueda tocar.

Una pila TCP/IP es la pieza de software que permite a un dispositivo hablar con la red: procesa los paquetes que llegan e interpreta los protocolos. Contiki la usa el alumbrado inteligente de bajo consumo, lwIP corre en aparatos pequeños, wolfIP en sistemas de tiempo real delicados y Ethernut en dispositivos de red con años de servicio.

Siete de las 10 pilas revisadas ya habían pasado por el Proyecto Memoria, la investigación manual que Vedere Labs cerró en 2021 tras 18 meses de trabajo y cerca de 100 vulnerabilidades publicadas en 14 pilas. Tres entraron por primera vez a la mesa de examen.

Diez horas de análisis y ochenta de comprobación

Forescout armó un sistema que mezcla pasos fijos con agentes de inteligencia artificial. Herramientas de análisis estático como Semgrep y Joern barren el código con 32 reglas escritas para los errores típicos de estas pilas, y los agentes razonan sobre cada candidato: si el código vulnerable se puede alcanzar con datos de un atacante y si el fallo se puede disparar de verdad.

Como motor trabajaron los modelos Claude de Anthropic. Las versiones rápidas de la familia Sonnet, con nivel de razonamiento alto, cubrieron las primeras etapas, y las versiones Opus, de la 4.6 a la 5, entraron en la verificación dinámica, donde el programa se ejecuta en un entorno emulado y el agente intenta provocar el fallo con una prueba real.

Las horas cuentan el cambio de escala. El análisis autónomo tomó unas 10 horas y la validación con investigadores humanos sumó cerca de 80 más. El mismo ejercicio, hecho a mano seis años atrás, consumió unos nueve meses de lectura de código.

Barato, además. El análisis estático completo costó US$935, con un promedio de US$2,58 por cada candidato procesado, y el gasto total en modelos quedó entre US$1.200 y US$2.300, unas cien veces menos que pagar a un investigador veterano durante meses.

Hubo límites claros, y el propio equipo los dejó escritos. Cerca de la mitad de los fallos nuevos fueron de corrupción de memoria, un 27 % tocó operaciones con números enteros, un 16 % nació de validaciones de entrada flojas y un 8 % correspondió a errores de lógica, donde el sistema rindió peor: varios aparecieron casi por accidente.

También redescubrió 33 fallos que el Proyecto Memoria ya había publicado, el 40 % del total conocido en esas pilas. Fallos básicos sobrevivieron años en código revisado por especialistas y por los propios fabricantes.

El parche que quizá nunca llegue al equipo

De las 66 vulnerabilidades nuevas, 54 ya se reportaron a fabricantes y mantenedores. Cybersecurity Dive contó 24 corregidas y 29 en estudio, con un proyecto, Ethernut, que ni siquiera contestó el aviso. El tramo abierto sin resolver deja equipos funcionando con fallos conocidos y sin fecha de arreglo.

Peor salió el equipo retirado del mercado. El sistema encontró siete vulnerabilidades en la pila de un punto de acceso inalámbrico sin soporte, y entre ellas había credenciales de administrador escritas dentro del propio código. Ningún fabricante publicará un parche para ese aparato, y aparatos así siguen colgados en oficinas, almacenes y clínicas.

Una misma pila puede vivir dentro de cientos de productos de decenas de marcas, así que un solo fallo se multiplica por la cadena de suministro completa. El arreglo, cuando existe, viaja despacio: lo escribe el desarrollador de la pila, lo integra cada fabricante en su firmware y lo instala quien opera el equipo, si es que puede detenerlo.

Daniel dos Santos, vicepresidente de investigación de Forescout, resumió el hallazgo con una frase seca: la inteligencia artificial no eliminó a los investigadores expertos, pero comprimió el trabajo de forma drástica. Barry Mainz, director general, empujó la lectura práctica: cuando un equipo no puede salir de servicio, contener el riesgo pasa delante de corregir el código.

Para la defensa, el informe deja tarea concreta: priorizar por alcanzabilidad y efecto operativo, apagar servicios que sobran como FTP, Telnet o los paneles web de administración, mover los equipos sin soporte a segmentos cerrados y pedir al comprar la lista de componentes de software con vida útil de soporte escrita.

El contraste con el frente ofensivo ya quedó documentado esta misma semana en el estudio de CyberBinGym, donde agentes de IA convierten parches en ataques de un día: los mismos modelos que hoy auditan pilas de red por US$2,58 el hallazgo sirven mañana para armar el ataque. La ventaja queda del lado que mueva primero su inventario de equipos viejos.

Fuente: Forescout Research – Vedere Labs