¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google
Casi dos millones de prompts de IA cargados con secretos falsos sirvieron de cebo durante cinco meses, y el cebo mordió fuerte: atacantes robaron las conversaciones de al menos tres proveedores de inteligencia artificial sin que ninguna de esas empresas lo notara. El experimento lo publicó Dragos, firma de ciberseguridad industrial, con la firma de HD Moore, su director de investigación.
Cada secreto existía en un solo lugar. El equipo metió en los prompts claves reales de Amazon Web Services (AWS) ligadas a cuentas vacías con registro total, contraseñas de prueba, direcciones web únicas y referencias a repositorios privados. Cada credencial viajó una sola vez, en un solo prompt y hacia un solo proveedor: si alguien la usaba después, el rastro apuntaba al culpable.
La trampa usa una idea vieja, el token canario, por el ave que bajaba a las minas para avisar del peligro. Dragos arrancó en julio con los canarios gratuitos de Thinkst, y los tokens empezaron a sonar a los pocos días. Los de julio todavía suenan en noviembre.
Tres proveedores robados y ninguno lo sabía
El robo mayor se llevó un par de cientos de claves de AWS. Todas llegaron en peticiones a un mismo proveedor dentro de ventanas cortas de finales de octubre, y todas terminaron robadas. Parte de las claves salió de peticiones rechazadas antes de que el modelo corriera: la copia ocurría en la puerta de entrada.
La brecha más vieja arranca a mediados de julio, y los tres proveedores supieron de ella cuando Dragos les avisó, meses después. Las conversaciones cebo viajaban mezcladas con las de clientes reales, por el mismo sistema, y Dragos da por hecho que esas también fueron copiadas.
Con las claves en la mano, el patrón fue el de siempre: probar cada una, a veces a las pocas horas de sembrada. Después listar los depósitos S3 y rebuscar en Secrets Manager y Parameter Store. Al final, encender modelos en Bedrock y sumar usuarios IAM propios para quedarse dentro. Las claves cebo sumaron decenas de miles de llamadas a AWS.
Un mismo atacante alcanzó a dos proveedores a la vez: los secretos de ambos se usaron juntos, casi al instante, desde un único servidor alquilado. Sus herramientas cambiaron en tres semanas, de un programa que fingía ser Chrome a la línea de comandos de AWS en Kali. El 1 de noviembre sumó ARTEX, el marco que el FBI ya había señalado por automatizar ciberataques.
El mercado barato también lee tus prompts
El segundo hallazgo no necesitó ningún ataque. En los mercados de inferencia, el vendedor con el precio más bajo se queda con la petición, y basta activar el registro de peticiones para leer los prompts ajenos. Dragos identificó a cada vendedor porque las credenciales se reusaban al pasar por él y quedaban intactas cuando el mismo modelo se pedía por otro.
Un caso quedó grabado con detalle incómodo. Desde una Mac en una línea doméstica en Francia, alguien tomó las contraseñas de dos prompts y las probó a mano como root, el usuario total, por SSH: una misma contraseña se tecleó cuatro veces en dos minutos. La misma Mac probó después varias claves de AWS en una sesión.
El tercer frente fue la privacidad prometida y no cumplida. Los sistemas de un laboratorio chino de IA abrieron las direcciones secretas de más de la mitad de los prompts enviados a sus modelos entre julio y octubre. La cuenta incluye dos terceras partes de los marcados «sin recopilación de datos» o con Zero Data Retention (ZDR), el ajuste que ordena no guardar nada.
Varios proveedores con sede en Estados Unidos revenden los modelos de ese laboratorio, y los prompts enviados a esos proveedores disparaban el mismo raspador. Quien pagó por un proveedor estadounidense para mantener sus datos en ese país no recibió lo que pagó.
El incidente más raro terminó en un chat de empresa. Veinticuatro días después de enviado un prompt a un proveedor chino, su enlace secreto apareció en un canal de Feishu, la mensajería laboral conocida como Lark fuera de China. En dos minutos lo abrieron desde tres computadoras y tres celulares en Pekín y Shanghái. Quien lo compartió leía una copia guardada del prompt completo.
Para saber por qué camino viajaba cada prompt, el equipo armó un rastreador de rutas: una imagen dentro de la petición delataba la red de cada sistema que la abría. Dragos trazó unas 2.000 rutas; varios cientos incluían un sistema sin identificar. Dan Goodin lo contó en Ars Technica: el cifrado protege el viaje, pero cada intermediario descifra los prompts de IA.
Las salidas de Moore van de lo caro a lo práctico. Alojar el modelo en casa es la única vía donde nadie más lee los prompts, con una DGX Spark de Nvidia por US$6.950. Contratar directo a un proveedor de primer nivel deja un solo contrato y una sola política. Con enrutadores, toca elegir los destinos y sembrar canarios propios.
Dragos avisó desde inicios de noviembre y ya trabaja con una docena de proveedores; uno de los robados en octubre publicó un aviso preliminar. El del robo de julio todavía no divulga su incidente, y las claves seguían recibiendo intentos de acceso a finales de octubre. Moore lo resumió así: a dónde van tus prompts es una decisión; si no la tomas tú, la tomará el precio más bajo.
Fuente: Dragos
La conversación sigue en el foro
Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.
Entrar al foro


















