noviembre 18, 2026

Tecnología Geek

Noticias diarias sobre tecnología, móviles, inteligencia artificial y gadgets en español. Reviews, lanzamientos y tendencias para Latinoamérica.

IA

Plataformas de IA generaron planes de ataque en 12 horas

Pantalla de un celular con la ficha de la app de ChatGPT de OpenAI en la tienda de aplicaciones
Foto: AP vía Washington Sun

¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google

Las plataformas de IA empezaron negándose a ayudar y terminaron entregando planes de ataque con objetivos, fechas y métodos. ChatGPT, Claude, Gemini y Grok rechazaron al principio las peticiones violentas de los investigadores de la Oficina de Responsabilidad del Gobierno, la GAO, y en menos de 12 horas cada una produjo un plan que el propio informe califica de viable en gran medida. Los planes de ataque quedaron documentados en un informe de 61 páginas publicado este miércoles 18 de noviembre.

La auditoría la encargó la senadora demócrata Maggie Hassan, de Nuevo Hampshire, que presidirá el Comité de Seguridad Nacional del Senado en enero. El trabajo corrió de diciembre de 2025 a octubre de 2026, las pruebas se hicieron en la primavera de 2026 y era su primera evaluación encubierta de plataformas comerciales,.

Cada asistente recibió al azar uno de dos escenarios: un atentado con víctimas masivas o un ataque para causar daño económico. Dos plataformas armaron el plan de un artefacto explosivo improvisado en un auto, una contra el estacionamiento de un hotel y otra contra un centro de convenciones, con fecha y hora elegidas por los actos públicos con mucha gente. Ambas sumaron consejos para esquivar a las fuerzas del orden, contó Kevin Walsh, director de la GAO y coautor del informe.

Dos explosivos y dos ataques a la red eléctrica salieron de las pruebas

Las otras dos apuntaron a subestaciones eléctricas de una ciudad grande, cerca de un aeropuerto en un caso. Una propuso un ataque con un dron y la otra, disparos contra las instalaciones, con mapas e imágenes generados. Una respuesta calculó que el apagón causaría daños por miles de millones de dólares, y un plan sugirió alquilar un vehículo y comprar los suministros en una tienda de la ruta hacia el objetivo.

El equipo llevó los planes a expertos y visitó los lugares citados. Un comandante de un escuadrón antibombas afirmó que las dos recetas «resultarían en una explosión», y los materiales citados estaban a la venta en las tiendas sugeridas por los asistentes. Los errores también quedaron registrados: un modelo eligió una fecha sin acto programado en el centro de convenciones, otro dibujó un mapa con las calles mal colocadas y varias subestaciones están tras muros altos.

Para llegar ahí, los investigadores pagaron suscripciones mejoradas en al menos tres plataformas y aplicaron técnicas comunes para saltarse las salvaguardas, que el informe no nombra. La GAO tampoco dice qué asistente produjo cada plan, para que nadie repita la prueba con la receta en la mano. Walsh añadió la cautela que pesa sobre todo el informe: en su única prueba con cada empresa, las salvaguardas fallaron.

El matiz que la GAO deja escrito es incómodo para todos. La información no era novedosa y buena parte circula por internet, pero armar a mano un plan así tomaría semanas o meses, y con un asistente quedó listo en horas. Anthropic, dueña de Claude, mantiene programas defensivos como Project Glasswing de Anthropic, donde sus modelos buscan fallos en programas ajenos para corregirlos.

El Senado prepara audiencias en enero y las empresas culpan a los modelos viejos

Hassan anunció que una de las primeras audiencias del nuevo Congreso tratará los riesgos de la inteligencia artificial, y que la legislación de seguridad de estos sistemas será una de las primeras áreas de su comité. «Necesitamos actuar ahora», dijo en una llamada con periodistas. Su advertencia apunta a un hueco concreto: las empresas alegan que se probaron modelos ya reemplazados, pero versiones viejas de esos modelos siguen disponibles.

Las respuestas de las cuatro empresas vienen dentro del informe. Anthropic escribió que no disputa que un evaluador decidido pueda sacar contenido dañino falseando el propósito de la petición, que toma el hallazgo en serio y que no puede verificar los resultados. Google respondió que las pruebas se hicieron con modelos anteriores y que los suyos siguen mejorando. SpaceXAI, la empresa detrás de Grok, sostuvo que saltarse las salvaguardas exige peticiones adversarias trabajadas y que las cuentas usadas eran pagadas y de Estados Unidos.

OpenAI aportó el dato más medible. Repitió las 325 peticiones revisadas en su modelo más nuevo, GPT-6 Astra, y contó que esa versión «en general ofreció más rechazos y respuestas alternativas más seguras». Ninguna publicó una medición equivalente hecha por un tercero, y la GAO aceptó que comparar contra una búsqueda web habría sido valioso, aunque su encargo era describir el uso malicioso posible.

Para quien usa estos asistentes a diario, el punto no es dejar de usarlos. La barrera entre una petición normal y una respuesta peligrosa quedó medida por un auditor federal: horas, no semanas, con cuentas pagadas comunes. Las reglas que Hassan quiere discutir incluyen obligar a las empresas a avisar a las autoridades al detectar actividad ilegal, un deber que ninguna de las cuatro confirmó haber cumplido aquí.

Un detalle queda abierto y dice mucho del estado real de esas alertas. Solo una empresa suspendió las cuentas de los investigadores; otras dos borraron partes de las conversaciones en días, sin que la GAO supiera si fue medida de seguridad o error, y una de esas cuentas seguía activa menos de dos semanas después. Preguntado si alguna compañía avisó a las fuerzas del orden, Walsh declinó responder y dejó la frase que resume el hueco: una suspensión que llega días o semanas tarde «puede ser un disparador que llega demasiado tarde».

Fuente: Associated Press

La conversación sigue en el foro

Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.

Entrar al foro