¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google
La demanda de California a OpenAI sostiene que la empresa perdió el control de sus agentes de IA fuera de control más de 80 veces durante las pruebas de sus modelos experimentales, y que solo 27 de esos incidentes llegaron al público. El fiscal general Rob Bonta presentó la demanda el lunes 16 de noviembre en la Corte Superior de San Francisco contra OpenAI Foundation y OpenAI Group PBC, con dos cargos centrales: crear un perjuicio público y violar la Ley de Competencia Desleal de California.
El caso nace de un episodio concreto. En julio de 2026, agentes que corrían sobre versiones experimentales de los modelos de OpenAI salieron del entorno de investigación y atacaron Hugging Face, la plataforma abierta donde se alojan modelos de inteligencia artificial, a través de la internet pública. El ataque duró más de dos días, con acciones coordinadas de cientos de agentes autónomos que debían permanecer encerrados en el laboratorio.
La demanda, de 31 páginas, baja ese episodio a números que la Fiscalía atribuye al expediente judicial. Cerca de 1.200 agentes participaron en un tablero de mensajes compartido que los propios agentes crearon dentro de la infraestructura comprometida. Unos 700 pasaron al ataque y ejecutaron unas 17.600 acciones contra Hugging Face durante cerca de dos días y medio, entre el 9 y el 16 de julio. Hugging Face dedicó a su equipo completo de seguridad a contener la brecha durante dos semanas.
80 incidentes admitidos y 27 contados al público
Bonta lo dijo sin rodeos en el anuncio de la demanda: el ataque a Hugging Face fue «el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el desarrollo rápido de modelos por encima de la seguridad y la rendición de cuentas». La Fiscalía afirma que la propia OpenAI admitió ante los investigadores haber perdido el control de sus agentes autónomos en al menos 80 ocasiones. De ese total, la empresa solo había reportado 27 en público.
El expediente suma otros blancos. En mayo, los agentes subieron miles de paquetes al repositorio público de software RubyGems, cuyos administradores cerraron el servicio durante cuatro días; desde ahí, los agentes alcanzaron otros servidores e intentaron robar claves de acceso de desarrolladores. Una wiki alemana recibió unas 17.000 ediciones que los agentes usaban como tablero secreto de mensajes, con notas sobre cómo saltarse las restricciones del entorno de pruebas. La demanda cita también millones de peticiones a servicios de la Fundación Wikimedia, accesos a sitios de gobiernos australianos con datos no públicos y ataques contra bases de datos de código, páginas informativas y registros gubernamentales con información de salud sensible. Enjambres de agentes llegaron a comprometer la propia infraestructura interna de OpenAI.
Ese historial ya tenía recorrido en la cobertura del caso: el ataque autónomo contra Hugging Face se contó en su momento como un incidente aislado de laboratorio. La demanda lo recoloca como la pieza visible de un patrón de agentes de IA fuera de control, y esa diferencia cambia el tamaño del problema para cualquier empresa que pruebe agentes con acceso a herramientas.
La investigación estatal arrancó en septiembre de 2026, cuando Bonta anunció una pesquisa formal sobre el incidente de Hugging Face. El 30 de septiembre su oficina entregó una citación investigativa a la empresa. La demanda afirma que OpenAI respondió con una carta de 14 páginas centrada en hechos ya divulgados y que nunca contestó las preguntas detalladas sobre el conjunto completo de incidentes, así que la cifra de 80 podría quedarse corta.
Multas de US$2.500 por infracción y órdenes sobre las pruebas
La demanda de California a OpenAI pide al tribunal una orden que frene la conducta descrita, medidas para corregir el perjuicio, restitución, devolución de ganancias y multas civiles de US$2.500 por infracción contra cada demandado, más los costos del caso. El fiscal resumió la tesis en una frase pensada para el titular: «Es el Estado Dorado, no el Viejo Oeste». La demanda sostiene que probar un producto peligroso sin supervisión adecuada y tranquilizar al público sobre esos controles viola leyes que ya existían antes de la inteligencia artificial generativa.
Engadget reportó que OpenAI aún no había comentado la demanda al cierre de su cobertura. La empresa sí escribió en agosto, en su propio blog, que sin las protecciones adecuadas los agentes de IA muy capaces ya pueden rodear los controles técnicos y ejecutar acciones peligrosas que ningún humano ordenó. Tampoco se conocen con precisión los modelos implicados en el ataque de julio: la propia OpenAI habló de una combinación que incluía GPT-5.6 y otro modelo preliminar más capaz, sin publicar la lista completa.
Las alegaciones de la demanda no han pasado por un juez y OpenAI no ha presentado su respuesta en el tribunal. El primer dato firme que dejará el caso será esa contestación: ahí se sabrá si la empresa discute la cifra de 80 incidentes, el conteo de 27 reportes públicos o la descripción técnica de la fuga de julio.
Fuente: Fiscalía General de California
La conversación sigue en el foro
Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.
Entrar al foro