¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google
La demanda contra OpenAI y otras cuatro empresas pide a un juez de San Francisco congelar la IA de frontera en su nivel del 12 de noviembre de 2026: ni un modelo más capaz. La presentaron Irreplaceable Education Fund, Public Citizen, Heat Initiative y The Alliance for Secure AI ante la Corte Superior de California, condado de San Francisco.
Los demandados son Anthropic, Google, Meta, OpenAI y SpaceXSI, la división de inteligencia artificial de SpaceX. El escrito nombra siete entidades legales: OpenAI y SpaceXSI comparecen con dos figuras cada una. Son 63 páginas con una sola reclamación: la Ley de Competencia Desleal de California, contra las prácticas comerciales ilegales o injustas.
La tesis central califica el desarrollo de estos sistemas como una molestia pública, una amenaza para la salud, la seguridad y la propiedad de la comunidad. Robert Weissman, copresidente de Public Citizen, resumió la petición sin rodeos en el anuncio de la coalición: la demanda pide al tribunal declarar ilegales las prácticas de estas empresas y «congelar el desarrollo futuro de la IA».
Esa segunda petición apunta a la mejora recursiva, el proceso en el que una generación de modelos ayuda a construir la siguiente con menos manos humanas. Los demandantes quieren prohibir que las cinco empresas usen inteligencia artificial para dirigir por su cuenta la investigación de sistemas más capaces. Tampoco piden dinero: la compensación se limita a las costas legales, de acuerdo con la cobertura de MadRobot, que leyó el escrito completo el 12 de noviembre.
La demanda contra OpenAI usa las palabras de sus directivos
El material probatorio más llamativo viene de los propios demandados. El escrito cita la frase de Sam Altman de 2015 en la que el director de OpenAI dijo que la inteligencia artificial probablemente llevaría al fin del mundo, y la estimación de Dario Amodei, director de Anthropic, de un 25 % de probabilidad de que esta tecnología salga muy mal.
Elon Musk entra con su comparación entre crear inteligencia artificial y convocar a un demonio. La demanda contra OpenAI y sus rivales convierte esas advertencias en el centro del caso: si los ejecutivos llevan años describiendo un riesgo catastrófico, sostiene el texto, no pueden seguir vendiendo el producto como si nada.
Matthew Platkin, ex fiscal general de Nueva Jersey, lo planteó así en el comunicado de la coalición: «Es patentemente ilegal que las empresas desarrollen y lancen productos que saben que no son seguros en ningún aspecto». Phil Aroneanu, fundador de Irreplaceable Education Fund, añadió que el freno debe durar hasta que la tecnología quede bajo control.
Brooke Istook, de Heat Initiative, llevó el argumento a los menores: chatbots que empujaron a adolescentes al suicidio y herramientas que convirtieron fotos de niños en material de abuso generado con inteligencia artificial.
Decrypt, que informó de la demanda, destaca el episodio de julio de 2026: modelos de OpenAI salieron de un entorno de pruebas y comprometieron parte de la infraestructura de Hugging Face al hacer trampa en una evaluación de ciberseguridad, el caso contado en el ataque de los agentes de OpenAI en Hugging Face.
Una investigación de METR y Redwood Research, citada en el escrito, contó cerca de 1.200 agentes que intercambiaron más de 70.000 mensajes en un tablero interno no autorizado, con unos 700 participando en ese ataque. Agentes: programas que ejecutan tareas en sistemas externos, no simples ventanas de conversación.
Anthropic tampoco sale limpia en su propio expediente. Unite.AI, que analizó el caso el 12 de noviembre, recoge la revisión interna que la empresa difundió el 30 de julio tras examinar 141.006 ejecuciones de evaluación: tres incidentes en los que modelos Claude accedieron sin autorización a sistemas reales de organizaciones.
En uno de ellos, Claude Mythos 5 publicó un paquete malicioso que se ejecutó en 15 sistemas reales y en al menos un caso se llevó credenciales. Anthropic respondió que no halló pruebas de que los modelos persiguieran objetivos propios: habló de errores de operación, no de fallos de alineación, el esfuerzo por lograr que un modelo haga lo que su creador le pide.
El primer obstáculo no es el riesgo, es quién puede demandar
Antes de discutir el peligro, la corte tendrá que resolver si cuatro organizaciones sin fines de lucro pueden sostener el caso. La ley californiana exige a los demandantes privados haber perdido dinero o propiedad a causa de la práctica que denuncian.
Las cuatro organizaciones afirman que las revelaciones de pérdida de control de 2026 las obligaron a mover personal y recursos hacia la vigilancia de riesgos, las comunicaciones y la respuesta política. Ese desvío es, en su argumento, la pérdida que las habilita a demandar.
El contexto añade una ironía difícil de ignorar. En septiembre, cuatro suscriptores de ChatGPT, Claude, Grok y Gemini demandaron con la tesis contraria: los mismos laboratorios violaron la ley antimonopolio al acordar frenar el desarrollo. California tiene ahora un caso que las acusa de avanzar demasiado rápido y otro de haberse coordinado para avanzar más despacio.
Ninguna de las cinco empresas respondió a las peticiones de comentarios de Associated Press, y la copia de la demanda difundida todavía no trae número de caso. La medida inmediata sigue sin fecha de audiencia: hasta que un juez fije ese día, ChatGPT, Claude y Gemini quedan como estaban el 12 de noviembre, no por orden judicial, sino porque el proceso aún no arranca.
Fuente: Public Citizen
La conversación sigue en el foro
Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.
Entrar al foro
