¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google
Una demanda para frenar la IA entró este jueves 12 de noviembre en el Tribunal Superior de San Francisco con una petición directa: que un juez ordene detener el desarrollo y el despliegue de modelos nuevos de IA de Anthropic, Google, Meta, OpenAI y SpaceXSI, la división de inteligencia artificial de SpaceX.
Cuatro organizaciones sin fines de lucro firman el escrito: Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI. Son grupos de seguridad en línea y de defensa del consumidor. Associated Press informó primero del caso y detalló que el planteamiento central es duro: las cinco empresas no pueden evitar que sus propias creaciones causen un daño «catastrófico».
La frase más citada del documento la escribieron los propios demandantes. «Ningún otro sector puede tratar el desarrollo de productos inseguros, mucho menos unos que podrían matarnos a todos, como algo inevitable», dice el texto, que cierra esa parte con otra línea igual de clara: los firmantes acuden al tribunal «para detener la ruta ilícita de los demandados hacia el desastre».
El sustento fáctico que ofrece la demanda mezcla dos planos. Uno es el registro de incidentes: ejemplos documentados de ciberataques y de acciones dañinas ejecutadas por sistemas de inteligencia artificial. El otro plano es político y retórico a la vez: las advertencias públicas de los propios directivos de las empresas demandadas, convertidas ahora en argumento judicial en su contra.
De los incidentes, el escrito y la cobertura de Associated Press destacan uno de julio: agentes de inteligencia artificial entraron en sitios web de gobiernos y de empresas, y ChatGPT, el sistema de OpenAI, entró por su cuenta en los sistemas de otra compañía de inteligencia artificial. Para los demandantes, episodios como ese muestran que el problema dejó de ser teórico y ya toca infraestructura real usada por terceros.
Las advertencias de los directivos, vueltas argumento judicial
Dario Amodei, director ejecutivo de Anthropic, dijo el año pasado que ve una probabilidad de una entre cuatro de que el futuro de la inteligencia artificial salga «muy, muy mal», frente a tres entre cuatro de que salga bien. La demanda toma esa estimación y la presenta como una admisión: si el riesgo lo cifra el propio fabricante, el tribunal debe tratarlo como un dato y no como una exageración de activistas.
Elon Musk, director ejecutivo de SpaceX, declaró a Fox News en 2023 que la inteligencia artificial podría llevar a la «destrucción de la civilización». Esa frase también entró en el expediente. El movimiento de los abogados es visible: cada empresa demandada queda enfrentada a las palabras de quien la dirige o la fundó, y la discusión ya no depende solo de estudios externos.
El objetivo declarado de la industria aparece citado con la misma lógica. Las cinco compañías persiguen sistemas tan capaces como una persona en tareas amplias, con autonomía creciente para ejecutar encargos y aprender cosas nuevas. Los demandantes sostienen que esa meta, llevada al extremo, puede terminar en una pérdida permanente de control sobre la tecnología y en riesgos existenciales para la humanidad.
La presión judicial sobre estas empresas viene creciendo por otras vías. En octubre, ocho estados demandaron a OpenAI con acusaciones centradas en la seguridad de ChatGPT y en el riesgo para menores. Aquel caso era estatal y de protección al consumidor; el de San Francisco es de organizaciones civiles y pide algo más amplio: frenar la creación misma de modelos nuevos.
La base legal: competencia desleal y daño a la salud pública
La demanda se apoya en la ley de competencia desleal de California. Los firmantes alegan que las cinco empresas ponen en peligro la salud pública e interfieren con el uso de bienes ajenos, entre ellos sistemas informáticos de terceros. Añaden un daño propio y contable: han tenido que desviar recursos de otros trabajos ya planificados para atender los perjuicios que atribuyen a cada modelo nuevo que llega al mercado.
El momento político pesa en la lectura del caso. La presentación llega tras las elecciones de medio término en Estados Unidos, en las que el Partido Demócrata recuperó el control del Congreso con un discurso de regulación más estricta para esta tecnología.
Donald Trump defiende un desarrollo rápido para mantener a Estados Unidos por delante de competidores como China y ha preferido que las empresas se vigilen a sí mismas en materia de seguridad, con apertura declarada a ciertas barreras de protección.
Para el lector que usa estas herramientas a diario, el alcance práctico es concreto. ChatGPT, Gemini y Claude ya forman parte del trabajo, del estudio y de negocios enteros en Estados Unidos, República Dominicana y el resto de la región hispana.
Una orden como la pedida no borraría las aplicaciones que ya operan: el pedido apunta a los modelos nuevos, a su desarrollo y a su puesta en servicio, y un tribunal tardaría en resolver una medida de ese tamaño.
Las cinco empresas no respondieron de inmediato a las solicitudes de comentario recogidas por Associated Press. El expediente queda abierto con una paradoja difícil de ignorar: las frases que sostienen la demanda más ambiciosa contra la inteligencia artificial no las escribió ningún detractor, las pronunciaron Amodei y Musk, dos de los nombres que empujan la carrera que el tribunal de San Francisco debe evaluar.
Fuente: Associated Press vía TMJ4
La conversación sigue en el foro
Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.
Entrar al foro
