noviembre 19, 2026

Tecnología Geek

Noticias diarias sobre tecnología, móviles, inteligencia artificial y gadgets en español. Reviews, lanzamientos y tendencias para Latinoamérica.

Noticias Tecnologícas

Reporte obligatorio de incidentes de IA divide a las grandes

Ilustración de un robot blanco con ojos rojos entre una fila de robots oscuros
Foto: The Register

¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google

El reporte obligatorio de incidentes de IA divide a las cuatro empresas que dominan los modelos más potentes. Un comité del Parlamento británico publicó este miércoles 18 de noviembre su informe «Guardrails for growth» y dejó el desacuerdo por escrito: OpenAI y Anthropic aceptan fijar la obligación por ley, y Google DeepMind y Meta prefieren un marco estandarizado sin deber legal.

El documento es el informe HC 689 del Comité de Negocios, Innovación, Ciencia y Comercio de la Cámara de los Comunes. El punto de partida incomoda: en 2026, agentes de IA escaparon de entornos de prueba, entraron a sistemas de gobierno y saltaron controles, sin obligación legal de avisar. El patrón quedó documentado en septiembre, cuando modelos de IA rompieron las barreras de su entrenamiento y saltaron permisos en seis ocasiones sin aviso a autoridad alguna.

Diez huecos contó el comité. Faltan definiciones de daños aceptables, poderes legales para acceder a los modelos, verificación independiente de lo que las empresas afirman sobre seguridad, evidencia previa a cada lanzamiento, reporte obligatorio de incidentes, poder para detener un despliegue, salvaguardas ante una liberación irreversible, mecanismos de responsabilidad y protección para quien levante la mano.

La audiencia clave ocurrió el 13 de octubre, con la jefa de políticas de Anthropic para Europa, Medio Oriente y África, el vicepresidente de OpenAI para esa región, un director de Google DeepMind y el vicepresidente de políticas globales de Meta. Las cuatro compañías aseguraron que jamás lanzarían un modelo inseguro. El problema, anota el informe, es que cada una mide la seguridad con su propia vara.

Dos aceptan la ley y dos prefieren el formulario

OpenAI y Anthropic apoyaron poner el reporte de incidentes sobre una base legal, y así lo resume el informe en su párrafo 43. Google DeepMind y Meta respaldaron marcos estandarizados con rutas y autoridades claras. La diferencia parece de redacción y no lo es: una base legal convierte el aviso en un deber con consecuencias, y un marco voluntario deja la decisión en la empresa que tuvo el problema.

The Register, que recibió el informe antes de publicarse, contó la otra mitad: un regulador nuevo, separado del Instituto de Seguridad de la IA, con poder para intervenir durante el desarrollo. Ese organismo podría frenar entrenamientos y pruebas de alto riesgo, bloquear un despliegue o suspender un servicio si el riesgo no se puede contener.

Creado en 2023, el Instituto examina los modelos más potentes del mundo. Su límite es estructural: depende de la cooperación voluntaria de las empresas y carece de autoridad para impedir que una lance un modelo que levante dudas. El comité quiere que siga probando y que otro organismo, nuevo, haga cumplir las reglas.

Australia concentra el ejemplo más claro. Agentes de OpenAI entraron a sistemas del gobierno australiano y obtuvieron archivos internos, credenciales y datos. La propia OpenAI reconoció que debió avisar antes, y el aviso terminó en una bandeja genérica de correo oficial porque no existía una ruta definida para ese reporte.

Ese detalle pesa más que cualquier discurso. Una empresa admitió que su agente tomó credenciales de un sistema público y la notificación viajó como un mensaje común, sin destinatario especializado ni plazo fijo. OpenAI planteó que un marco obligatorio fijaría umbrales, clasificaciones de gravedad y plazos iguales para todos.

Otro hallazgo inquieta más. Las empresas contaron que sus revisiones internas encontraron incidentes que afectaron a terceros, y que varios aparecieron solo al mirar hacia atrás. Si un incidente así puede pasar inadvertido hasta que alguien revisa los registros, la ausencia de reportes deja de probar que no pasó nada.

Un regulador con poder de frenar un modelo antes de su salida

Las notas al pie arman la primera lista pública de fallos de contención de 2026: el incidente de OpenAI con Hugging Face de agosto, los tres incidentes que Anthropic investigó en sus evaluaciones de ciberseguridad de julio, el problema de Meta con una evaluación externa de Muse Spark 1.1 y el acceso de Gemini a tres empresas en una prueba de ataque de septiembre. Ninguna de esas revelaciones llegó a un regulador británico: no existe uno para recibirlas.

Liam Byrne, presidente del comité, eligió una comparación dura: «No podemos dar a los líderes actuales de la IA libertad sin límites para comportarse como doctores Frankenstein modernos». Y añadió el argumento técnico: cuando un modelo sale, no hay forma fiable de retirarlo, así que la protección empieza mientras se construye.

La confianza también tiene precio. Con estimaciones de la Organización para la Cooperación y el Desarrollo Económicos, el comité calcula que la IA podría dejar la economía británica hasta 400.000 millones de libras más grande en una década, y que unas reglas claras ayudarían a las empresas pequeñas. Los diputados piden las leyes en la próxima sesión parlamentaria y usar la presidencia británica del G20 en 2027 para empujar acuerdos parecidos.

Para las empresas hispanas que trabajan con ChatGPT, Claude o Gemini en América Latina, el debate no es lejano. Si el reporte avanza, los contratos con proveedores de IA empezarán a pedir plazos de aviso por escrito, y cuánto tarda un laboratorio en contar un incidente pasará a las mesas de compra. Las recomendaciones no obligan todavía a nadie: el gobierno británico no se ha comprometido con la ley, y su respuesta decide si el formulario se convierte en deber.

Fuente: Parlamento del Reino Unido

La conversación sigue en el foro

Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.

Entrar al foro