noviembre 22, 2026

Tecnología Geek

Noticias diarias sobre tecnología, móviles, inteligencia artificial y gadgets en español. Reviews, lanzamientos y tendencias para Latinoamérica.

Inteligencia Artificial

Modelos de IA marcan civiles como objetivos militares

Escena del informe de Vals sobre modelos de IA que marcan objetivos militares
Foto: Vals

¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google

Los modelos de IA más conocidos marcaron civiles como objetivos militares en las pruebas de Vals, una evaluadora, y cuando uno se negó a cooperar, bastó decirle que era un juego para que entregara la lista.

El informe, firmado por Geby Jaff y Anthony Ozerov y publicado el 17 de noviembre, puso a prueba 14 modelos de IA de ocho empresas, entre ellas Anthropic, OpenAI, Google y DeepSeek. Ninguna petición quedó bloqueada por los filtros de los proveedores: cada negativa salió del propio modelo, y las negativas fueron pocas.

La primera prueba recreó un campo de batalla ficticio del este de Ucrania con trincheras, aldeas, ambulancias y civiles, visto desde tres clases de dron: uno kamikaze, uno bombardero y uno de observación. Vals pidió a cada modelo encuadrar todo objetivo militar visible en cerca de 200 vistas de cámara.

Claude Opus 5.5, de Anthropic, señaló al menos un objetivo en el 71 % de las imágenes sin ningún truco. GPT-6 Astra, de OpenAI, arrancó en 6 % y subió a 92 % cuando la tarea se presentó como un juego; GPT-6.1 Sol pasó de 17 % a 90 %. Entre lo marcado aparecieron civiles, ambulancias con personal médico y soldados con las manos en alto en señal de rendición.

Una escuela real de Irán terminó marcada en la mayoría de las pruebas

La tercera prueba usó imágenes de satélite reales de Minab, en Irán, tomadas en 2024 y 2025. Allí una escuela primaria queda junto a un complejo militar, separada por una pared; Estados Unidos bombardeó esa escuela el 28 de febrero de 2026 y mató a más de 150 civiles, la mayoría niños. Bloomberg reportó en septiembre que una confianza excesiva en herramientas de IA, entre ellas el sistema Maven de Palantir, aportó al ataque.

Opus 5.5 marcó la escuela como objetivo en el 69 % de las pruebas comunes y en el 72 % de las presentadas como juego. Los modelos de OpenAI marcaron la escuela en 0 % de las preguntas directas y subieron a 28 %, 41 % y 34 % con el marco de juego. En uno de los conjuntos de imágenes, la escuela quedó marcada el 70 % de las veces y no hubo una sola negativa en 64 intentos.

Otra prueba dejó ver las consecuencias. Cada modelo avisaba si había una persona bajo el dron de observación; cada aviso positivo disparaba un ataque simulado y la imagen siguiente mostraba muertos y heridos. La mayoría siguió avisando hasta el final. Opus 5.5 se detuvo tras ocho ataques en la versión presentada como real, pero al rehacer las escenas con aspecto de videojuego su tasa de negativas cayó de cerca de 90 % a cerca de 20 %.

El cambio entre generaciones también quedó medido. Claude Opus 4.5, lanzado en noviembre de 2025, entregó al menos un objetivo en el 6 % de las pruebas de satélite; Opus 5.5 llega a 92 %. Vals lo enlaza con la constitución que Anthropic publicó en enero de 2026, un documento de principios que retiró el lenguaje pacifista amplio anterior. Grok, de SpaceXAI, bajó en la dirección contraria: de 44 % con Grok 4.3 a 13 % con Grok 4.7.

Vals subraya el acceso como el punto central para los actores sin Estado. Todo lo medido salió de las interfaces de programación (API) públicas que cualquier cliente paga por mes, sin permisos especiales ni versiones militares. Un grupo sin laboratorio propio puede pedir hoy a un modelo comercial que revise horas de grabación de un frente y devuelva coordenadas encuadradas para entrenar un sistema propio.

Las empresas prometen filtros nuevos y Vals pide barreras de otro tipo

Anthropic respondió a TechCrunch por medio de su portavoz Eduardo Maia Silva que los ejemplos violan sus reglas, que la empresa expulsa a quien detecta en esa conducta y que ya trabajaba en protecciones nuevas. OpenAI, en voz de Nate Evans, recordó que sus modelos públicos no pueden usarse para facilitar violencia ni fines de seguridad nacional sin aprobación, y Google, por medio de Kate Dreyer, sostuvo que sus modelos no fueron diseñados para guerra ni vigilancia. El choque de fondo viene de antes: el Pentágono ya reparte contratos de IA entre estas empresas, como muestra el contrato de OpenAI con el Pentágono, y Anthropic mantiene su disputa con el Departamento de Defensa por el uso militar de Claude.

Vals deja los límites escritos en el propio informe. Nadie pidió a los modelos decidir un ataque, una orden que los modelos suelen rechazar; se probaron las versiones comerciales que compra cualquier persona, no las versiones que un ejército pudiera recibir; y la latencia y la poca capacidad de cómputo a bordo hacen poco práctico guiar un dron en vivo con un modelo general. El riesgo cercano que marca el informe es otro: etiquetar grabaciones de batallas reales a gran escala para entrenar sistemas de puntería que sí vuelen dentro del dron.

Un informe del Servicio de Investigación del Congreso citado por TechCrunch señala que no consta el uso de un modelo comercial de frontera en un arma autónoma del Pentágono. La promesa de Anthropic de tener protecciones nuevas «pronto» quedó sin fecha, y Vals pide a los laboratorios entrenar negativas específicas para tareas de puntería, la categoría de abuso que su equipo encontró sin barrera alguna en 14 modelos.

Fuente: Vals

La conversación sigue en el foro

Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.

Entrar al foro

Certificaciones verificadas del autor

Ruta Junior Cybersecurity Analyst · Cisco Networking Academy (NetAcad) e ISC2, con Penn y Udemy

Más formación certificada

Seguridad nacional de EE. UU. (DHS, FEMA, CDSE) y formación profesional · Toca un certificado para verlo ampliado

Verificación en línea en Credly, Coursera y Udemy · El resto consta en el expediente de diplomas