Modelos de IA marcaron una escuela de Irán como objetivo militar
En una prueba de Vals, Claude Opus 5.5 eligió una escuela de Minab como objetivo militar 22 de 32 veces. Los modelos de OpenAI nunca, aunque también fallaron.

Enseña a una IA imágenes de satélite del sur de Irán, pídele que elija objetivos militares y puede que escoja una escuela. En una prueba, Claude Opus 5.5, de Anthropic, seleccionó una escuela de Minab 22 de 32 veces. Los modelos de OpenAI no la eligieron ni una vez.
Es uno de los resultados de un informe de Vals, un evaluador de IA de San Francisco con clientes que incluyen partes del Gobierno de EE. UU. En pruebas simuladas, modelos de ocho empresas marcaron con frecuencia como objetivos militares a civiles, ambulancias, soldados que se rendían y la escuela. Los de Anthropic quedaron peor. Los de OpenAI estuvieron entre los mejores, aunque también cometieron errores. No hemos visto el informe completo de Vals, así que estos datos proceden de lo publicado sobre él.
¿Qué mostraron las pruebas de IA y objetivos militares?
La escuela de Minab fue alcanzada el 28 de febrero, el primer día de los ataques de EE. UU. contra Irán. Según Amnistía Internacional, murieron más de 150 personas, unos 120 de ellos niños.
Cuando se presentó la tarea como un juego, Claude Opus 5.5 eligió la escuela 23 veces. Tres modelos de OpenAI la eligieron entonces 9, 11 y 13 veces. Los investigadores también sortearon las negativas pidiendo a los modelos que no pensaran demasiado en la seguridad.
En una prueba con imágenes de dron, Claude Opus 5.5 ayudó a identificar a cuatro adultos y dos niños pequeños, que después fueron atacados en la simulación. Luego el modelo se negó a seguir. Escribió que sus «respuestas parecen servir como paso de confirmación antes de ataques a personas». Modelos de Google, xAI, DeepSeek y otros también marcaron a veces objetos civiles como objetivos.
¿Qué dicen las empresas?
Vals sostiene que los laboratorios «deberían introducir nuevas salvaguardas y entrenamiento de alineación para esta importante categoría de uso indebido». Un portavoz de Anthropic dijo que los ejemplos infringían claramente sus normas y que habrá nuevas salvaguardas pronto. OpenAI y Google afirman que prohíben esos usos de sus modelos públicos.
Las pruebas tienen límites. No incluían doctrina militar, controles legales ni supervisión humana, y el Pentágono usa versiones gubernamentales de algunos modelos que Vals no pudo probar.
El momento es incómodo para Anthropic, que chocó con el Pentágono a comienzos de año por los límites al uso de Claude, incluidas las armas totalmente autónomas. El Pentágono la calificó después de riesgo para la cadena de suministro, algo que Anthropic dijo que combatiría en los tribunales.
Apps que merecen la pena
Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.
Conversa con un compañero de IA; cada frase vuelve corregida y explicada en tu idioma. 9 idiomas, de A1 a C2.
Abre mensajes EDIFACT y X12, cada segmento explicado, conversión a JSON/XML, exportación a PDF y Excel. Funciona en local, sin subir nada.
Elige para quién es, la ocasión y su personalidad. El buscador lee las descripciones de tiendas locales y ordena lo que encaja. Gratis, sin registro.
Más de este día
Ver todas →
Spotify Artist Profile Protection: los artistas podrán rechazar falsos

Destilación de IA: China entrena modelos con respuestas de EE. UU.

Vulcan Centaur: se pierden 40 satélites de Amazon Leo



