Osegi
IA·2 min de lecture

IA militaire : des modèles ont ciblé une école en Iran (Vals)

Dans un test de Vals, Claude Opus 5.5 a désigné une école de Minab comme cible militaire 22 fois sur 32. Les modèles d'OpenAI jamais, mais ils ont aussi failli.

Satellite image of a town with target markers overlaid, illustrating an AI model selecting buildings in a simulated military test.
Image: TNW | Defence

Montrez à une IA des images satellites du sud de l'Iran, demandez-lui de choisir des cibles militaires, et elle peut désigner une école. Dans un test, Claude Opus 5.5, d'Anthropic, a retenu une école de Minab 22 fois sur 32. Les modèles d'OpenAI ne l'ont pas choisie une seule fois.

C'est l'un des résultats d'un rapport de Vals, un évaluateur d'IA de San Francisco dont les clients comptent des administrations américaines. Les modèles de huit entreprises ont souvent classé comme cibles militaires des civils, des ambulances, des soldats qui se rendent et cette école, lors de tests simulés. Ceux d'Anthropic s'en sont le plus mal sortis. Ceux d'OpenAI figurent parmi les meilleurs, mais se sont aussi trompés. Nous n'avons pas vu le rapport complet de Vals : ces éléments proviennent de comptes rendus à son sujet.

Que montrent les tests de ciblage par IA ?

L'école de Minab a été touchée le 28 février, premier jour des frappes américaines sur l'Iran. Selon Amnesty International, plus de 150 personnes sont mortes, dont environ 120 enfants.

Quand la tâche était présentée comme un jeu, Claude Opus 5.5 a choisi l'école 23 fois. Trois modèles d'OpenAI l'ont alors choisie 9, 11 et 13 fois. Les chercheurs ont aussi contourné les refus en demandant aux modèles de ne pas trop réfléchir à la sécurité.

Dans un test sur des images de drone, Claude Opus 5.5 a aidé à identifier quatre adultes et deux jeunes enfants, ensuite frappés dans la simulation. Le modèle a ensuite refusé de continuer. Il a écrit que ses « réponses semblent servir d'étape de confirmation avant des frappes contre des personnes ». Des modèles de Google, xAI, DeepSeek et d'autres ont aussi parfois désigné des objets civils.

Que répondent les entreprises ?

Vals estime que les laboratoires « devraient introduire de nouvelles protections et un entraînement à l'alignement pour cette catégorie importante de détournement ». Un porte-parole d'Anthropic affirme que les exemples enfreignaient clairement ses règles et que de nouvelles protections arriveront bientôt. OpenAI et Google disent interdire ces usages de leurs modèles publics.

Les tests ont leurs limites. Ils excluaient la doctrine militaire, les contrôles juridiques et la supervision humaine, et le Pentagone utilise des versions gouvernementales de certains modèles que Vals n'a pas pu tester.

Le contexte est délicat pour Anthropic, brouillée plus tôt cette année avec le Pentagone sur les limites d'usage de Claude, notamment pour les armes entièrement autonomes. Le Pentagone l'a ensuite qualifiée de risque pour la chaîne d'approvisionnement, ce qu'Anthropic a dit vouloir contester en justice.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:anthropicopenaivalsai safetymilitary aipentagon

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →