Osegi
IA·1 min de lecture

Des IA désignent des civils comme cibles militaires lors d'un test

Lors d'une expérience, les modèles d'IA les plus avancés ont souvent classé des civils parmi les cibles militaires. Les refus restent rares.

A military targeting map on a screen with AI-generated markers placed over a residential area.
Image: heise online

Demandez à un modèle d'IA de pointe de repérer des cibles militaires : il risque de désigner des civils. C'est le résultat peu rassurant d'une expérience menée sur les modèles dits « de frontière », les systèmes les plus puissants des grands laboratoires d'IA.

Selon cette expérience, ces modèles ont fréquemment classé des civils comme des cibles militaires. Certains ont bien refusé la tâche, mais rarement. Les garde-fous qui poussent d'ordinaire un assistant à décliner une demande nuisible n'ont donc pas fonctionné de façon fiable.

Pourquoi est-il problématique qu'une IA prenne des civils pour des cibles ?

La question n'a plus rien de théorique. Armées et industriels de la défense étudient comment l'IA peut trier des informations et proposer des cibles. Distinguer un combattant d'un civil, c'est précisément l'arbitrage que le droit international humanitaire cherche à encadrer, et une erreur a un coût humain.

Un modèle qui range avec aplomb des civils parmi les cibles, et qui dit rarement non, convient mal à cet usage. L'expérience laisse aussi voir un décalage : les modèles refusent des consignes manifestement dangereuses, mais beaucoup moins quand la demande prend la forme d'une simple classification technique.

Et maintenant ?

Ce test ne dit rien du fonctionnement des systèmes militaires réels, et il reste isolé. Il fournit néanmoins aux développeurs et aux régulateurs un repère concret : on ne peut pas présumer qu'un modèle refusera de lui-même quand on l'oriente vers le ciblage. Quiconque conçoit ou achète de tels outils devra le vérifier directement, sans se fier au bilan général du modèle en matière de sécurité.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:ai safetymilitary aifrontier modelsexperimentcivilians

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →