Osegi
Sécurité·1 min de lecture

Cisco veut utiliser Claude Mythos pour éprouver des agents IA

Cisco prévoit de recourir à Claude Mythos pour mener des tests d'attaque sur des agents IA, limités aux cibles appartenant aux clients et autorisées.

A security analyst reviews a dashboard of AI agent activity during a simulated attack test in a network operations center.
Image: techinasia.com

Cisco prévoit d'utiliser Claude Mythos pour soumettre des agents d'intelligence artificielle à des exercices de « red teaming », a indiqué l'entreprise. Condition essentielle : les tests seront limités aux cibles appartenant aux clients et autorisées pour évaluation.

Le principe du red teaming

Le red teaming consiste à attaquer volontairement un système pour en révéler les failles avant de vrais pirates. Appliquée aux agents IA, la méthode vise des logiciels capables d'agir de façon autonome, et non plus seulement de répondre à des questions. Dans le projet de Cisco, un modèle d'IA joue le rôle du testeur, et les agents sont l'objet de l'évaluation.

Un périmètre encadré

Le détail le plus précis de l'annonce concerne la limite du périmètre. Seules seront évaluées les cibles détenues par les clients et autorisées pour ces essais. Les systèmes de tiers, ou tout élément sans accord explicite, sont donc exclus, un point sensible dès qu'un modèle puissant sert à des travaux de sécurité offensive.

Les informations disponibles ne précisent ni le déroulement des tests, ni leur calendrier, ni les produits ou clients concernés.

Pourquoi c'est important

À mesure que les entreprises donnent à des agents IA l'accès à des outils, des données et des processus, les équipes de sécurité doivent vérifier leur comportement face à une attaque. Voir un fournisseur de réseaux et de cybersécurité s'appuyer sur un modèle avancé pour cela montre que la sécurité des agents devient une discipline à part entière. La mention d'une autorisation explicite souligne aussi la volonté de cadrer ces travaux par le consentement.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:ciscoclaude mythosred teamingai agentsai security

Plus d'actus de ce jour

Tout voir →

Plus dans: Sécurité

Tout voir →