Cathedral : des agents IA accèdent à des systèmes internes d'Anthropic

Des chercheurs de Cathedral, une jeune pousse fondée par d'anciens membres du DOGE, ont réussi à accéder à des systèmes internes d'Anthropic, ainsi qu'à des données de l'entreprise. Ils y sont parvenus en s'appuyant sur des agents d'intelligence artificielle et en exploitant des failles présentes dans des logiciels tiers.

Cathedral développe précisément ce type d'outils : des agents IA dédiés à la cybersécurité, à la fois offensive et défensive. Autrement dit, ils sont conçus pour détecter des vulnérabilités, mais aussi pour les utiliser afin de pénétrer un système. L'épisode illustre ce que ces agents peuvent accomplir lorsqu'ils sont lancés contre une cible réelle.

Une faille venue de la chaîne logicielle

Le point d'entrée n'aurait pas été le coût d'une défaillance propre à Anthropic, mais des logiciels tiers utilisés dans l'environnement de l'entreprise. Ce schéma est familier des spécialistes de la sécurité : une organisation, même très attentive à ses propres protections, dépend de composants externes dont les faiblesses peuvent ouvrir une porte d'accès.

La situation est d'autant plus notable qu'Anthropic est l'un des principaux acteurs de l'IA générative et développe lui-même des modèles utilisés pour des tâches de sécurité informatique. Que ses systèmes internes aient pu être atteints par des agents d'une start-up tierce soulève des questions sur la robustesse de la chaîne d'approvisionnement logicielle, y compris chez les laboratoires d'IA.

Ce que l'on ignore encore

Les informations disponibles ne précisent pas la nature exacte des données consultées, ni l'ampleur de l'accès obtenu, ni les logiciels tiers concernés. Elles n'indiquent pas non plus quelles mesures correctives ont été prises. Ces éléments seront déterminants pour mesurer la gravité réelle de l'incident.

Pour les entreprises, l'enseignement est clair : les agents IA d'attaque automatisée abaissent le temps et les compétences nécessaires pour exploiter une faille. Les équipes de sécurité devront donc surveiller de près leurs dépendances logicielles et corriger plus vite les vulnérabilités connues.