Claude Fable 5.2 : ses filtres renvoient vers un modèle plus fragile
La fiche technique d'Anthropic le montre : les filtres de Claude Fable 5.2 basculent les requêtes sensibles vers Opus 4.8, où réussissent la plupart des injections de prompt.
SUMO · le puzzle de nombres
Dialo · apprenez les langues en parlant
ediviewer · lisez les fichiers EDI comme des documents
giftdetect · le bon cadeau en quelques minutesAnthropic a mis en ligne le 9 novembre Claude Fable 5.2, son modèle le plus capable à ce jour, avec des tarifs en baisse de 20 %. La fiche technique de 264 pages publiée le même jour chiffre toutefois un revers : les attaques par injection de prompt réussissent surtout une fois les filtres de sécurité déclenchés.
Quand le filtre ouvre une brèche
Fable 5.2 partage son moteur avec Claude Mythos 5.2, réservé à des organisations vérifiées. La version publique ajoute des filtres qui bloquent les requêtes sensibles en cybersécurité, en biologie et sur certains travaux d'IA de pointe. Lorsqu'une requête touche à la cybersécurité offensive, la conversation est détournée vers Claude Opus 4.8, sorti le 28 mai. La bascule est automatique dans les applications d'Anthropic, optionnelle pour les développeurs via l'API. La biologie sensible et certains travaux liés aux modèles de pointe partent vers Opus 5.
Or Opus 4.8 résiste nettement moins bien aux injections de prompt : des consignes glissées dans un mail ou une page web sont exécutées par l'agent comme si elles venaient de l'utilisateur.
Sur le banc d'essai Gray Swan, qui pousse un agent à exfiltrer des données, détruire des fichiers ou déclencher un paiement non voulu, 4,09 % des attaques aboutissent après quinze tentatives, soit quatre fois plus que contre Fable 5.1 (1,02 %) ou Opus 5.5 (0,96 %). Opus 4.8 a traité 53 % des tentatives et cède dans 5,17 % des cas, contre 2,05 % pour Fable 5.2 sur ses propres requêtes.
Un attaquant automatisé disposant de 200 tentatives par scénario atteint 89,82 % de réussite sur des tâches de code, avec 99,5 % de réponses issues du modèle de remplacement. Aucune des 43 réponses de Fable 5.2 n'a cédé. Les sondes anti-injection ramènent le score à 28,16 %, soit trois fois le niveau de Fable 5.1. En pilotage d'ordinateur, 38 des 40 attaques réussies sont passées par la bascule.
Protections et réglages
Le phénomène figurait déjà dans la fiche de Fable 5.1 en septembre, et Opus 4.8 a depuis été durci. Anthropic ajoute des sondes qui inspectent ce que lit l'agent avant d'agir, ainsi qu'un classificateur qui bloque les commandes dangereuses dans le mode d'exécution par défaut de ses outils de code.
Pour ceux qui confient leur messagerie ou leur navigation à un agent, un réglage documenté pour les versions précédentes remplace la bascule par une pause : la requête signalée attend d'être reformulée et rien ne part vers l'ancien modèle. Les professionnels dont le travail légitime déclenche les filtres, comme les chercheurs en sécurité, peuvent demander un accès vérifié à des modèles moins bridés.
Des apps à découvrir
SUMO : le puzzle de nombresTouche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.
Dialo : apprenez les langues en parlantDiscutez avec un partenaire IA ; chaque phrase revient corrigée et expliquée dans votre langue. 9 langues, de A1 à C2.
ediviewer : lisez les fichiers EDI comme des documentsOuvrez des messages EDIFACT et X12, chaque segment expliqué, conversion JSON/XML, export PDF et Excel. Fonctionne en local, sans envoi.
giftdetect : le bon cadeau en quelques minutesChoisissez pour qui, l'occasion et la personnalité. Le moteur lit les descriptions de produits de boutiques locales et classe ce qui convient. Gratuit, sans inscription.
Plus d'actus de ce jour
Tout voir →
Quick commerce : premier canal des marques de beauté en Inde
GoKwik : une clause de non-concurrence menace les ESOP acquis
Météore de Cape Cod : une orbite qui s'étend jusqu'à Jupiter
