Anthropic dévoile FlashProve, preuve de l'origine des réponses d'IA

Le principe

FlashProve repose sur la publication d'une empreinte propre au modèle, sans révéler ses poids. Le fournisseur crée d'abord un engagement (commitment) pour le modèle. Chaque réponse est ensuite accompagnée d'une preuve établissant que l'entrée et la sortie concernées proviennent bien de ce modèle.

L'utilisateur peut vérifier cette preuve sans accéder aux poids ni disposer d'une grande puissance de calcul. Selon Anthropic, la vérification est conçue pour être assez légère pour s'exécuter sur l'appareil de l'utilisateur.

Les usages ne se limitent pas au grand public. Un service tiers pourrait démontrer qu'une analyse de sécurité d'un logiciel a été réalisée avec un modèle avancé, tandis que des évaluateurs indépendants et des régulateurs pourraient contrôler que le modèle déployé correspond à celui déclaré.

Un coût élevé

Anthropic a testé le système sur Llama 4 Maverick, un modèle de 400 milliards de paramètres. Avec un seul GPU H100, la génération de preuves atteint environ 110 jetons par seconde. Pour une requête de 1 024 jetons, le fichier de preuve pèse environ 19 Mo. Par rapport à une simple exécution du modèle, le temps GPU est multiplié par 70 à 95.

Ce surcoût montre la distance qui sépare encore l'approche d'un usage courant. L'entreprise a publié le rapport technique, la définition du protocole et le code fonctionnel sous licence Apache 2.0. FlashProve n'est pas un produit abouti, et Anthropic n'a pour l'instant aucun projet de déploiement.