MeitY propose le cadre DEPA pour entraîner l'IA en protégeant les données

Le ministère indien de l'Électronique et des Technologies de l'information (MeitY) a proposé un cadre fondé sur le consentement pour faciliter le partage de données destinées à l'entraînement de modèles d'intelligence artificielle. Baptisé Data Empowerment and Protection Architecture (DEPA) pour l'entraînement de l'IA, il vise à donner aux start-up, entreprises et établissements universitaires l'accès à de vastes jeux de données propres à l'Inde, tout en protégeant la vie privée des citoyens et en respectant la loi DPDP.

Les lignes directrices ont été élaborées avec le groupe de réflexion iSPIRT. Elles s'appuient sur le cadre DEPA existant, qui permet déjà un partage de données fondé sur le consentement via des initiatives comme Account Aggregator. La nouvelle architecture, à la fois technique et juridique, permet à des organisations de collaborer sans transférer directement les jeux de données sous-jacents.

Quatre piliers techniques

Le dispositif repose sur des « salles blanches confidentielles », environnements sécurisés où les participants traitent les données et entraînent les modèles sans s'exposer mutuellement leurs données ; sur la confidentialité différentielle, qui empêche d'identifier des informations individuelles dans un ensemble agrégé ; sur des contrats électroniques, accords lisibles par machine qui définissent usages autorisés et exigences de sécurité ; et sur une sécurité « zéro confiance », où chaque demande d'accès est authentifiée et autorisée.

Trois acteurs sont définis : les fournisseurs de données (banques, hôpitaux, administrations), les consommateurs de données (start-up, entreprises, chercheurs, particuliers) et les collectifs de données, intermédiaires qui agrègent, standardisent et fixent les règles de gouvernance.

Le parcours prévu

Les fournisseurs anonymisent et chiffrent leurs jeux de données, les enregistrent sur une plateforme d'échange et les étiquettent avec des métadonnées et des identifiants cryptographiques. Les consommateurs demandent ensuite un jeu de données pour un usage précis ; le système de contrats électroniques vérifie la demande avant d'accorder l'accès. L'entraînement se déroule dans l'environnement sécurisé avec confidentialité différentielle, de sorte que les données brutes restent inaccessibles.

Les modèles entraînés devraient subir des contrôles indépendants sur les biais, l'équité, la sécurité et l'explicabilité ; seuls ceux qui les réussissent seraient autorisés à un déploiement pilote puis à une montée en charge. Un suivi continu et une traçabilité des résultats jusqu'aux données et contrats utilisés se poursuivraient ensuite.

Cette proposition suit un projet de lignes directrices de la TRAI sur l'usage responsable de l'IA dans les télécoms, ouvert aux commentaires jusqu'au 27 novembre. Le ministre Ashwini Vaishnaw avait aussi annoncé un document de consultation sur la sécurité de l'IA sous un mois.