MeitY предложило DEPA для обучения ИИ с защитой приватности данных

Министерство информационных технологий Индии (MeitY) предложило рамочную модель обмена данными на основе согласия, чтобы упростить обучение ИИ-моделей в стране. Она называется Data Empowerment and Protection Architecture (DEPA) for AI training.

Цель — дать стартапам, компаниям и научным организациям доступ к крупным массивам данных, специфичным для Индии, защитив при этом приватность граждан и обеспечив соответствие закону DPDP. Руководство подготовлено совместно с аналитическим центром iSPIRT. Предложенная технико-правовая архитектура позволит организациям вместе обучать модели без прямой передачи исходных наборов данных.

Четыре технических опоры

Новая схема опирается на действующую DEPA, которая уже поддерживает обмен данными по согласию, в частности через Account Aggregator. Она включает четыре элемента: конфиденциальные «чистые комнаты» — защищённые среды, где участники работают с данными, не видя данные друг друга; дифференциальную приватность, не позволяющую извлечь сведения об отдельных людях из агрегированного набора; электронные контракты — машиночитаемые соглашения об условиях использования и требованиях безопасности; и подход «нулевого доверия», при котором каждый запрос доступа проходит аутентификацию и авторизацию.

Определены и участники: поставщики обучающих данных (TDP) — банки, больницы, госструктуры; потребители (TDC) — стартапы, компании, исследователи и частные лица; а также «коллективы данных» — посредники, которые агрегируют и стандартизируют данные и задают правила управления.

Как это будет работать

Поставщики анонимизируют и шифруют наборы данных, регистрируют их на платформе обмена и помечают метаданными и криптографическими идентификаторами. Потребитель запрашивает набор под конкретную задачу, а система электронных контрактов проверяет запрос на соответствие политикам. Обучение проходит в защищённой среде с применением дифференциальной приватности, так что сырые данные остаются недоступны.

Обученные модели должны пройти независимую проверку на предвзятость, справедливость, безопасность и объяснимость; одобрение для пилотного внедрения и масштабирования получат только прошедшие её. Надзор сохранится и после запуска: постоянный мониторинг, периодические проверки и возможность связать выводы модели с данными и контрактами, использованными при обучении.

Инициатива появилась вскоре после проекта рекомендаций регулятора TRAI по ответственному применению ИИ в телеком-сетях; отзывы принимаются до 27 ноября. Министр Ашвини Вайшнав недавно также заявил, что в течение месяца будет опубликован консультационный документ о безопасности ИИ.