ИИ4 нояб. 2026 г., 08:07 UTC·2 мин чтения

DSCI предложила рамки ответственности за вред, причинённый ИИ-агентами

Индийский совет по безопасности данных DSCI предложил отраслевые рамки, которые распределяют ответственность за вред от ИИ-агентов по цепочке создания стоимости.

Illustration of an AI agent connected to a chain of companies, with a scale of justice symbolising shared liability. — Фото: Inc42 Media

SUMO

Dialo

ediviewer

Индийский совет по безопасности данных (DSCI) предложил отраслевые рамки для определения ответственности за вред, который причиняют автономные ИИ-агенты. По замыслу совета, ответственность должна распределяться между участниками цепочки создания стоимости ИИ в зависимости от принимаемых ими решений и степени контроля над системой.

Дискуссионный документ «AI Liability: Industry Guidance for Agentic AI» не вводит новое регулирование. Он предлагает применять к агентному ИИ действующие законы, договорные обязательства и отраслевые нормы.

Кто за что отвечает

DSCI выделяет пять групп, участвующих во внедрении ИИ в компаниях: организации-конечные пользователи, поставщики услуг и интеграторы, продуктовые компании и стартапы, поставщики инструментов и фреймворков, а также облачные и инфраструктурные провайдеры. Разработчики моделей ИИ рассматриваются отдельно.

По мнению DSCI, ответственность не должна ложиться только на компанию, внедрившую систему, или только на поставщика технологии. Важно, кто контролирует ключевые решения: выбор модели, конфигурацию, доступ к инструментам, разрешения и человеческий надзор. Рамки опираются на принципы должной осмотрительности, ответственности за продукт, причинно-следственной связи и сравнительной небрежности, а также предлагают «карту полномочий»: она покажет, кто контролировал решение и мог ли предотвратить ущерб.

Компании, запускающие агентов, отвечали бы за выбор сценариев, настройку разрешений и определение случаев, когда нужно одобрение человека. Продуктовые компании — за заявления о продукте, настройки по умолчанию и версии моделей, интеграторы — за архитектуру системы и обработку сбоев. Те, кто запускает открытые модели на собственной инфраструктуре, несут больше ответственности за аудит и мониторинг. Пользователи закрытых моделей через управляемые API могут добиваться возмещения от разработчика модели, но многое зависит от условий договора и лимитов ответственности.

Риски и меры защиты

Переход от генеративного ИИ к агентному повышает риск несанкционированных операций, ошибочных платежей и утечек данных, особенно когда агенты передают задачи друг другу между организациями. DSCI называет 12 областей возможного вреда, среди них нарушения приватности, дискриминация, дипфейки и киберпреступность с применением ИИ.

Рамки предлагают шесть мер защиты: убирать лишние возможности, ограничивать разрешения, требовать одобрения человека для значимых и необратимых действий, отслеживать поведение, обеспечивать безопасное сокращение операций и внедрять аварийные выключатели с чётко назначенным владельцем. DSCI собирает отзывы отрасли и планирует выпустить дополнительные рекомендации, в частности по картированию полномочий.