AI4 lis 2026, 08:07 UTC·2 min czytania

DSCI proponuje ramy odpowiedzialności za szkody wyrządzone przez agentów AI

Indyjska Rada Bezpieczeństwa Danych (DSCI) proponuje ramy, które rozkładają odpowiedzialność za szkody agentów AI wzdłuż łańcucha wartości według kontroli nad decyzjami.

Illustration of an AI agent connected to a chain of companies, with a scale of justice symbolising shared liability. — Zdjęcie: Inc42 Media

SUMO

Dialo

ediviewer

Indyjska Rada Bezpieczeństwa Danych (DSCI) zaproponowała branżowe ramy ustalania odpowiedzialności za szkody wyrządzone przez autonomicznych agentów AI. Według dokumentu odpowiedzialność należy przypisywać uczestnikom łańcucha wartości AI zależnie od podejmowanych przez nich decyzji i stopnia kontroli nad systemem.

Dokument dyskusyjny „AI Liability: Industry Guidance for Agentic AI” nie wprowadza nowego reżimu regulacyjnego. Ma stosować do agentów AI istniejące przepisy, zobowiązania umowne i regulacje sektorowe.

Kto za co odpowiada

DSCI wyróżnia pięć grup uczestniczących we wdrożeniach korporacyjnych: organizacje będące użytkownikami końcowymi, dostawców usług i integratorów, firmy produktowe i startupy, dostawców narzędzi i frameworków oraz dostawców chmury i infrastruktury. Dostawców modeli AI omówiono osobno.

Rada przekonuje, że odpowiedzialność nie powinna spoczywać wyłącznie na firmie wdrażającej system ani na dostawcy technologii. Liczy się to, kto kontroluje kluczowe decyzje: od wyboru modelu i konfiguracji po dostęp do narzędzi, uprawnienia i nadzór człowieka. Ramy odwołują się do staranności, odpowiedzialności za produkt, związku przyczynowego i winy współudziałowej, a także proponują „mapę uprawnień”, która pokaże, kto kontrolował daną decyzję i czy mógł zapobiec szkodzie.

Firmy wdrażające agentów odpowiadałyby m.in. za wybór zastosowań, uprawnienia i moment wymagania zatwierdzenia przez człowieka. Firmy produktowe – za deklaracje o produkcie, ustawienia domyślne i wersje modeli, a integratorzy – za projekt systemu i obsługę awarii. Użytkownicy modeli open-source lub open-weight na własnej infrastrukturze ponosiliby większą odpowiedzialność za audyt i monitorowanie. Ci, którzy korzystają z modeli zamkniętych przez API, mogliby dochodzić roszczeń od dostawcy modelu, zależnie od umowy i limitów odpowiedzialności.

Ryzyka i zabezpieczenia

Przejście od generatywnej AI do agentowej zwiększa ryzyko nieautoryzowanych transakcji, błędnych płatności i wycieków danych, zwłaszcza gdy agenci przekazują sobie zadania między organizacjami. DSCI wskazuje 12 obszarów szkód, w tym naruszenia prywatności, dyskryminację, deepfake’i i cyberprzestępczość wspieraną przez AI.

Ramy proponują sześć zabezpieczeń, m.in. ograniczanie uprawnień, zatwierdzanie przez człowieka działań istotnych lub nieodwracalnych, monitorowanie oraz wyłączniki awaryjne z jasno przypisanym właścicielem. DSCI zbiera uwagi od branży i planuje kolejne wytyczne, m.in. o mapowaniu uprawnień.