Yapay zekâ4 Kas 2026 08:07 UTC·2 dk okuma

DSCI, yapay zeka ajanlarının yol açtığı zararlar için sorumluluk çerçevesi önerdi

Hindistan Veri Güvenliği Konseyi DSCI, yapay zeka ajanlarının verdiği zararlarda sorumluluğu değer zinciri boyunca karar kontrolüne göre dağıtan bir çerçeve önerdi.

Illustration of an AI agent connected to a chain of companies, with a scale of justice symbolising shared liability. — Görsel: Inc42 Media

SUMO

Dialo

ediviewer

Hindistan Veri Güvenliği Konseyi (DSCI), otonom yapay zeka ajanlarının zarar vermesi durumunda sorumluluğu belirlemeye yönelik sektörel bir çerçeve önerdi. Öneriye göre sorumluluk, yapay zeka değer zincirindeki her katılımcının aldığı kararlara ve sistem üzerindeki kontrol düzeyine göre paylaştırılacak.

“AI Liability: Industry Guidance for Agentic AI” başlıklı tartışma belgesi, yeni bir düzenleme rejimi getirmiyor. Amaç, mevcut yasaların, sözleşmesel yükümlülüklerin ve sektörel düzenlemelerin ajan tabanlı yapay zeka sistemlerine uygulanması.

Kim neden sorumlu olacak?

DSCI, kurumsal yapay zeka kullanımında beş grup tanımlıyor: son kullanıcı kuruluşlar, hizmet sağlayıcılar ve entegratörler, ürün şirketleri ve girişimler, araç ve çerçeve sağlayıcıları ile bulut ve altyapı sağlayıcıları. Yapay zeka modeli sağlayıcıları ayrıca ele alınıyor.

Konseye göre sorumluluk yalnızca sistemi kullanan şirkete ya da teknolojiyi sunan sağlayıcıya yüklenmemeli. Model seçimi, sistem yapılandırması, araç erişimi, yetkiler ve insan denetimi gibi kritik kararları kimin kontrol ettiğine bakılmalı. Çerçeve; özen yükümlülüğü, ürün sorumluluğu, nedensellik ve müterafik kusur ilkelerinden yararlanıyor ve bir kararı kimin kontrol ettiğini, zararı önleyip önleyemeyeceğini gösteren bir “yetki haritası” öneriyor.

Ajanları devreye alan şirketler kullanım senaryolarını, izinleri ve insan onayının ne zaman gerekeceğini belirlemekten sorumlu olacak. Ürün şirketleri ürün beyanlarından, varsayılan ayarlardan ve model sürümlerinden, entegratörler ise sistem tasarımından ve arızaların yönetiminden sorumlu tutulabilecek. Açık kaynaklı veya açık ağırlıklı modelleri kendi altyapısında çalıştıranlar denetim ve izleme konusunda daha fazla sorumluluk üstlenecek. Kapalı modelleri yönetilen API’lerle kullananlar ise sözleşme koşullarına ve sorumluluk sınırlarına bağlı olarak model sağlayıcısına başvurabilecek.

Riskler ve önlemler

Üretken yapay zekadan ajan tabanlı yapay zekaya geçiş, yetkisiz işlemler, hatalı ödemeler ve veri ihlalleri riskini artırıyor; ajanlar kurumlar arasında görev devrettiğinde hatalar zincirleme yayılabilir. DSCI gizlilik ihlalleri, ayrımcılık, deepfake ve yapay zeka destekli siber suçlar dahil 12 zarar alanı sıralıyor.

Çerçeve altı önlem öneriyor: gereksiz yetenekleri kaldırmak, izinleri kısıtlamak, önemli ya da geri döndürülemez işlemlerde insan onayı istemek, davranışı izlemek, sistemlerin güvenle küçülmesini sağlamak ve sahibi net biçimde belirlenmiş acil durdurma mekanizmaları kurmak. DSCI sektörden görüş topluyor; yetki haritalaması gibi konularda yeni rehberler yayımlamayı planlıyor.