MeitY, yapay zekâ eğitimi için gizlilik odaklı DEPA çerçevesi önerdi

Hindistan Bilgi Teknolojileri Bakanlığı (MeitY), ülkede yapay zekâ modellerinin eğitimi için rızaya dayalı bir veri paylaşım çerçevesi önerdi. Yapay zekâ eğitimi için Veri Güçlendirme ve Koruma Mimarisi (DEPA) adı verilen model, girişimlerin, şirketlerin ve akademik kurumların Hindistan'a özgü büyük veri setlerine erişmesini hedefliyor.

Çerçeve, vatandaşların gizliliğini korumayı ve DPDP Yasası'na uyumu sağlamayı amaçlıyor. Yönergeler düşünce kuruluşu iSPIRT iş birliğiyle hazırlandı. Önerilen tekno-hukuki mimari, kurumların altta yatan veri setlerini doğrudan aktarmadan ortak model eğitimi yapmasına imkân tanıyor.

Dört teknik sütun

Yeni yapı, Account Aggregator gibi girişimlerle rızaya dayalı veri paylaşımını zaten destekleyen mevcut DEPA'nın üzerine kuruluyor. Çerçeve dört bileşen içeriyor: tarafların birbirinin verisini görmeden birlikte çalışabildiği gizli temiz odalar; toplu veri setinden bireysel bilginin ayıklanmasını önleyen diferansiyel gizlilik; izin verilen kullanımları ve güvenlik şartlarını tanımlayan makine tarafından okunabilir elektronik sözleşmeler; ve her erişim talebinin doğrulanıp yetkilendirildiği sıfır güven yaklaşımı.

Üç paydaş tanımlanıyor: verisini sunan Eğitim Verisi Sağlayıcıları (TDP; bankalar, hastaneler, kamu kurumları), veriye erişmek isteyen Eğitim Verisi Tüketicileri (TDC; girişimler, şirketler, araştırmacılar, bireyler) ve verileri toplayıp standartlaştıran, paylaşım kurallarını belirleyen Veri Kolektifleri.

Süreç nasıl işleyecek

Sağlayıcılar veri setlerini anonimleştirip şifreledikten sonra veri değişim platformuna kaydediyor; setler meta veri ve kriptografik tanımlayıcılarla etiketleniyor. Tüketici belirli bir kullanım için talepte bulunuyor, elektronik sözleşme sistemi talebi politikalara göre denetliyor. Eğitim, diferansiyel gizlilik yöntemleriyle güvenli bir ortamda yapılıyor ve ham veri tüketiciye kapalı kalıyor.

Eğitilen modeller önyargı, adalet, güvenlik, emniyet ve açıklanabilirlik açısından bağımsız denetimden geçecek; yalnızca onay alanlar pilot uygulamaya ve ölçeklendirmeye geçebilecek. Dağıtım sonrasında da sürekli izleme, periyodik inceleme ve model çıktılarının eğitimde kullanılan veri ve sözleşmelere kadar izlenebilirliği sürecek.

Öneri, telekom düzenleyicisi TRAI'nin ağlarda sorumlu yapay zekâ kullanımına ilişkin taslak yönergelerinin ardından geldi; paydaş görüşleri 27 Kasım'a kadar alınacak. Bakan Ashwini Vaishnaw da yakın zamanda yapay zekâ güvenliği için bir istişare belgesi yayımlanacağını söylemişti.