MeitY plant DEPA-Rahmen für datenschutzfreundliches KI-Training

Indiens IT-Ministerium MeitY hat ein einwilligungsbasiertes Rahmenwerk vorgeschlagen, das den Datenaustausch für das Training von KI-Modellen erleichtern soll. Die „Data Empowerment and Protection Architecture“ (DEPA) für KI-Training soll Startups, Unternehmen und Hochschulen Zugang zu umfangreichen, indienspezifischen Datensätzen verschaffen – bei gleichzeitigem Schutz der Privatsphäre und im Einklang mit dem DPDP-Gesetz.

Die Leitlinien entstanden gemeinsam mit dem Thinktank iSPIRT. Sie bauen auf dem bestehenden DEPA-Rahmen auf, der über Initiativen wie Account Aggregator bereits einwilligungsbasierten Datenaustausch ermöglicht. Die neue Architektur ist technisch-rechtlich angelegt: Organisationen können gemeinsam Modelle trainieren, ohne die zugrunde liegenden Datensätze direkt zu übertragen.

Vier technische Säulen

Das Konzept stützt sich auf „Confidential Clean Rooms“, geschützte Umgebungen, in denen Datenverarbeitung und Training stattfinden, ohne dass die Beteiligten gegenseitig Einblick in die Daten erhalten. Hinzu kommen Differential Privacy, die verhindert, dass sich Informationen zu Einzelpersonen aus aggregierten Daten gewinnen lassen, elektronische Verträge als maschinenlesbare Vereinbarungen für erlaubte Nutzung und Sicherheitsanforderungen sowie Zero-Trust-Sicherheit, bei der jede Zugriffsanfrage authentifiziert und autorisiert wird.

Definiert sind drei Rollen: Training Data Providers wie Banken, Krankenhäuser und Behörden stellen Daten bereit. Training Data Consumers – Startups, Unternehmen, Forscher und Einzelpersonen – fragen Zugang an. Data Collectives bündeln und standardisieren Daten und legen Governance-Regeln fest.

Der vorgesehene Ablauf

Anbieter anonymisieren und verschlüsseln ihre Datensätze, registrieren sie auf einer Datenbörse und versehen sie mit Metadaten und kryptografischen Kennungen. Nutzer beantragen einen Datensatz für einen konkreten Zweck; das System der elektronischen Verträge prüft die Anfrage anhand der Regeln, bevor der Zugang erfolgt. Das Training läuft in der gesicherten Umgebung mit Differential Privacy, sodass die Rohdaten unzugänglich bleiben.

Trainierte Modelle sollen unabhängig auf Verzerrungen, Fairness, Sicherheit und Erklärbarkeit geprüft werden; nur bestandene Modelle erhalten die Freigabe für Pilotbetrieb und Skalierung. Auch danach bleibt die Aufsicht bestehen, mit laufender Überwachung, regelmäßigen Prüfungen und Rückverfolgbarkeit der Ergebnisse bis zu Daten und Verträgen.

Der Vorschlag folgt auf einen TRAI-Entwurf zum verantwortungsvollen KI-Einsatz im Telekomsektor; Stellungnahmen sind bis 27. November möglich. IT-Minister Ashwini Vaishnaw hatte zudem ein Konsultationspapier zur Regulierung von KI-Sicherheit binnen eines Monats angekündigt.