MeitY propone el marco DEPA para entrenar IA con datos y privacidad

El Ministerio de Electrónica y Tecnologías de la Información de la India (MeitY) ha propuesto un marco basado en el consentimiento para facilitar el intercambio de datos destinados a entrenar modelos de inteligencia artificial. Denominado Data Empowerment and Protection Architecture (DEPA) para el entrenamiento de IA, busca que startups, empresas e instituciones académicas accedan a grandes conjuntos de datos específicos de la India, protegiendo la privacidad de los ciudadanos y cumpliendo la ley DPDP.

Las directrices se han elaborado junto con el centro de análisis iSPIRT. Se apoyan en el marco DEPA ya existente, que permite compartir datos con consentimiento mediante iniciativas como Account Aggregator. La nueva arquitectura, tecnojurídica, permite que las organizaciones colaboren en el entrenamiento sin transferir directamente los conjuntos de datos subyacentes.

Cuatro pilares técnicos

El esquema se basa en las salas limpias confidenciales, entornos seguros donde las partes procesan datos y entrenan modelos sin exponerse sus datos entre sí; la privacidad diferencial, que impide extraer información individual de un conjunto agregado; los contratos electrónicos, acuerdos legibles por máquina que definen usos permitidos y requisitos de seguridad; y la seguridad de confianza cero, donde cada solicitud de acceso se autentica y autoriza.

Se definen tres actores: los proveedores de datos de entrenamiento (bancos, hospitales, organismos públicos), los consumidores (startups, empresas, investigadores y particulares) y los colectivos de datos, intermediarios que agregan y estandarizan la información y fijan las reglas de gobernanza.

Cómo funcionaría

Los proveedores anonimizan y cifran sus datos, los registran en una plataforma de intercambio y los etiquetan con metadatos e identificadores criptográficos. Los consumidores solicitan un conjunto para un uso concreto y el sistema de contratos electrónicos verifica la petición antes de conceder el acceso. El entrenamiento se realiza en el entorno seguro con privacidad diferencial, de modo que los datos en bruto siguen siendo inaccesibles.

Los modelos entrenados deberían pasar controles independientes de sesgo, equidad, seguridad y explicabilidad; solo los aprobados podrían pasar a despliegue piloto y escalado. La supervisión continuaría con monitorización, revisiones periódicas y trazabilidad de los resultados hasta los datos y contratos empleados.

La propuesta llega poco después de un borrador de la TRAI sobre el uso responsable de la IA en telecomunicaciones, con comentarios hasta el 27 de noviembre. El ministro Ashwini Vaishnaw también había anunciado un documento de consulta sobre seguridad de la IA en el plazo de un mes.