Harbor lève 10 M$ pour mesurer et assurer les risques des agents d'IA

Pourquoi mesurer en continu

Selon Daniel Elechiguerra, les entreprises confient déjà de vraies décisions à des agents : accorder des prêts, tarifer des polices, déplacer de l'argent. En cas d'erreur, l'entreprise est responsable, et les assureurs commencent à exclure ce risque. Les audits ponctuels avant déploiement ne suffisent pas, car modèles, outils et données évoluent sans cesse. Il cite la décision d'un tribunal canadien en 2024 qui a contraint Air Canada à respecter une politique de remboursement inventée par son agent conversationnel.

Harbor commence par un inventaire des agents, puis évalue chacun sur trois plans : accomplit-il bien sa tâche, peut-il être trompé ou divulguer des données, respecte-t-il les règles applicables. La plateforme confronte ensuite chaque décision aux règles du client et bloque celles qui n'y satisfont pas avant leur exécution. Le cadre, élaboré avec Stanford et d'autres partenaires, s'aligne sur le NIST AI RMF, la SR 26-2 et le règlement européen sur l'IA ; la mesure est refaite à chaque changement.

Marché et projets

Pour Juan Vecino, Chief of Staff, les moteurs varient selon les régions. Aux États-Unis, les assureurs peuvent ajouter depuis janvier 2026 des exclusions standard liées à l'IA générative aux polices de responsabilité civile. En Europe, c'est la réglementation qui pousse : le règlement sur l'IA entre en application et la BCE a demandé en juillet aux banques supervisées un plan contre les menaces fondées sur l'IA.

Après un lancement relayé par environ 70 médias, Harbor se concentre sur les secteurs réglementés, comme la banque et l'assurance. Elle travaille déjà avec des entreprises en Espagne. Les fonds iront à la plateforme de risque, à la capacité d'assurance et à l'équipe de San Francisco et d'Espagne. Daniel Elechiguerra prévoit que d'ici trois à cinq ans, aucune entreprise sérieuse ne déploiera d'agent sans mesure continue du risque ni moyen de le transférer.