Harbor sammelt 10 Mio. Dollar für das Risikomanagement von KI-Agenten

Warum laufende Messung nötig ist

Laut Elechiguerra überlassen Unternehmen Agenten bereits echte Entscheidungen: Kredite genehmigen, Policen bepreisen, Geld bewegen. Bei Fehlern haftet das Unternehmen, und Versicherer beginnen, dieses Risiko auszuschließen. Einmalige Audits vor dem Einsatz genügten nicht, weil sich Modelle, Werkzeuge und Daten ständig ändern. Als Beispiel nannte er ein kanadisches Urteil von 2024, das Air Canada zwang, eine vom eigenen Chatbot erfundene Erstattungsregel einzuhalten.

Harbor erstellt zunächst ein Inventar der Agenten und bewertet jeden in drei Bereichen: ob er seine Aufgabe gut erfüllt, ob er sich täuschen lässt oder Daten preisgibt und ob er geltende Regeln einhält. Anschließend prüft die Plattform jede Entscheidung gegen die Regeln des Kunden und blockiert Verstöße, bevor sie ausgeführt werden. Das mit Stanford und weiteren Partnern entwickelte Rahmenwerk orientiert sich an NIST AI RMF, SR 26-2 und der EU-KI-Verordnung; bei jeder Änderung wird neu gemessen.

Markt und Pläne

Chief of Staff Juan Vecino zufolge unterscheiden sich die Treiber je nach Region. In den USA dürfen Versicherer seit Januar 2026 Standardausschlüsse für generative KI in Haftpflichtpolicen aufnehmen. In Europa treibt die Regulierung: Die KI-Verordnung greift allmählich, und die EZB forderte im Juli von den beaufsichtigten Banken einen Plan gegen KI-basierte Bedrohungen.

Nach dem Start mit Berichten in rund 70 Medien konzentriert sich Harbor auf regulierte Branchen wie Banken und Versicherungen. In Spanien arbeitet das Unternehmen bereits mit Kunden. Das Geld fließt in die Risikoplattform, mehr Versicherungskapazität und den Ausbau des Teams in San Francisco und Spanien. Elechiguerra erwartet, dass in drei bis fünf Jahren kein seriöses Unternehmen mehr einen Agenten ohne laufende Risikomessung und Risikotransfer einsetzt.