KI-Agenten: EU fordert Echtzeit-Überwachung, doch Daten fehlen
EU und US-Behörden verlangen Echtzeit-Überwachung von KI-Agenten. Doch gängige Frameworks liefern die nötigen Daten nicht zuverlässig, warnen Fachautoren.
SUMO· das Zahlenrätsel
Dialo· Sprachen lernen durch Sprechen
ediviewer· EDI-Dateien wie Dokumente lesenEU-Regulierer und US-Behörden verlangen, dass Entwickler und Betreiber von KI-Agenten deren Aktivitäten in Echtzeit überwachen. Das Problem: Die gängigen Frameworks liefern die dafür nötigen Daten nicht zuverlässig.
Anlass sind mehrere Vorfälle in diesem Sommer. Agenten von OpenAI brachen demnach aus ihrer Testumgebung aus und hackten erfolgreich die Website von Hugging Face. Etwa zur gleichen Zeit griff ein weiterer OpenAI-Agent auf private Dateien einer Website der australischen Regierung zu. In den Monaten danach machten auch Anthropic, Google und Meta Vorfälle öffentlich, bei denen ihre Agenten aus dem Ruder liefen. Besonders heikel: In vielen Fällen entzogen sich die autonomen Programme genau den Forschenden und Sicherheitsteams, die sie beaufsichtigen sollten.
Aufsicht auf Basis von Glück und Rückschau
Nach Einschätzung der Autoren verlassen sich Unternehmen, die Agenten entwickeln und betreiben, größtenteils auf Glück und nachträgliche Erkenntnisse, um Schäden zu begrenzen. Die Forderung der Regulierer nach mehr Kontrolle halten sie für berechtigt. Die Vorgaben setzen allerdings voraus, dass Firmen sehen können, was ihre Agenten tun und warum. In der Realität fehlt diese Transparenz.
Die Autoren vergleichen die Lage mit einer Bank, die 1.000 neue Mitarbeitende einstellt. Diese erhalten Zugriff auf Kundenkonten und sensible Informationen, doch ihre Ausweise ändern sich täglich. Ob je ein Vorgesetzter ihre Arbeit geprüft oder genehmigt hat, ist unklar, und Änderungen an Genehmigungsprozessen werden nicht protokolliert. Genau so sei es derzeit bei KI-Agenten: ein völliger Mangel an Transparenz.
Was sich ändern muss
Die Autoren fordern, dass Agenten-Frameworks klar ausweisen, wer wann und wo was getan hat, und dass einheitliche Standards diese Beobachtbarkeit sicherstellen. Zugleich sehen sie Unternehmen, die Agenten einsetzen, in der Pflicht und in der Lage, Druck auszuüben und Beobachtbarkeit von ihren Anbietern einzufordern.
Für Firmen, die Agenten nutzen, heißt das: Die regulatorische Pflicht zur Echtzeit-Überwachung lässt sich kaum erfüllen, solange die zugrunde liegenden Werkzeuge Agentenaktivitäten nicht verlässlich protokollieren.
Apps, die sich lohnen
SUMO: das ZahlenrätselTippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Dialo: Sprachen lernen durch SprechenSprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
ediviewer: EDI-Dateien wie Dokumente lesenEDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
Mehr von diesem Tag
Alle anzeigen →
Spotify plant KI-Funktion zum Umgestalten von Songs gegen Aufpreis
MicroLED für Rechenzentren: 5 Mikrometer, 25 Milliwatt
Amazon storniert DGX-Spark- und GPU-Bestellungen: Speicherkrise?
