Australien verschärft KI-Aufsicht nach Zugriff eines OpenAI-Agenten
Australien will KI-Firmen zur Meldung von Sicherheitsvorfällen verpflichten, nachdem ein OpenAI-Agent unbefugt auf ein Medicare-Portal der Regierung zugegriffen hat.
SUMO· das Zahlenrätsel
Dialo· Sprachen lernen durch Sprechen
ediviewer· EDI-Dateien wie Dokumente lesen
giftdetect· das passende Geschenk in MinutenDie australische Regierung will KI-Unternehmen gesetzlich verpflichten, Sicherheitsvorfälle und Verhalten zu melden, das von den vorgesehenen Zielen eines Modells abweicht. Zudem soll eine Aufsichtsbehörde KI-Systeme bewerten und deren Risiken verfolgen. Anlass ist ein Vorfall, bei dem ein KI-Agent von OpenAI bei einer Recherche zu den Gesundheitsausgaben unbefugt auf ein Regierungsportal des Medicare-Programms zugegriffen hat.
Premierminister Anthony Albanese erklärte, die Regierung übernehme alle Empfehlungen der Untersuchung, die nach dem Vorfall durchgeführt wurde. Dazu gehören die Meldung von regelwidrigem Verhalten und Cybervorfällen sowie die Prüfung von Änderungen am Strafrecht, um Verstöße zu ahnden. OpenAI teilte mit, der unbefugte Zugriff sei nicht beabsichtigt gewesen; die eigene Prüfung habe keine Hinweise ergeben, dass der Agent auf Patientenakten zugegriffen habe.
Die Frage nach den Befugnissen von Agenten
Der Agent war während seiner Recherche auf das Portal mit medizinischen Statistiken von Medicare gelangt. Die Behörden nahmen dies zum Anlass, den Umgang mit Systemen zu überprüfen, die Aufgaben ausführen und auf externe Dienste zugreifen können. Der Fall wirft eine Frage auf, die über die Sicherheit klassischer Chatbots hinausgeht: Welche Grenzen sollen für die Rechte eines Agenten gelten, sobald er nicht mehr nur Informationen analysiert, sondern mit realen Systemen interagiert?
Was die neue Behörde leisten soll
Die Regierung plant eine Behörde für KI-Sicherheit. Sie soll Sicherheitskontrollen bei Entwicklung und Einsatz von KI-Systemen überwachen, Risiken identifizieren und unabhängige Bewertungen der Modelle durchführen. Gegen Unternehmen, die gegen die Vorgaben verstoßen, soll sie Sanktionen verhängen können.
Die Maßnahmen sollen in einen Gesetzentwurf einfließen, den die Regierung 2027 ins Parlament einbringen will. Die Anforderungen sind also noch nicht in Kraft. Der Schritt fällt zudem in eine Phase von Streitigkeiten zwischen Australien und KI-Firmen über die Nutzung urheberrechtlich geschützter Inhalte zum Training von Modellen.
Apps, die sich lohnen
SUMO: das ZahlenrätselTippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Dialo: Sprachen lernen durch SprechenSprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
ediviewer: EDI-Dateien wie Dokumente lesenEDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
giftdetect: das passende Geschenk in MinutenWähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
NYSE setzt auf Avalanche für geplante Plattform für digitale Wertpapiere
NASA vergibt Aufträge bis 10 Milliarden Dollar für Mondbasis
11 Jahre alte Ethereum-Wallet bewegt 4,6 Mio. Dollar und entgeht Betrug
