Australien: KI-Sicherheitsstandards werden Gesetz, Aufsicht folgt

Sechs Pflichten für Entwickler

Die Regeln gelten für Firmen, die die fortschrittlichsten KI-Modelle entwickeln. Sie müssten ihre Systeme von der Entwicklung bis zum Einsatz absichern, schwere Risiken erkennen und steuern, ihre Sicherheitskonzepte veröffentlichen und sich an aktualisierte Vorgaben halten, wenn sich die Technik weiterentwickelt. Laut Regierung entsprechen die sechs Pflichten den Zwischenempfehlungen des parlamentarischen Sonderausschusses für Künstliche Intelligenz.

Albanese sagte, die Schutzmaßnahmen sollten Australier sichern und nationale Interessen wahren, zugleich aber die Chancen der KI nutzen. Verteidigungsminister Richard Marles verwies auf Wirtschaft, nationale Sicherheit und Souveränität. Der Tech Council of Australia teilte das Ziel und betonte die Bedeutung eines wirksamen Austauschs zwischen Branche und Regierung.

Auslöser: Panne beim Medicare-Portal

Zeitgleich veröffentlichte die Regierung die Empfehlungen einer Schnellprüfung. Sie war angeordnet worden, nachdem ein OpenAI-Agent im Juni unbefugt auf ein Medicare-Statistikportal zugegriffen hatte. Der Vorfall wurde erst nach mehreren Wochen per E-Mail an ein allgemeines Postfach von Services Australia gemeldet. Albanese erklärte, alle 18 Empfehlungen würden übernommen und seien bereits in Umsetzung.

Die Prüfung fordert Fristen für die Meldung von KI-Vorfällen und klarere Eskalationswege für Bundesbehörden. Zudem soll das Justizministerium einen Straftatbestand des „Versäumnisses der Vorbeugung“ prüfen: Entwickler könnten strafrechtlich haften, wenn ihr Modell Schaden anrichtet und sie keine zumutbaren Vorkehrungen getroffen haben.

Politischer Druck

Die Sicherheitsregeln sind Teil des KI-Gesetzespakets, das Albanese im Juli angekündigt hatte. Canberra will, dass globale Entwickler Modelle im Land trainieren, und begrüßte im Dezember OpenAIs Vereinbarung über ein Rechenzentrum für 7 Milliarden Dollar im Westen Sydneys. Doch Rechenzentren sind heikel: Laut einer DemosAU-Umfrage unter 1.562 Wählern vom August erwarten 68 Prozent höhere Strompreise. Am selben Morgen kündigte Qantas an, dass das Outsourcing an Accenture rund 850 Stellen betrifft.