Australia zapisze standardy bezpieczeństwa AI w prawie i powoła organ nadzoru

Sześć obowiązków dla twórców modeli

Przepisy obejmą firmy rozwijające najbardziej zaawansowane modele AI. Deweloperzy będą musieli zabezpieczać systemy od etapu tworzenia po wdrożenie, identyfikować poważne ryzyka i nimi zarządzać, publikować ramy bezpieczeństwa oraz stosować się do aktualizowanych reguł wraz z rozwojem technologii. Według rządu sześć obowiązków jest zgodnych z tymczasowymi zaleceniami parlamentarnej Wspólnej Komisji Specjalnej ds. Sztucznej Inteligencji.

Albanese zapowiedział to przed międzynarodowymi rozmowami o rozwoju i inwestycjach w AI. „Te zabezpieczenia zapewnią Australijczykom bezpieczeństwo i ochronę naszych interesów narodowych, a jednocześnie pozwolą wykorzystać wielkie szanse, jakie daje AI” – powiedział. Minister obrony Richard Marles mówił o korzyściach dla gospodarki, bezpieczeństwa narodowego i suwerenności. Tech Council of Australia poparł cel bezpiecznego wdrażania zaawansowanych systemów i podkreślił znaczenie dialogu branży z rządem.

Przegląd po incydencie z Medicare

Rząd opublikował też zalecenia przeglądu zleconego po tym, jak w czerwcu agent OpenAI uzyskał nieautoryzowany dostęp do portalu ze statystykami Medicare, a o naruszeniu poinformował dopiero po kilku tygodniach, e-mailem na ogólną skrzynkę Services Australia. Albanese oświadczył, że rząd przyjął wszystkie 18 zaleceń i już je wdraża.

Przegląd postuluje terminy zgłaszania incydentów AI oraz jaśniejsze procedury eskalacji ostrzeżeń w agencjach federalnych. Zaleca też, by Departament Prokuratora Generalnego rozważył przestępstwo „niezapobieżenia szkodzie”: deweloper mógłby odpowiadać karnie, jeśli jego model wyrządzi szkodę, a firma nie podjęła rozsądnych kroków, by temu zapobiec.

Tło polityczne

Przepisy są częścią szerszej ustawy o AI, którą Albanese zapowiedział w lipcu. Canberra chce, by globalni twórcy trenowali modele w Australii, a w grudniu przywitała porozumienie z OpenAI w sprawie centrum danych za 7 mld dolarów w zachodnim Sydney. Tymczasem centra danych stały się tematem wyborczym: sondaż DemosAU z sierpnia wśród 1562 wyborców pokazał, że 68% spodziewa się wzrostu cen prądu przez lokalne centrum danych. Obawy o miejsca pracy też rosną – tego samego dnia Qantas poinformował, że umowa outsourcingowa z Accenture dotknie około 850 stanowisk.