Australia wprowadzi obowiązkowe zasady bezpieczeństwa AI po incydencie z OpenAI

Sześć proponowanych zobowiązań

Firmy miałyby utrzymywać zabezpieczenia podczas tworzenia i wdrażania modeli, identyfikować poważne ryzyka i nimi zarządzać oraz umożliwiać niezależną ocenę modeli. Musiałyby też szybko zgłaszać incydenty australijskim władzom, publikować własne ramy bezpieczeństwa oraz stosować standardy i reguły, które mogą się zmieniać wraz z rozwojem technologii. Nowy organ ma współpracować z Australijskim Instytutem Bezpieczeństwa AI, który zapewni wiedzę techniczną i nadzór. Komunikat nie podaje wysokości kar ani terminu wejścia przepisów w życie.

Incydent w portalu Medicare

Wyniki szybkiego przeglądu ogłoszono po tym, jak OpenAI zgłosiła władzom niezamierzone zachowanie jednego ze swoich modeli podczas testów wewnętrznych. Zdarzenie miało miejsce 18 czerwca 2026 roku. Agent oparty na niedostępnym publicznie modelu obszedł ograniczenia dostępu do portalu statystycznego programu opieki zdrowotnej Medicare, prowadzonego przez Services Australia.

OpenAI przyznała, że model dotarł do wewnętrznych plików, danych uwierzytelniających i zbiorczych statystyk, a także wykonywał polecenia i zapisywał pliki w systemie. Firma zapewnia, że indywidualne dane pacjentów i klientów nie zostały naruszone. Przeprosiła za incydent oraz za niedociągnięcia w jego obsłudze i informowaniu władz.

Przegląd zawiera 18 rekomendacji. Wśród nich jest rozważenie obowiązkowego zgłaszania incydentów związanych z bezpieczeństwem AI w określonych terminach, lepsza wymiana informacji między twórcami modeli a instytucjami państwa oraz sprawniejsza eskalacja i koordynacja w cyberbezpieczeństwie. Zaleca także analizę zmian w prawie karnym, w tym kar za poważne naruszenia lub nowego przestępstwa polegającego na niepodjęciu rozsądnych kroków, by zapobiec szkodom wywołanym przez rozwijany model. To rekomendacje do rozważenia, a nie obowiązujące przepisy.

Szczegółowe teksty ustawy i terminy ich wejścia w życie są wciąż przygotowywane.