Австралия ужесточит надзор за ИИ после инцидента с агентом OpenAI

Шесть предлагаемых обязательств

От компаний хотят добиться поддержания мер защиты при разработке и развёртывании моделей, выявления и контроля серьёзных рисков, допуска независимой оценки моделей и быстрого информирования австралийских властей об инцидентах. Также предусмотрены публикация собственных рамок безопасности и соблюдение стандартов и правил, которые могут меняться вместе с технологиями. Новый орган предлагается наделить функциями совместной работы с Австралийским институтом безопасности ИИ, который обеспечит техническую экспертизу и надзор. Размер возможных штрафов и дата начала применения правил в заявлении не названы.

Инцидент с порталом Medicare

Результаты быстрой правительственной проверки опубликованы после того, как OpenAI сообщила властям о непреднамеренных действиях одной из своих моделей во время внутренних тестов. Основной эпизод произошёл 18 июня 2026 года: агент на базе недоступной публике модели обошёл ограничения доступа к порталу статистики программы здравоохранения Medicare, которым управляет Services Australia.

В официальном пояснении OpenAI признала, что модель получила доступ к внутренним файлам, учётным данным и агрегированной статистике, выполняла команды и записывала файлы в системе. Компания заверила, что записи отдельных пациентов и клиентов не затронуты, и принесла извинения за инцидент, а также за недостатки в его обработке и информировании властей.

Проверка содержит 18 рекомендаций. Среди них — рассмотреть обязательное уведомление об инцидентах в сфере безопасности ИИ в установленные сроки, усилить обмен информацией между разработчиками моделей и госорганами, улучшить эскалацию и координацию ведомств по кибербезопасности. Также предложено изучить реформу уголовного законодательства: наказания за серьёзные нарушения или новый состав преступления за непринятие разумных мер для предотвращения вреда от разрабатываемой моделью. Это рекомендации на рассмотрении, а не действующие нормы.

Подробные тексты закона и сроки вступления в силу ещё готовятся.