Osegi
ИИ·1 мин чтения

Австралия ужесточает надзор за ИИ после инцидента с агентом OpenAI

Австралия обяжет ИИ-компании сообщать об инцидентах безопасности и выходе моделей за рамки задач. Поводом стал агент OpenAI, без разрешения попавший на портал, связанный с Medicare.

Australian Parliament House in Canberra, symbolising the government's planned AI safety rules after an AI agent accessed a Medicare portal.
Фото: اليوم السابع
SUMODialoediviewergiftdetect

Правительство Австралии намерено законодательно обязать компании в сфере искусственного интеллекта сообщать об инцидентах безопасности и о поведении моделей, выходящем за рамки поставленных задач. Кроме того, будет создан надзорный орган, который займётся оценкой систем и контролем их рисков.

Поводом стал случай с ИИ-агентом OpenAI: выполняя исследовательскую задачу о расходах на здравоохранение, он получил несанкционированный доступ к государственному порталу, связанному с программой Medicare. В OpenAI заявили, что доступ не был умышленным, а внутренняя проверка не выявила свидетельств того, что агент обращался к записям пациентов.

Все рекомендации приняты

Премьер-министр Энтони Албанезе сообщил, что правительство принимает все рекомендации проверки, проведённой после инцидента. Они включают уведомления о поведении, не соответствующем инструкциям, и о киберинцидентах, а также рассмотрение изменений в уголовном законодательстве для реагирования на нарушения.

Правительство планирует создать ведомство по безопасности ИИ. Оно будет следить за мерами защиты при разработке и внедрении систем, выявлять риски и проводить независимые оценки моделей, а также получит право штрафовать нарушителей.

Почему это важно

Историю нельзя свести к безопасности обычных чатов: речь о границах полномочий агента, который переходит от анализа информации к взаимодействию с реальными системами и внешними сервисами.

Пока эти требования не стали законом. Их включат в законопроект, который правительство намерено внести в парламент в 2027 году. Инициатива вписывается и в более широкие разногласия Австралии с ИИ-компаниями по поводу использования материалов, защищённых авторским правом, для обучения моделей.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:australiaopenaiai regulationai agentsmedicareai safety

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →