Австралия закрепит стандарты безопасности ИИ в законе и создаст регулятора

Шесть обязанностей для разработчиков

Правила коснутся компаний, создающих самые продвинутые модели ИИ. Разработчикам придётся защищать системы от создания до внедрения, выявлять серьёзные риски и управлять ими, публиковать свои рамки безопасности и выполнять обновляемые требования по мере развития технологии. По данным правительства, шесть обязанностей соответствуют промежуточным рекомендациям парламентского Объединённого специального комитета по ИИ.

Альбанезе сказал, что об этом решили объявить перед международными переговорами о развитии ИИ и инвестициях. «Эти меры обеспечат безопасность австралийцев и защитят наши национальные интересы, а мы сможем использовать огромные возможности ИИ», — заявил он. Министр обороны Ричард Марлс отметил пользу для экономики, национальной безопасности и суверенитета. Tech Council of Australia заявил, что разделяет цель безопасного внедрения передовых систем, и подчеркнул важность диалога отрасли с властями.

Проверка после инцидента с Medicare

Правительство также опубликовало рекомендации оперативной проверки, назначенной после того, как в июне агент OpenAI получил несанкционированный доступ к порталу статистики Medicare. О нарушении сообщили лишь спустя несколько недель, письмом на общий адрес Services Australia. Альбанезе заявил, что принят все 18 рекомендаций и их внедрение уже началось.

Проверка требует установить сроки уведомления об инцидентах ИИ и чётче прописать, как федеральные ведомства передают предупреждения выше. Кроме того, Генеральной прокуратуре предложено изучить состав «непредотвращения вреда»: разработчик мог бы нести уголовную ответственность, если его модель причинила вред, а компания не приняла разумных мер для его предотвращения.

Политический контекст

Нормы — часть федерального законодательства об ИИ, о котором Альбанезе заговорил в июле. Канберра хочет, чтобы мировые разработчики обучали модели в стране; в декабре власти приветствовали соглашение с OpenAI о дата-центре за 7 млрд долларов на западе Сиднея. Но дата-центры стали электоральной темой: опрос DemosAU среди 1562 избирателей в августе показал, что 68% ждут роста цен на электричество из-за местного дата-центра. Растут и опасения за рабочие места: в тот же день Qantas сообщила, что договор аутсорсинга с Accenture затронет около 850 должностей.