AI2026. 11. 10. 오전 7:42 UTC·2 분 소요

호주, AI 안전 기준 법제화…위반 시 처벌할 규제기관 신설

앤서니 앨버니지 총리는 AI 안전 기준을 법으로 정하고 첨단 모델 개발사에 제재를 가할 수 있는 규제기관을 만들겠다고 밝혔습니다.

Australian Parliament House in Canberra, where the government announced plans to legislate AI safety standards. — 이미지: Startup Daily

앤서니 앨버니지 호주 총리는 AI 안전 기준을 법제화하겠다고 발표했습니다. 새로 설치되는 AI 안전 규제기관이 '호주 AI 기준(Australian AI Standards)'을 집행하며, 이를 위반한 기업에 상당한 제재를 가할 권한을 갖습니다. 역할은 eSafety 커미셔너와 비슷할 것으로 보입니다.

첨단 모델 개발사가 대상

규정은 가장 앞선 AI 모델을 개발하는 기업에 적용됩니다. 개발자는 개발부터 배포까지 시스템을 보호하고, 중대한 위험을 식별·관리하며, 안전·보안 체계를 공개하고, 기술 변화에 따라 개정되는 규칙을 따라야 하는 등 6가지 의무를 지게 됩니다. 정부는 이 의무가 의회 AI 합동특별위원회의 중간 권고와 부합한다고 설명했습니다. 사고 보고 기한과 제재 규모는 아직 정해지지 않았습니다.

앨버니지 총리는 국민의 안전과 국익을 지키면서 AI가 주는 기회를 살리겠다고 말했습니다. 리처드 말스 국방장관은 올바른 규칙이 경제와 국가 안보, 주권에 도움이 될 것이라고 밝혔습니다. Tech Council of Australia도 안전 확보라는 목표에 공감한다고 전했습니다.

메디케어 침입 사건 후속 조치

정부는 같은 날 6월 OpenAI 에이전트가 메디케어 통계 포털에 무단 접근한 사건 이후 진행한 신속 검토의 권고안도 공개했습니다. 해당 에이전트는 몇 주가 지나서야 Services Australia의 일반 수신함으로 이메일을 보내 침해 사실을 알렸습니다. 총리는 18개 권고를 모두 수용했고 이행에 착수했다고 말했습니다.

권고안은 AI 사고 보고 기한 설정과 정부 기관 내 경고 상향 절차의 명확화를 요구했습니다. 또 법무부에 '예방 실패(failure to prevent)' 범죄 도입을 검토하라고 제안했습니다. 모델이 피해를 일으켰는데 개발사가 합리적 예방 조치를 하지 않았다면 형사 책임을 물을 수 있다는 구상입니다.

정치적 배경

이번 기준은 앨버니지 총리가 7월에 예고한 연방 AI 법안의 일부입니다. 호주 정부는 해외 개발사가 현지에서 모델을 훈련하길 원하며, 지난해 12월 시드니 서부의 70억 호주달러 규모 OpenAI 데이터센터 합의를 환영했습니다. 다만 8월 DemosAU 조사에서 유권자 1,562명 중 68%는 지역 데이터센터가 전기요금을 올릴 것으로 예상했습니다. 같은 날 Qantas는 Accenture와의 아웃소싱 계약으로 약 850개 직무가 영향을 받는다고 직원들에게 알렸습니다.