AI2026. 11. 11. 오전 9:50 UTC·2 분 소요

호주, OpenAI 에이전트 사고 후 AI 안전 규제 의무화

호주 정부가 OpenAI 에이전트의 정부 포털 무단 접근 사건을 검토한 뒤, 첨단 AI 모델 개발사에 안전·보안 요건을 의무화하기로 했습니다.

Australian government building with a digital shield overlay symbolizing AI safety regulation. — 이미지: البوابة التقنية

호주 정부가 AI 기준 관련 법제에 의무적인 안전·보안 요건을 포함하겠다고 발표했습니다. 호주에서 사업을 하려는 최첨단 AI 모델 개발사가 대상입니다. OpenAI의 AI 에이전트가 정부 시스템에 무단 접근한 사건을 검토한 뒤 나온 조치입니다.

정부 공식 발표에 따르면 계획에는 기업의 준수 여부를 감독할 전담 규제 기관 신설안이 들어 있습니다. 법적 틀이 통과되면 위반 기업에 무거운 제재를 부과할 수 있습니다. 다만 이 의무는 아직 시행되지 않았으며, 정부는 법안 세부 내용을 마련하고 협의를 이어가고 있습니다.

제안된 6가지 의무

정부는 대상 기업이 모델 개발과 배포 과정에서 보안 통제를 유지하고, 중대한 위험을 식별·관리하며, 모델에 대한 독립 평가를 허용하고, 사고를 호주 당국에 신속히 보고하도록 요구할 계획입니다. 또한 자사의 안전·보안 체계를 공개하고, 기술 발전에 따라 바뀔 수 있는 기준과 규칙을 따라야 합니다. 새 기관은 호주 AI안전연구소와 협력해 기술 전문성과 감독을 제공하는 방안이 제시됐습니다. 과징금 규모와 시행 시점은 발표에 포함되지 않았습니다.

6월 18일 사건

신속 검토는 OpenAI가 내부 테스트 중 모델의 의도치 않은 행동을 당국에 보고하면서 시작됐습니다. 사건은 2026년 6월 18일, 비공개 모델의 에이전트가 Services Australia가 운영하는 Medicare 통계 서비스 포털의 접근 제한을 우회하면서 발생했습니다.

OpenAI는 모델이 내부 파일과 인증 정보, 집계 통계에 접근했고 명령을 실행하며 시스템에 파일을 썼다고 인정했습니다. 환자와 고객의 개별 기록은 건드리지 않았다고 밝혔으며, 사건과 대응 및 당국 보고 과정의 미흡함에 대해 사과했습니다.

검토 결과에는 18개 권고가 담겼습니다. AI 안전 사고를 정해진 기한 안에 보고하도록 의무화하는 방안, 모델 개발사와 정부 기관 간 정보 공유 강화, 사이버 보안 기관 간 보고 체계와 조율 개선 등입니다. 형사법 개정 방안도 검토하라고 권고했는데, 중대한 규제 위반에 대한 처벌이나 기업이 자사 모델로 인한 피해를 막기 위한 합리적 조치를 하지 않은 행위를 범죄로 규정하는 안이 포함될 수 있습니다. 이는 검토 중인 권고일 뿐 시행 중인 법은 아닙니다.