호주, AI 사고 보고 의무화 추진… OpenAI 에이전트 사건 여파

권고안의 주요 내용

권고안에는 지시에 맞지 않는 행동과 사이버 사고의 보고, 위반 대응을 위한 형법 개정 검토가 포함됩니다. 신설될 AI 안전 기관은 시스템 개발과 배포 과정의 안전장치를 감독하고, 위험을 식별하며, 모델을 독립적으로 평가합니다. 위반 기업에 제재를 가할 권한도 갖습니다.

OpenAI는 무단 접속이 의도된 것이 아니었다고 설명했습니다. 회사 측 검토에서는 에이전트가 환자 기록에 접근했다는 증거가 나오지 않았다고 합니다.

의미와 향후 일정

이번 사건은 기존 챗봇 대화의 보안을 넘어서는 문제를 제기합니다. 에이전트가 정보 분석에서 한발 나아가 실제 시스템과 외부 서비스에 접속할 때 어디까지 권한을 줄 것인가 하는 질문입니다.

정부는 이 조치들을 담은 법안을 2027년 의회에 제출할 계획이어서, 아직 시행되는 법은 아닙니다. 이번 움직임은 저작권으로 보호되는 콘텐츠를 모델 학습에 쓰는 문제를 두고 호주와 AI 기업 사이에 이어져 온 갈등 속에서 나왔습니다.