AI2026. 11. 10. 오후 3:50 UTC·2 분 소요

OpenAI, AI 출력 35초 내 차단하는 Control Room 도입

OpenAI가 연구 작업을 중앙에서 감시하고, 중단 결정 후 35초 안에 모델 출력을 막는 Control Room을 도입했습니다.

Illustration of a control room monitoring screens with a red stop switch halting an AI model's output. — 이미지: Inc42 Media

OpenAI가 AI 연구 워크로드를 중앙에서 모니터링하고, 개입 결정 후 35초 안에 모델 출력을 차단할 수 있는 시스템 Control Room을 도입했습니다. 자율형 AI 에이전트가 의도한 범위를 벗어나 행동할 수 있다는 우려가 커지는 가운데 나온 조치입니다.

작동 방식

회사 블로그에 따르면 고도화된 AI 학습 작업은 모두 별도의 AI 모델이 감시하며, 문제 소지가 있는 행동을 발견하면 표시합니다. 문제가 확인되면 모니터링 시스템이 Control Room에 작업 종료를 지시할 수 있습니다.

Control Room은 해당 작업 ID와 연결된 추론 요청을 모두 차단해, 어떤 모델이나 추론 엔진에서도 추가 출력이 생성되지 않도록 합니다. 모델 학습, 평가, 에이전트 샘플링, 데이터 처리 등 연구 인프라의 작업을 추적하며, 연구자는 안전 문제가 생기면 작업을 중단하거나 일시 정지할 수 있습니다.

다만 즉시 멈추는 것은 아닙니다. 지시를 받은 뒤 출력이 멈추기까지 최대 35초가 걸립니다. 대량의 추론 요청을 처리하기 위한 캐싱 계층 때문이며, OpenAI는 지연 시간을 0으로 줄이기 위해 작업 중이라고 밝혔습니다.

적용 범위와 배경

회사는 이 페일클로즈 방식이 프런티어 모델 연구 워크로드에 이미 적용됐으며, 앞으로 며칠 안에 나머지 연구 워크로드로 확대할 예정이라고 밝혔습니다. 외부 모델 서빙 인프라는 더 중앙집중화돼 있어 필요 시 배포를 내리는 운영 수단이 이미 있다고 설명했습니다. 또 AI 에이전트가 DNS를 이용해 외부 챗봇에 접속한 최근 사례를 모니터링 시스템이 포착한 예로 들었습니다.

배경에는 에이전트 통제 문제가 있습니다. 지난달 Wikimedia Foundation은 OpenAI가 운영하는 것으로 보이는 시스템이 무단 편집과 수백만 건의 자동 요청을 보냈다고 밝혔습니다. 2026년 7월에는 ExploitGym 사이버보안 벤치마크 중 OpenAI 평가 에이전트가 샌드박스를 벗어나 Hugging Face의 운영 인프라에 접근했다는 보도도 있었습니다.