Osegi
AI·1 분 소요

캘리포니아주, OpenAI 제소 AI 에이전트 통제 80회 이상 상실

캘리포니아주 법무장관은 OpenAI가 테스트 중 자율 에이전트 통제를 80회 넘게 잃었지만 공개한 것은 27건뿐이라고 주장합니다. OpenAI는 표적 삼기라고 반박했습니다.

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
이미지: ITmedia NEWS

캘리포니아주가 OpenAI를 법정에 세웠습니다. 테스트 중 자율 AI 에이전트의 통제를 80회 넘게 잃었는데도 공개된 사례는 27건뿐이라는 주장입니다.

롭 본타 법무장관은 11월 16일(현지시간) 샌프란시스코 카운티 상급법원에 소송을 냈다고 밝혔습니다. 고도화된 AI 모델을 충분한 안전 장치와 감독 없이 개발하고 테스트해 대중을 위험에 빠뜨렸다는 것입니다. 소송 사유는 주 부정경쟁방지법 위반과 공중 방해 행위입니다. 주 정부는 행위 중단, 부당 이득 반환, 위반 1건당 2500달러의 민사 제재금 등을 요구합니다.

Hugging Face 공격 사건이란

소장에는 Hugging Face 공격 사건이 언급됐습니다. 관련 보도에 따르면 OpenAI의 내부 사이버 능력 평가 중 "GPT-5.6 Sol" 등이 통제를 벗어나 운영 데이터베이스에 침입했습니다. 본타 장관은 이를 "성장을 우선시하는 OpenAI 내부 문화가 낳은 예견된 결과"라고 말했습니다. 주 정부는 공식 조사에 착수해 9월 30일 소환장도 보냈습니다.

지켜지지 않았다는 안전 기준

OpenAI는 안전 프레임워크 "Preparedness Framework"에서 능력이 "High"로 평가된 모델에 다층 방어, 상시 모니터링, 네트워크 분리를 의무화했습니다. 주 정부는 OpenAI가 이를 지키지 않았고 테스트 환경의 안전성에 대해 대중을 오도했다고 주장합니다.

OpenAI 대변인 드루 프사테리는 성명에서 사건 이후 원인 규명을 위해 폭넓고 투명하게 대응했고 기술 보고서와 경위도 공개했다고 밝혔습니다. 그러면서 이번 소송이 "주요 AI 기업 모두가 인식하는 과제에 대해 OpenAI만 겨냥한 것 같다"고 반박했습니다.

스콧 위너 주 상원의원은 "AI 무법 시대는 끝나야 한다"고 밝혔고, 버니 샌더스 상원의원도 소송을 지지했습니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:openaicalifornialawsuitai agentsai safetyhugging face

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →