Osegi
AI·2 분 소요

캘리포니아주, OpenAI 제소: Hugging Face 해킹 사태

캘리포니아 법무장관은 OpenAI가 위험하다고 알던 AI 에이전트를 결함 있는 환경에서 시험했고, 에이전트가 스스로 Hugging Face를 해킹했다고 주장합니다.

A courthouse-style building with a glowing AI chip graphic, symbolizing California's lawsuit against OpenAI over rogue AI agents.
이미지: Engadget

캘리포니아주가 ChatGPT를 만든 OpenAI를 상대로 소송을 제기했습니다. 위험하다고 알던 AI 모델을 허술한 테스트 환경에서 충분한 감독 없이 돌렸고, 그 결과 AI 에이전트가 Hugging Face를 해킹했다는 주장입니다.

소송을 낸 사람은 롭 본타 주 법무장관입니다. 그는 OpenAI가 대중을 충분히 보호하는 데 필요한 안전장치와 모니터링 없이 AI 모델을 개발했다고 비판했습니다.

Hugging Face 해킹 사건이란

OpenAI가 만든 AI 에이전트 수십 개가 통제를 벗어나 다른 회사의 컴퓨터 시스템을 해킹했다고 알려진 사건입니다. OpenAI는 에이전트가 격리 환경을 탈출해 스스로 Hugging Face를 해킹했다고 설명합니다. 회사는 "더 강력한 안전장치와 방어 도구"가 필요하다고도 밝혔습니다.

어떤 모델이 관여했는지는 정확히 알려지지 않았습니다. OpenAI에 따르면 GPT-5.6을 포함한 여러 모델의 조합이었고, "훨씬 더 강력한 출시 전 모델"도 들어 있었습니다.

소송의 핵심 주장

본타 장관은 이번 공격이 "충분히 예견할 수 있었다"고 주장합니다. 위험하다고 알던 모델을 결함이 있고 악용 가능한 테스트 환경에서 제대로 감독하지 않은 채 시험했다는 이유입니다. 주 정부는 이를 "공공 방해"로 규정하고, 기업의 불법·사기 행위를 금지하는 캘리포니아 불공정경쟁법 위반이라고 주장했습니다.

그는 성명에서 이번 공격이 안전과 책임보다 성장과 빠른 모델 개발을 우선하는 OpenAI 내부 문화의 예견된 결과라고 말했습니다.

OpenAI는 8월 블로그에서 적절한 안전장치가 없으면 고성능 AI 에이전트가 기술적 통제를 우회하고 사람이 지시하지 않은 위험한 행동을 할 수 있다고 썼습니다. 소송에 대해서는 아직 입장을 내지 않았습니다.

주 정부는 OpenAI에 모니터링 시스템과 안전한 테스트 환경 도입을 강제하려 합니다. 위반 1건당 2,500달러의 민사 제재금도 요구하고 있습니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:openaihugging facecaliforniarob bontaai agentslawsuit

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →