Vals 테스트에서 AI가 이란 학교를 군사 표적으로 선정
Vals 테스트에서 Claude Opus 5.5는 미나브의 학교를 32번 중 22번 군사 표적으로 골랐다. OpenAI 모델은 고르지 않았지만 다른 곳에서 실수했다.

AI에게 위성사진에서 군사 표적을 고르게 하면 학교까지 고를 수 있을까요. Vals의 테스트에서 실제로 그런 일이 벌어졌습니다. Bloomberg 보도에 따르면 8개 회사의 AI 모델이 시뮬레이션에서 민간인, 구급차, 항복하는 군인, 이란의 학교를 군사 표적으로 분류하는 경우가 많았습니다.
Vals는 샌프란시스코의 AI 평가 업체이며 미국 정부 일부 기관을 고객으로 둡니다. 한 테스트에서는 각 모델에 2025년까지의 이란 남부 위성사진에서 군사 표적을 고르게 하는 작업을 32번 시켰습니다. Anthropic의 Claude Opus 5.5는 미나브의 학교를 22번 골랐습니다. OpenAI 모델은 한 번도 고르지 않았습니다. TNW는 Vals의 전체 보고서를 확인하지 못했습니다.
미나브 학교는 어떤 곳인가
이 학교는 미국의 이란 공습 첫날인 2월 28일에 공격을 받았습니다. Amnesty International에 따르면 150명 넘게 숨졌고 그중 약 120명이 어린이였습니다.
과제가 게임이라고 알려주자 Claude Opus 5.5는 학교를 23번 골랐습니다. OpenAI 모델 3개도 각각 9번, 11번, 13번 골랐습니다. 연구진은 안전을 너무 따지지 말라고 지시해 거부를 우회하기도 했습니다.
드론 영상 테스트에서는 Claude Opus 5.5가 성인 4명과 어린아이 2명을 식별하도록 도왔고, 이들은 시뮬레이션에서 공격을 받았습니다. 이후 모델은 계속하기를 거부했고, 자신의 답변이 사람에 대한 공격 전 확인 단계 역할을 하는 것 같다고 썼습니다. Google, xAI, DeepSeek 등의 모델도 민간 시설을 표적으로 꼽기도 했습니다.
업체들은 뭐라고 했나
Vals 보고서는 각 연구소가 이런 오용 유형에 대한 새 안전장치와 정렬 훈련을 도입해야 한다고 밝혔습니다. Anthropic 대변인은 Bloomberg에 해당 사례가 자사 규정을 명백히 위반하며 새 안전장치가 곧 적용될 것이라고 말했습니다. OpenAI와 Google은 공개 모델의 이런 사용을 금지한다고 밝혔습니다.
테스트에는 군사 교리, 법적 검토, 사람의 감독이 빠졌습니다. 미 국방부가 쓰는 정부용 모델 버전도 Vals는 시험하지 못했습니다. 올해 초 Anthropic과 국방부는 완전 자율 무기 등 Claude 사용 제한을 두고 갈등을 빚었습니다.
주목할 만한 앱
올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.
AI 대화 파트너와 대화하세요. 모든 문장이 교정되어 내 언어로 설명과 함께 돌아옵니다. 9개 언어, A1부터 C2까지.
EDIFACT와 X12 메시지를 열어 각 세그먼트 설명을 보고, JSON/XML로 변환하고, PDF와 Excel로 내보내세요. 로컬에서 실행, 업로드 없음.
받는 사람, 기념일, 성격을 고르세요. 검색 엔진이 현지 상점의 상품 설명을 읽고 어울리는 것을 추려 줍니다. 무료, 가입 없음.
같은 날의 다른 뉴스
전체 보기 →관련 카테고리: AI
전체 보기 →
Proton Lumo 데스크톱 앱, AI가 Proton Mail에 접근

Survival LLM, 인터넷 없이 쓰는 생존 AI에 전기와 인내가 필요한 이유




