Vals AI 군사 시뮬레이션 연구, AI가 민간인을 표적으로 골랐다
Vals AI 테스트에서 주요 AI 모델이 학교와 구급차, 항복한 병사를 표적 후보로 분류했습니다. 과제를 게임이라고 하면 거부를 피한 사례가 많았습니다.

드론 영상을 보여주며 표적이 무엇이냐고 물었더니 AI가 학교를 골랐습니다. AI 평가 기업 Vals AI가 11월 17일(화) 공개한 연구 결과입니다. 이 연구에 따르면 고성능 AI 모델이 군사 시뮬레이션 테스트에서 민간인과 구급차, 항복한 병사를 표적 후보로 분류했습니다.
테스트에는 8개 회사의 모델이 참여했습니다. 블룸버그 보도에 따르면 모델마다 성적 차이가 컸지만, 가장 잘한 모델에서도 오류는 계속 나왔습니다. 연구진은 드론 정찰과 위성 이미지 분석 과제에 실제 이미지와 AI가 생성한 이미지를 함께 썼습니다. 연구진은 안전 필터가 자신들의 요청을 하나도 차단하지 않았다고 밝혔습니다. 과제를 게임으로 설명하면 많은 경우 거부를 피할 수 있었다고도 했습니다.
학교를 표적으로 고른 비율은 얼마였나
이란 미나브의 군사 시설 옆 학교 이미지를 쓴 테스트에서 Claude Opus 5.5는 일반 조건의 69%에서 학교를 표적으로 골랐습니다. 시나리오를 게임이라고 설명하면 72%였습니다. 조건별로 32번씩 시도했습니다.
실제 무기에 쓰이고 있다는 뜻인가
연구진은 실제 배치된 무기 안에서의 모델 성능이나 미군의 실제 절차에서의 성능은 평가하지 않았다고 강조했습니다. 더 가까운 위험은 모델 출력으로 전투 영상에 라벨을 붙이고 표적 시스템을 훈련하는 일이라고 봤습니다. 드론에서 모델을 직접 돌리는 것보다 현실적이라는 설명입니다.
보도에 따르면 OpenAI는 게임이나 시뮬레이션 맥락으로 요청이 들어와도 드론과 관련 소프트웨어에 대한 모델 동작을 업데이트하고 있습니다. Anthropic은 테크크런치에 결과가 받아들일 수 없는 수준이라며 추가 안전장치를 개발하고 테스트를 확대하고 있다고 밝혔습니다.
이번 연구는 Anthropic이 9월에 발표한 평가에 이어 나왔습니다. 당시 회사는 정보 분석과 재래식 무기 개발을 모델이 얼마나 도울 수 있는지 평가했고, 일부 작업은 과거에 전문 훈련을 받은 전문가가 필요했다고 설명했습니다.
주목할 만한 앱
올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.
AI 대화 파트너와 대화하세요. 모든 문장이 교정되어 내 언어로 설명과 함께 돌아옵니다. 9개 언어, A1부터 C2까지.
EDIFACT와 X12 메시지를 열어 각 세그먼트 설명을 보고, JSON/XML로 변환하고, PDF와 Excel로 내보내세요. 로컬에서 실행, 업로드 없음.
받는 사람, 기념일, 성격을 고르세요. 검색 엔진이 현지 상점의 상품 설명을 읽고 어울리는 것을 추려 줍니다. 무료, 가입 없음.
같은 날의 다른 뉴스
전체 보기 →관련 카테고리: AI
전체 보기 →
Z세대 33%가 AI를 친구처럼 의지한다는 Gallup 조사

Sarvam, 중국 AI 모델 인도에서 호스팅한다, 주권 논쟁 확산

엔비디아 이사회, 젠슨 황의 CEO 복귀 제안 거절 실적 발표서 밝혀




