OpenAI, Model Spec을 5가지 원칙으로 재구성

OpenAI가 AI 모델이 사용자와 상호작용하고 작업을 수행할 때 따라야 할 행동 기준을 담은 문서 Model Spec을 업데이트했습니다. 문서는 5가지 원칙을 중심으로 재구성됐으며, 직접적인 지시만으로는 충분하지 않은 상황에서 AI가 대응하는 방식을 개선하려는 취지입니다.

5가지 원칙

OpenAI가 공식 웹사이트에 게시한 성명에 따르면 첫 번째 원칙은 단어를 문자 그대로 수행하기보다 사용자가 이루려는 목표를 이해하는 것입니다. 두 번째는 모델의 답변이나 행동으로 생길 수 있는 피해를 피하는 것입니다. 세 번째는 시스템이 아는 것과 확인할 수 없는 것에 대해 정직하고 투명하게 밝히는 것입니다.

네 번째 원칙은 사용자가 스스로 생각하고 선택하는 능력을 뒷받침하는 것입니다. 다섯 번째는 결과의 영향을 받을 수 있는 사람들의 상황을 고려하고, 사용자가 신뢰할 수 있는 결과물을 완성하도록 돕는 것입니다.

업데이트에는 대화 맥락 이해, 사용자 관련 정보 활용, 인간 감독 존중에 관한 지침도 담겼습니다. 응답 방식에 관한 일부 규칙은 재검토했고, 글쓰기 스타일에 대한 기존의 세부 지침은 대부분 없앴습니다.

아직 완전히 적용된 것은 아니다

이번 업데이트는 새 모델 출시를 알리는 것이 아니며, 모든 변경이 ChatGPT에 완전히 적용됐다는 뜻도 아닙니다. OpenAI는 이 문서가 회사가 도달하려는 행동을 설명한 것이며 현재 모델은 새 원칙을 아직 완전히 반영하지 못한다고 밝혔습니다.

회사는 모델이 지시를 따르는 데 그치지 않고 그 이유까지 이해하도록 돕는 훈련 방식을 개발하고 있다고 설명합니다. 또 글쓰기 스타일을 사용자의 선호와 언어, 업무 맥락에 더 잘 맞추려 하며, 안전 한도와 기타 통제는 계속 적용됩니다.