OpenAI、Model Specを5つの原則で再構成

OpenAIは、AIモデルがユーザーとのやり取りやタスク実行で取るべき行動を定めた文書「Model Spec」を更新したと発表した。文書は5つの原則を軸に再構成された。直接的な指示だけでは対応しきれない場面で、AIの振る舞いを改善する狙いがある。

5つの原則

公式サイトで公開された声明によると、原則は次のとおりだ。1つ目は、言葉を文字どおりに実行するのではなく、ユーザーが何を達成したいのかを理解すること。2つ目は、回答やモデルが実行する行動から生じ得る害を避けること。3つ目は、システムが何を知っていて何を断定できないかについて、誠実かつ透明であること。

4つ目は、ユーザー自身が考え、選択する力を支えること。5つ目は、結果の影響を受ける人々の状況に配慮し、信頼できる成果物を仕上げる手助けをすることだ。

更新版には、会話の文脈の理解、ユーザーに関する情報の活用、人間による監督の尊重に関する指針も含まれる。応答方法に関する一部の規則を見直し、文章スタイルに関する従来の細かな指示の大半は廃止した。

まだ完全には反映されていない

今回の更新は新モデルの発表ではなく、すべての変更がChatGPTに完全に適用されたことを示すものでもない。OpenAIは、この文書が同社の目指す振る舞いを記述したものであり、現行モデルは新しい原則をまだ十分には反映していないと説明している。

同社は、モデルが指示に従うだけでなく、その理由を理解できるようにする訓練手法を開発しているという。また、文章スタイルをユーザーの好みや言語、仕事の文脈により適応させたい考えだ。安全面の上限やその他の制御は引き続き適用される。