OpenAI перестроила Model Spec для ChatGPT вокруг пяти принципов

OpenAI объявила об обновлении документа, который описывает, как её модели искусственного интеллекта должны вести себя при общении с пользователями и выполнении задач. Документ называется Model Spec и теперь организован вокруг пяти принципов.

Это понимание намерений пользователя, снижение вреда, честность, поддержка способности человека принимать собственные решения и учёт людей, на которых влияют результаты работы модели. По замыслу компании, шаг должен улучшить поведение ИИ в ситуациях, где одних прямых инструкций недостаточно.

Что входит в принципы

Согласно заявлению на официальном сайте OpenAI, первый принцип требует понимать, чего хочет добиться пользователь, а не буквально выполнять слова без учёта контекста. Второй касается предотвращения возможного вреда от ответов или действий модели.

Третий посвящён честности и прозрачности: что система знает и что не может подтвердить. Четвёртый направлен на поддержку способности пользователя самостоятельно думать и выбирать. Пятый предполагает учёт обстоятельств людей, которых могут затронуть результаты, и помощь в создании надёжной работы.

Обновление также содержит рекомендации по пониманию контекста разговора, использованию связанной с пользователем информации и уважению человеческого контроля. Часть правил о манере ответа пересмотрена, а большинство прежних подробных указаний по стилю письма убраны.

Это не новая модель

Обновление не означает выпуск новой модели и не подтверждает, что все изменения уже полностью работают в ChatGPT. OpenAI пояснила, что документ описывает поведение, к которому компания стремится, а нынешние модели пока не отражают все новые принципы в полной мере.

Компания развивает методы обучения, помогающие моделям понимать причины инструкций, а не только следовать им. Она также хочет сделать стиль письма более чутким к предпочтениям пользователя, его языку и рабочему контексту. Границы безопасности и прочие ограничения продолжают действовать.