OpenAI réorganise le Model Spec de ChatGPT autour de cinq principes

OpenAI a mis à jour le Model Spec, le document qui définit le comportement qu'elle attend de ses modèles d'IA lors des échanges avec les utilisateurs et de l'exécution de tâches. Le texte est désormais structuré autour de cinq principes : comprendre l'intention de l'utilisateur, limiter les dommages, faire preuve d'honnêteté, soutenir la capacité de décision des personnes et tenir compte de celles qui sont touchées par le travail du modèle.

Selon un communiqué publié sur le site officiel de l'entreprise, la mise à jour ajoute des consignes sur la compréhension du contexte de la conversation, l'usage des informations liées à l'utilisateur et le respect de la supervision humaine. Elle révise aussi certaines règles sur la manière de répondre et abandonne la plupart des anciennes instructions détaillées sur le style d'écriture.

Le contenu des cinq principes

Le premier demande aux modèles de saisir ce que l'utilisateur cherche à accomplir, plutôt que d'exécuter ses mots à la lettre sans considérer le contexte. Le deuxième vise à éviter les préjudices possibles, qu'ils découlent des réponses ou des actions du modèle.

Le troisième porte sur l'honnêteté et la transparence quant à ce que le système sait et ce qu'il ne peut pas confirmer. Le quatrième cherche à préserver la capacité de l'utilisateur à réfléchir et à choisir par lui-même. Le cinquième invite à considérer la situation des personnes susceptibles d'être affectées par les résultats et à aider l'utilisateur à produire un travail fiable.

Pas de nouveau modèle, application encore partielle

Cette mise à jour n'annonce pas un nouveau modèle et ne signifie pas que tous les changements sont déjà actifs dans ChatGPT. OpenAI précise que le document décrit le comportement visé et que ses modèles actuels ne reflètent pas encore pleinement les nouveaux principes.

L'entreprise affirme développer des méthodes d'entraînement qui aident les modèles à comprendre les raisons des consignes, et pas seulement à les suivre. Elle souhaite aussi que le style d'écriture s'adapte davantage aux préférences, à la langue et au contexte de travail de l'utilisateur, tout en maintenant les limites de sécurité et les autres garde-fous.