OpenAI überarbeitet Model Spec für ChatGPT um fünf Prinzipien

OpenAI hat das Model Spec aktualisiert, das Dokument, in dem das Unternehmen festhält, wie sich seine KI-Modelle im Gespräch mit Nutzern und bei der Ausführung von Aufgaben verhalten sollen. Der Text ist nun um fünf Prinzipien gegliedert: die Absicht des Nutzers verstehen, Schaden begrenzen, ehrlich sein, die Entscheidungsfähigkeit des Menschen stärken und die von den Ergebnissen betroffenen Personen berücksichtigen.

Laut einer Mitteilung auf der offiziellen Website enthält die Aktualisierung Hinweise dazu, den Gesprächskontext zu erfassen, nutzerbezogene Informationen zu verwenden und menschliche Aufsicht zu respektieren. Zudem werden einige Regeln zur Art der Antworten überarbeitet, und die meisten früheren detaillierten Vorgaben zum Schreibstil entfallen.

Die fünf Prinzipien im Überblick

Das erste Prinzip verlangt, dass Modelle ergründen, was Nutzer erreichen wollen, statt Worte wörtlich und ohne Kontext umzusetzen. Das zweite betrifft die Vermeidung möglicher Schäden durch Antworten oder durch Handlungen des Modells.

Das dritte steht für Ehrlichkeit und Transparenz darüber, was das System weiß und was es nicht bestätigen kann. Das vierte soll die Fähigkeit der Nutzer stärken, selbst zu denken und zu entscheiden. Das fünfte berücksichtigt die Lage von Menschen, die von den Ergebnissen betroffen sein könnten, und hilft Nutzern, verlässliche Arbeit zu leisten.

Kein neues Modell, noch nicht voll umgesetzt

Das Update ist keine Ankündigung eines neuen Modells und bedeutet nicht, dass alle Änderungen bereits vollständig in ChatGPT wirken. OpenAI erklärte, das Dokument beschreibe das Verhalten, auf das man hinarbeite; die aktuellen Modelle bildeten die neuen Prinzipien noch nicht vollständig ab.

Das Unternehmen entwickelt nach eigenen Angaben Trainingsmethoden, die Modellen helfen, die Gründe hinter Anweisungen zu verstehen, statt ihnen nur zu folgen. Außerdem soll der Schreibstil stärker auf Vorlieben, Sprache und Arbeitskontext der Nutzer eingehen, während Sicherheitsgrenzen und andere Kontrollen weiter gelten.

Damit rückt Urteilsvermögen gegenüber starren Einzelregeln in den Vordergrund, vor allem dort, wo direkte Anweisungen allein nicht ausreichen. Wie spürbar das für Nutzer wird, hängt davon ab, wie schnell diese Trainingsmethoden in die Modelle einfließen.