OpenAI reorganiza el Model Spec de ChatGPT en torno a cinco principios

OpenAI ha actualizado el Model Spec, el documento que define el comportamiento que quiere de sus modelos de IA al interactuar con los usuarios y ejecutar tareas. El texto se reorganiza ahora en cinco principios: entender la intención del usuario, reducir el daño, ser honesto, apoyar la capacidad de las personas para decidir y tener en cuenta a quienes se ven afectados por el trabajo del modelo.

Según un comunicado publicado en el sitio oficial de la compañía, la actualización incluye pautas para comprender el contexto de la conversación, aprovechar la información vinculada al usuario y respetar la supervisión humana. También revisa algunas reglas sobre la forma de responder y elimina la mayoría de las instrucciones detalladas anteriores sobre estilo de escritura.

Qué plantea cada principio

El primero pide a los modelos averiguar qué quiere lograr el usuario en lugar de ejecutar sus palabras de forma literal y sin contexto. El segundo se centra en evitar daños potenciales derivados de las respuestas o de las acciones del modelo.

El tercero trata sobre la honestidad y la transparencia respecto a lo que el sistema sabe y lo que no puede confirmar. El cuarto busca apoyar la capacidad del usuario de pensar y elegir por sí mismo. El quinto considera la situación de las personas que podrían verse afectadas por los resultados y ayuda al usuario a lograr un trabajo fiable.

No es un modelo nuevo ni está plenamente aplicado

La actualización no anuncia un nuevo modelo ni implica que todos los cambios ya estén activos en ChatGPT. OpenAI aclaró que el documento describe el comportamiento al que aspira y que sus modelos actuales todavía no reflejan por completo los nuevos principios.

La empresa indica que desarrolla métodos de entrenamiento para que los modelos comprendan las razones de las instrucciones, y no solo las sigan. Además, quiere que el estilo de escritura responda mejor a las preferencias, el idioma y el contexto de trabajo del usuario, manteniendo los límites de seguridad y otros controles.