OpenAI, ChatGPT'nin Model Spec belgesini beş ilkeye göre yeniledi

OpenAI, yapay zekâ modellerinden kullanıcılarla etkileşimde ve görevleri yerine getirirken beklediği davranışı tanımlayan belgeyi güncellediğini duyurdu. Model Spec adlı belge artık beş ilke etrafında yeniden düzenlendi.

İlkeler şöyle: kullanıcının amacını anlamak, zararı sınırlamak, dürüst olmak, insanın kendi kararlarını verme yetisini desteklemek ve modelin çıktılarından etkilenen kişileri gözetmek. Adım, yalnızca doğrudan talimatların yetmediği durumlarda yapay zekâ sistemlerinin nasıl davranacağını geliştirmeyi hedefliyor.

İlkelerin içeriği

Şirketin resmi sitesinde yayımladığı açıklamaya göre ilk ilke, bağlamı dikkate almadan sözcükleri harfiyen yerine getirmek yerine kullanıcının ne başarmak istediğini anlamaya odaklanıyor. İkinci ilke, modelin yanıtlarından veya yürüttüğü işlemlerden doğabilecek zararlardan kaçınmayı kapsıyor.

Üçüncü ilke, sistemin neyi bildiği ve neyi doğrulayamayacağı konusunda dürüst ve şeffaf olmasıyla ilgili. Dördüncüsü kullanıcının kendi başına düşünme ve seçme yetisini desteklemeyi amaçlıyor. Beşincisi ise sonuçlardan etkilenebilecek kişilerin koşullarını gözetmeyi ve kullanıcının güvenilir bir iş çıkarmasına yardımcı olmayı öne çıkarıyor.

Güncelleme ayrıca konuşma bağlamını anlama, kullanıcıyla ilişkili bilgilerden yararlanma ve insan gözetimine saygı gösterme konusunda yönergeler içeriyor. Yanıt verme biçimine ilişkin bazı kurallar gözden geçirilirken, yazım üslubuna dair önceki ayrıntılı talimatların çoğundan vazgeçildi.

Yeni model değil

Güncelleme yeni bir model lansmanı anlamına gelmiyor; değişikliklerin tamamının ChatGPT'de eksiksiz uygulandığı da söylenemez. OpenAI, belgenin ulaşmaya çalıştığı davranışı tarif ettiğini ve mevcut modellerin yeni ilkelerin hepsini henüz tam olarak yansıtmadığını belirtiyor.

Şirket, modellerin talimatlara yalnızca uymasını değil, talimatların nedenlerini de anlamasını sağlayan eğitim yöntemleri geliştirdiğini söylüyor. Yazım üslubunun kullanıcının tercihlerine, diline ve çalışma bağlamına daha duyarlı olması da hedefleniyor. Güvenlik sınırları ve diğer denetimler ise uygulanmaya devam edecek.