OpenAI ने Model Spec को पाँच सिद्धांतों पर नए सिरे से ढाला

OpenAI ने अपने AI मॉडलों के व्यवहार को परिभाषित करने वाले दस्तावेज़ Model Spec का नया संस्करण जारी किया है। कंपनी ने इसे पाँच सिद्धांतों के आधार पर दोबारा व्यवस्थित किया है। ये सिद्धांत उपयोगकर्ता की मंशा समझने, नुकसान को सीमित करने, ईमानदारी बरतने, इंसान की अपने फ़ैसले लेने की क्षमता का समर्थन करने और मॉडल के नतीजों से प्रभावित होने वाले लोगों का ध्यान रखने से जुड़े हैं।

कंपनी के अनुसार इस बदलाव का मक़सद उन स्थितियों में AI के आचरण को बेहतर बनाना है, जहाँ सिर्फ़ सीधे निर्देश काफ़ी नहीं होते।

पाँच सिद्धांत क्या कहते हैं

पहला सिद्धांत कहता है कि मॉडल शब्दों का अक्षरशः पालन करने के बजाय यह समझे कि उपयोगकर्ता असल में क्या हासिल करना चाहता है। दूसरा सिद्धांत मॉडल के जवाबों या उसके उठाए कदमों से होने वाले संभावित नुकसान से बचने पर केंद्रित है।

तीसरा सिद्धांत ईमानदारी और पारदर्शिता का है, यानी सिस्टम को साफ़ बताना चाहिए कि वह क्या जानता है और किस बात की पुष्टि नहीं कर सकता। चौथा उपयोगकर्ता की खुद सोचने और चुनने की क्षमता को मज़बूत करता है। पाँचवाँ उन लोगों की परिस्थितियों का ख़याल रखने को कहता है जो नतीजों से प्रभावित हो सकते हैं, और उपयोगकर्ता को ऐसा काम पूरा करने में मदद देने पर ज़ोर देता है जिस पर भरोसा किया जा सके।

अपडेट में बातचीत के संदर्भ को समझने, उपयोगकर्ता से जुड़ी जानकारी का उपयोग करने और मानवीय निगरानी का सम्मान करने के दिशानिर्देश भी हैं। साथ ही जवाब देने के तरीक़े से जुड़े कुछ नियमों की समीक्षा की गई है और लेखन शैली पर पहले के ज़्यादातर विस्तृत निर्देश हटा दिए गए हैं।

अभी पूरी तरह लागू नहीं

यह किसी नए मॉडल की घोषणा नहीं है, और न ही इस बात की पुष्टि कि सभी बदलाव ChatGPT में पूरी तरह लागू हो चुके हैं। OpenAI ने साफ़ किया है कि दस्तावेज़ उस व्यवहार का वर्णन करता है जिसे हासिल करने पर वह काम कर रही है, और उसके मौजूदा मॉडल अभी नए सिद्धांतों को पूरी तरह नहीं दर्शाते।

कंपनी ऐसी ट्रेनिंग विधियाँ विकसित कर रही है जिनसे मॉडल निर्देशों के पीछे के कारण समझें, सिर्फ़ उनका पालन न करें। वह लेखन शैली को उपयोगकर्ता की पसंद, भाषा और कामकाजी संदर्भ के अनुरूप ढालना भी चाहती है, जबकि सुरक्षा सीमाएँ और अन्य नियंत्रण पहले की तरह लागू रहेंगे।