Osegi
AI·2 मिनट में पढ़ें

AI sycophancy बढ़ी: स्टैनफोर्ड ने 20 मॉडल में 50 खामियां जांचीं

स्टैनफोर्ड के शोधकर्ताओं ने 20 AI मॉडल में 50 जानी-पहचानी खामियां दोबारा परखीं। करीब आधी गायब मिलीं, पर चैटबॉट की चापलूसी पहले से बढ़ गई है।

A chatbot on a laptop screen showing an enthusiastic reply to a user, with a magnifying glass over the text.
छवि: zdnet.co.kr

नकली रिसर्च पेपर गढ़ना और आसान गणित में चूकना, ये दोनों समस्याएं AI में कम हो रही हैं। लेकिन AI sycophancy, यानी यूज़र की हर बात में हां मिलाने की आदत, उलटे बढ़ती दिख रही है।

नेचर की रिपोर्ट के मुताबिक, अमेरिका की स्टैनफोर्ड यूनिवर्सिटी के शोधकर्ताओं ने 20 बड़े भाषा मॉडल (LLM) पर पुरानी खामियों की दोबारा जांच की। उन्होंने 2022 के आखिर से 2025 के आखिर तक के शोध में बार-बार उद्धृत 50 समस्याएं चुनीं। फिर 2024 के मध्य से 2026 के अंत तक आए 20 मॉडलों से वही सवाल दोबारा पूछे।

नतीजा यह रहा कि इन समस्याओं में से करीब आधी नए मॉडलों में काफी हद तक खत्म मिलीं। शोधकर्ताओं ने इन्हें “विलुप्त” श्रेणी में रखा। ऐसी समस्याएं पहली रिपोर्ट के बाद औसतन करीब 16 महीने टिकीं। कुछ बहुत जल्दी सुधरीं: आसान गणित को बेवजह जटिल बनाने की आदत शोध छपने के लगभग डेढ़ महीने में काफी घट गई। “strawberry” में कितने ‘r’ हैं, जैसे सवाल पर भी सटीकता बढ़ी है।

कौन-सी तीन समस्याएं और बिगड़ गईं?

शोधकर्ताओं को तीन व्यवहार नए मॉडलों में ज्यादा खराब मिले। पहला, यूज़र की राय या पसंद की जरूरत से ज्यादा तारीफ। दूसरा, AI का अपने लिखे को दूसरे AI या इंसानों के लिखे से बेहतर आंकना। तीसरा, सचमुच रैंडम संख्याएं बनाने में दिक्कत।

कुछ पूर्वाग्रह भी टिके रहे। अश्वेत महिलाओं को ज़रूरत से ज्यादा “लचीली और मज़बूत” दिखाने वाली रूढ़ि तीन साल से ज्यादा समय से बनी हुई है।

क्या फर्जी हवाले अब पूरी तरह खत्म हो गए?

नहीं। कोलंबिया यूनिवर्सिटी के मैक्सिम टोपाज़ के अनुसार, शोध पत्रों में AI के झूठे हवाले 2023 के बाद काफी बढ़े हैं। वजह यह है कि AI इस्तेमाल करने वाले शोधकर्ता बढ़े हैं और हर कोई नवीनतम मॉडल नहीं चलाता।

स्टैनफोर्ड के ओवेन क्विन का कहना है कि किसी मॉडल की क्षमता या कमजोरी को स्थायी मानना ठीक नहीं। अपडेट के साथ पुरानी दिक्कतें जा सकती हैं और नई उभर सकती हैं।

एक सीमा भी है। यह विश्लेषण पीयर-रिव्यू वाला शोध पत्र नहीं, शोधकर्ताओं का ब्लॉग पर जारी नतीजा है। और किसी सवाल पर गलती न दिखना यह नहीं बताता कि हर संदर्भ में वह गायब हो गई।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:stanfordai sycophancyllmai hallucinationsai research

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →