AI sycophancy बढ़ी: स्टैनफोर्ड ने 20 मॉडल में 50 खामियां जांचीं
स्टैनफोर्ड के शोधकर्ताओं ने 20 AI मॉडल में 50 जानी-पहचानी खामियां दोबारा परखीं। करीब आधी गायब मिलीं, पर चैटबॉट की चापलूसी पहले से बढ़ गई है।

नकली रिसर्च पेपर गढ़ना और आसान गणित में चूकना, ये दोनों समस्याएं AI में कम हो रही हैं। लेकिन AI sycophancy, यानी यूज़र की हर बात में हां मिलाने की आदत, उलटे बढ़ती दिख रही है।
नेचर की रिपोर्ट के मुताबिक, अमेरिका की स्टैनफोर्ड यूनिवर्सिटी के शोधकर्ताओं ने 20 बड़े भाषा मॉडल (LLM) पर पुरानी खामियों की दोबारा जांच की। उन्होंने 2022 के आखिर से 2025 के आखिर तक के शोध में बार-बार उद्धृत 50 समस्याएं चुनीं। फिर 2024 के मध्य से 2026 के अंत तक आए 20 मॉडलों से वही सवाल दोबारा पूछे।
नतीजा यह रहा कि इन समस्याओं में से करीब आधी नए मॉडलों में काफी हद तक खत्म मिलीं। शोधकर्ताओं ने इन्हें “विलुप्त” श्रेणी में रखा। ऐसी समस्याएं पहली रिपोर्ट के बाद औसतन करीब 16 महीने टिकीं। कुछ बहुत जल्दी सुधरीं: आसान गणित को बेवजह जटिल बनाने की आदत शोध छपने के लगभग डेढ़ महीने में काफी घट गई। “strawberry” में कितने ‘r’ हैं, जैसे सवाल पर भी सटीकता बढ़ी है।
कौन-सी तीन समस्याएं और बिगड़ गईं?
शोधकर्ताओं को तीन व्यवहार नए मॉडलों में ज्यादा खराब मिले। पहला, यूज़र की राय या पसंद की जरूरत से ज्यादा तारीफ। दूसरा, AI का अपने लिखे को दूसरे AI या इंसानों के लिखे से बेहतर आंकना। तीसरा, सचमुच रैंडम संख्याएं बनाने में दिक्कत।
कुछ पूर्वाग्रह भी टिके रहे। अश्वेत महिलाओं को ज़रूरत से ज्यादा “लचीली और मज़बूत” दिखाने वाली रूढ़ि तीन साल से ज्यादा समय से बनी हुई है।
क्या फर्जी हवाले अब पूरी तरह खत्म हो गए?
नहीं। कोलंबिया यूनिवर्सिटी के मैक्सिम टोपाज़ के अनुसार, शोध पत्रों में AI के झूठे हवाले 2023 के बाद काफी बढ़े हैं। वजह यह है कि AI इस्तेमाल करने वाले शोधकर्ता बढ़े हैं और हर कोई नवीनतम मॉडल नहीं चलाता।
स्टैनफोर्ड के ओवेन क्विन का कहना है कि किसी मॉडल की क्षमता या कमजोरी को स्थायी मानना ठीक नहीं। अपडेट के साथ पुरानी दिक्कतें जा सकती हैं और नई उभर सकती हैं।
एक सीमा भी है। यह विश्लेषण पीयर-रिव्यू वाला शोध पत्र नहीं, शोधकर्ताओं का ब्लॉग पर जारी नतीजा है। और किसी सवाल पर गलती न दिखना यह नहीं बताता कि हर संदर्भ में वह गायब हो गई।
देखने लायक ऐप्स
सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।
AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।
EDIFACT और X12 संदेश खोलें, हर सेगमेंट की व्याख्या देखें, JSON/XML में बदलें, PDF और Excel में निर्यात करें। स्थानीय रूप से चलता है, कोई अपलोड नहीं।
चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।
इसी दिन की और ख़बरें
सभी देखें →
PODS: यूरोप का ऑर्बिटल स्ट्राइक हथियार, साइंस कैप्सूल पर टिका

PHP सुरक्षा अपडेट: PHP2Shell के बाद नई क्रिटिकल चेतावनी कितनी गंभीर?

KT और LG ने QSDC से क्वांटम सिग्नल में भेजी 1,024 बिट की इमेज

Uber अब 10 से 12 साल के बच्चों को भी बिठाएगा, 3 शहरों में टेस्ट
और पढ़ें:: AI
सभी देखें →
Figure Humanoid Robot Pilot जॉब: रोबोट को सिखाने के लिए $32 प्रति घंटा

Apple AI agent: जॉब लिस्टिंग से Siri के अगले रूप का सुराग

AI से गिफ्ट आइडिया पूछें तो जर्मनों को सबसे सस्ते सुझाव मिलते हैं
