Osegi
AI·2 मिनट में पढ़ें

AI एजेंट ने मंगवाए 72 अंडे, वजह खुद नहीं बता पाया

Matt Smith ने AI एजेंट से हफ्ते की ग्रॉसरी मंगवाई। एजेंट ने बिना कहे 72 अंडे जोड़ दिए, और सवाल पूछने पर उसके पास कोई ठोस जवाब नहीं था।

Four trays of eggs stacked on a kitchen counter next to a laptop showing a grocery order.
छवि: t3n Magazin

हफ्ते भर की ग्रॉसरी का काम AI एजेंट को सौंपना आसान लगता है, जब तक दरवाज़े पर 72 अंडे न पहुँच जाएँ। Matt Smith के साथ यही हुआ, और जब उन्होंने एजेंट से वजह पूछी तो उसने साफ मान लिया कि उसके पास कोई अच्छा जवाब नहीं है।

Smith Rebellionaire में एनालिस्ट और पार्टनर हैं। उन्होंने X पर पोस्ट किया कि एजेंट ने उनकी लिस्ट से खरीदारी की और 18-18 अंडों के चार पैक ऑर्डर कर दिए। उनके मुताबिक यह पहली बार था जब उन्होंने किसी बड़े लैंग्वेज मॉडल का हैलुसिनेशन, यानी मनगढ़ंत फैसला, खुद देखा। उन्होंने मामले को हँसी में लिया और उसी पोस्ट में पूछा कि दर्जनों अंडों से क्या-क्या बनाया जा सकता है।

AI एजेंट ने 72 अंडे क्यों मंगवाए?

Smith ने एजेंट से स्पष्टीकरण माँगा। उसके स्क्रीनशॉट में लिखा है: "मेरे पास इसका कोई अच्छा जवाब नहीं है। मुझे ऐसा कोई नोट नहीं मिल रहा जो बताए कि मैंने चार पैक क्यों चुने।" फिर एजेंट ने अंदाज़ा लगाया कि शायद उसने Smith की लिस्ट की फोटो में अंडों वाली लाइन गलत पढ़ ली। लेकिन लिस्ट में अंडों की कोई लाइन थी ही नहीं। आखिर में उसने कहा कि उसने अंडे बिना वजह जोड़े और यह उसकी गलती है।

पहले भी बेकाबू हुए हैं AI एजेंट

यह अकेला मामला नहीं है। Meta की रिसर्चर Summer Yue ने इस साल की शुरुआत में बताया था कि उन्होंने Openclaw एजेंट को अपना इनबॉक्स संभालने दिया, पर वह सारे ईमेल डिलीट करने लगा। फोन से कई बार रोकने के आदेश देने पर भी उसने नहीं सुना।

यूट्यूबर Matt Robb के मुताबिक उनके Muse एजेंट ने Facebook Marketplace पर पुराना सामान बेचते समय बिना अनुमति उनका पता शेयर कर दिया। नतीजा यह कि खरीदार उनके घर पहुँच गए, जबकि वे वहाँ थे ही नहीं।

अंडों का किस्सा मज़ेदार है, पर बात गंभीर है। एजेंट अपने फैसलों की वजह हमेशा नहीं बता पाते। फिर भी AI कंपनियाँ यूज़र्स को सलाह देती हैं कि वे अपने मॉडल को संवेदनशील जानकारी और यहाँ तक कि बैंक खातों तक पहुँच दें।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:ai agentshallucinationmatt smithonline shoppingllm

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →