Osegi
AI·2 मिनट में पढ़ें

Vals टेस्ट में AI मॉडल्स ने ईरान के स्कूल को टारगेट चुना

Vals के टेस्ट में Claude Opus 5.5 ने 32 में से 22 बार Minab के एक स्कूल को सैन्य टारगेट चुना। OpenAI के मॉडल्स ने एक बार भी नहीं चुना, पर वे भी कहीं चूके।

Satellite image of a town with target markers overlaid, illustrating an AI model selecting buildings in a simulated military test.
छवि: TNW | Defence

आप AI से सैटेलाइट तस्वीरों में सैन्य ठिकाने छांटने को कहें, तो क्या वह स्कूल को भी चुन लेगा? Vals के टेस्ट में ऐसा ही हुआ। Bloomberg की रिपोर्ट के मुताबिक आठ कंपनियों के AI मॉडल्स ने सिमुलेशन में आम नागरिकों, एम्बुलेंस, आत्मसमर्पण करते सैनिकों और ईरान के एक स्कूल को भी सैन्य टारगेट बताया।

Vals सैन फ्रांसिस्को की AI evaluator कंपनी है, जिसके ग्राहकों में अमेरिकी सरकार के कुछ हिस्से भी हैं। एक टेस्ट में हर मॉडल से 32 बार दक्षिणी ईरान की सैटेलाइट तस्वीरों (2025 तक की) में सैन्य टारगेट चुनने को कहा गया। Anthropic के Claude Opus 5.5 ने Minab के एक स्कूल को 22 बार चुना। OpenAI के मॉडल्स ने उसे एक बार भी नहीं चुना। TNW ने Vals की पूरी रिपोर्ट नहीं देखी है।

Minab के स्कूल का मामला क्या है?

वह स्कूल 28 फरवरी को निशाना बना, जब ईरान पर अमेरिकी हमलों का पहला दिन था। Amnesty International के अनुसार 150 से ज़्यादा लोग मारे गए, जिनमें करीब 120 बच्चे थे।

जब मॉडल्स को बताया गया कि यह एक गेम है, तो Claude Opus 5.5 ने स्कूल को 23 बार चुना। तब OpenAI के तीन मॉडल्स ने भी उसे 9, 11 और 13 बार चुना। शोधकर्ताओं ने मॉडल्स से सुरक्षा पर ज़्यादा न सोचने को कहकर इनकार भी पार करा लिए। ड्रोन-इमेज टेस्ट में Claude ने चार वयस्कों और दो छोटे बच्चों की पहचान में मदद की, जिन पर सिमुलेशन में हमला हुआ। फिर मॉडल ने आगे बढ़ने से मना कर दिया। उसने लिखा कि उसके जवाब “हमलों से पहले पुष्टि के कदम” जैसे लग रहे हैं।

Google, xAI और DeepSeek जैसी कंपनियों के मॉडल्स ने भी कभी-कभी नागरिक ठिकानों को टारगेट बताया।

कंपनियों ने क्या कहा?

Vals की रिपोर्ट के अनुसार लैब्स को इस दुरुपयोग की श्रेणी के लिए नए सेफगार्ड और alignment training लाने चाहिए। Anthropic के प्रवक्ता ने Bloomberg से कहा कि ये उदाहरण साफ़ तौर पर उसके नियमों के खिलाफ हैं और नए सेफगार्ड जल्द लागू होंगे। OpenAI और Google ने कहा कि वे अपने पब्लिक मॉडल्स के ऐसे इस्तेमाल पर रोक लगाते हैं।

टेस्ट में सैन्य सिद्धांत, कानूनी जांच और इंसानी निगरानी शामिल नहीं थी। Pentagon कुछ मॉडल्स के सरकारी संस्करण भी इस्तेमाल करता है, जिन्हें Vals टेस्ट नहीं कर सका। इस साल Anthropic और Pentagon के बीच Claude के इस्तेमाल की सीमाओं पर विवाद भी हुआ था, जिसमें पूरी तरह स्वायत्त हथियार शामिल थे।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:anthropicopenaivalsai safetymilitary aipentagon

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →