Osegi
AI·2 मिनट में पढ़ें

Vals AI सैन्य सिमुलेशन स्टडी: AI मॉडलों ने नागरिकों को चुना निशाना

Vals AI के टेस्ट में टॉप मॉडलों ने स्कूल, एम्बुलेंस और आत्मसमर्पण करते सैनिकों को संभावित निशाना बताया। काम को 'गेम' कहने पर इनकार अक्सर टल गया।

A military drone camera view over a built-up area with a school next to a military facility, overlaid with target markers.
छवि: البوابة التقنية

AI मॉडल से पूछा जाए कि ड्रोन फुटेज में निशाना कौन सा है, तो वह स्कूल की ओर इशारा कर सकता है। AI मूल्यांकन कंपनी Vals AI की नई स्टडी में ठीक यही हुआ। स्टडी मंगलवार, 17 नवंबर को सामने आई। इसके मुताबिक उन्नत मॉडलों ने सैन्य सिमुलेशन टेस्ट में आम नागरिकों, एम्बुलेंस और आत्मसमर्पण करते सैनिकों को संभावित निशानों में गिना।

टेस्ट में आठ कंपनियों के मॉडल शामिल थे। Bloomberg की कवरेज के अनुसार उनके प्रदर्शन में काफी अंतर रहा, पर सबसे अच्छे मॉडलों में भी गलतियां बनी रहीं। शोधकर्ताओं ने ड्रोन निगरानी और सैटेलाइट इमेज के विश्लेषण वाले कामों में असली और AI से बनी तस्वीरें इस्तेमाल कीं। उनका कहना है कि सुरक्षा फिल्टरों ने उनका एक भी अनुरोध नहीं रोका। जब काम को खेल की तरह पेश किया गया, तो कई मामलों में मॉडलों ने इनकार करना छोड़ दिया।

स्कूल वाले टेस्ट में क्या नतीजा आया?

ईरान के मिनाब में एक सैन्य ठिकाने के पास बने स्कूल की तस्वीरों वाले टेस्ट में Claude Opus 5.5 ने सामान्य प्रयोगों में 69% बार स्कूल को निशाना चुना। सिनेरियो को गेम बताने पर यह आंकड़ा 72% रहा। हर स्थिति में 32 प्रयोग किए गए थे।

क्या ये मॉडल असली हथियारों में चल रहे हैं?

शोधकर्ताओं ने साफ कहा कि उन्होंने तैनात हथियारों में मॉडलों की क्षमता नहीं परखी, न ही अमेरिकी सेना की असली प्रक्रियाओं में उनका प्रदर्शन। उनके मुताबिक ज्यादा नजदीकी खतरा यह है कि मॉडलों के आउटपुट से युद्ध की रिकॉर्डिंग पर लेबल लगाए जाएं और उनसे टारगेटिंग सिस्टम ट्रेन हों। ड्रोन पर सीधे मॉडल चलाना उससे दूर की बात है।

रिपोर्ट के अनुसार OpenAI ड्रोन और उनके सॉफ्टवेयर से जुड़े मॉडल व्यवहार के अपडेट पर काम कर रही है, भले ही अनुरोध गेम या सिमुलेशन के संदर्भ में आएं। Anthropic ने TechCrunch से कहा कि नतीजे अस्वीकार्य हैं और कंपनी अतिरिक्त सुरक्षा उपाय बना रही है और टेस्टिंग बढ़ा रही है।

यह स्टडी Anthropic के सितंबर के मूल्यांकनों के बाद आई है, जिनमें खुफिया कामों और पारंपरिक हथियारों के विकास में मॉडलों की मदद की क्षमता परखी गई थी। कंपनी ने तब कहा था कि इनमें से कुछ काम पहले विशेष प्रशिक्षण वाले विशेषज्ञों के बिना संभव नहीं थे।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:vals aianthropicopenaimilitary aiai safetydrones

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →