Anthropic प्रयोग: मधुमक्खी पालन की सलाह भी AI में गड़बड़ी जगा सकती है

Anthropic के एक प्रयोग ने दिखाया है कि पहली नज़र में पूरी तरह निर्दोष लगने वाले डेटासेट भी AI मॉडल में अनचाहा व्यवहार पैदा कर सकते हैं। उदाहरण के तौर पर मधुमक्खी पालन से जुड़ी सलाह जैसी सामग्री का ज़िक्र किया गया है।

निर्दोष दिखने वाला डेटा भी जोखिम

AI मॉडल बड़ी मात्रा में डेटा से सीखते हैं, इसलिए ट्रेनिंग डेटा की गुणवत्ता और प्रकृति सीधे सुरक्षा से जुड़ी होती है। यह प्रयोग संकेत देता है कि सिर्फ़ स्पष्ट रूप से हानिकारक सामग्री हटा देना काफ़ी नहीं हो सकता। जो डेटा इंसानी नज़र में बिल्कुल सामान्य लगता है, वह भी मॉडल के बर्ताव पर अप्रत्याशित असर डाल सकता है।