DSCI ने AI एजेंट से नुकसान पर जवाबदेही तय करने का फ्रेमवर्क रखा

जोखिम और जिम्मेदारियां

पेपर के अनुसार जनरेटिव AI आम तौर पर ऐसे आउटपुट देता है जिन्हें इंसान जांचता है, जबकि AI एजेंट खुद काम की योजना बना सकते हैं, टूल और API इस्तेमाल कर सकते हैं और सीमित मानवीय दखल के साथ निर्देश लागू कर सकते हैं। इससे अनधिकृत लेन-देन, गलत भुगतान और डेटा लीक का खतरा बढ़ता है। कई एजेंट एक-दूसरे को काम सौंपें तो गलतियां आगे फैल सकती हैं। DSCI ने नुकसान के 12 क्षेत्र गिनाए हैं, जिनमें प्राइवेसी उल्लंघन, सुरक्षा खतरे, भेदभाव, डीपफेक और AI-सक्षम साइबर अपराध शामिल हैं।

फ्रेमवर्क एंटरप्राइज तैनाती में पांच समूह पहचानता है: उपयोगकर्ता संगठन, सर्विस प्रोवाइडर और इंटीग्रेटर, प्रोडक्ट कंपनियां और स्टार्टअप, टूल व फ्रेमवर्क प्रदाता, और क्लाउड व इंफ्रास्ट्रक्चर प्रदाता। AI मॉडल प्रदाताओं को अलग से परखा गया है। तैनात करने वाली कंपनियां उपयोग के मामले, अनुमतियां और मानवीय मंजूरी का फैसला करेंगी, जबकि इंटीग्रेटर सिस्टम डिज़ाइन और विफलताओं से निपटने के जिम्मेदार होंगे।

ओपन-सोर्स या ओपन-वेट मॉडल अपने इंफ्रास्ट्रक्चर पर चलाने वालों पर ऑडिट, बदलाव और निगरानी की अधिक जिम्मेदारी होगी। मैनेज्ड API से क्लोज्ड मॉडल लेने वाले अनुबंध की शर्तों और दायित्व सीमा के अनुसार मॉडल प्रदाता से राहत मांग सकते हैं।

सुरक्षा उपाय और आगे की राह

दस्तावेज़ में छह सुरक्षा उपाय सुझाए गए हैं, जिनमें गैर-जरूरी क्षमताएं हटाना, अनुमतियां सीमित करना, बड़े या अपरिवर्तनीय कदमों के लिए मानवीय मंजूरी, निगरानी और स्पष्ट मालिकाना हक वाले किल स्विच शामिल हैं। DSCI ने AI डेवलपर, उद्योग और नीति थिंक टैंक से राय मांगी है और अथॉरिटी मैपिंग पर आगे और मार्गदर्शन जारी करने की योजना बताई है।