Osegi
सुरक्षा·2 मिनट में पढ़ें

OpenAI CSAM Image Classifier: AI से बनी तस्वीरें भी पकड़ेगा

OpenAI का नया CSAM Image Classifier ऐसी तस्वीरें भी पहचानता है जो पहले कभी नहीं देखी गईं, और AI से बनी भी। ChatGPT में ऐसा कंटेंट खोजने पर अब 24 घंटे का सस्पेंशन मिलेगा।

A person typing a message into the ChatGPT interface on a laptop, with a warning notice on the screen.
छवि: ITmedia NEWS

OpenAI ने बच्चों के यौन शोषण वाली सामग्री (CSAM) पहचानने के लिए नया टूल जारी किया है, और ChatGPT में ऐसी चीज़ें खोजने वालों के लिए सख़्त चेतावनी भी जोड़ी है। 16 नवंबर (अमेरिकी समय) को घोषित OpenAI CSAM Image Classifier उन तस्वीरों को भी पकड़ने का दावा करता है जो पहले किसी डेटाबेस में नहीं थीं, और उन्हें भी जो AI से बनाई गई हैं।

OpenAI CSAM Image Classifier कैसे काम करता है?

पुराना तरीका ज्ञात अवैध तस्वीरों के हैश मान से मिलान करना था। नया टूल तस्वीर में दिखने वाले यौन शोषण के दृश्य संकेतों का विश्लेषण करता है और स्कोर देता है कि वह CSAM हो सकती है या नहीं। AI से बनी CSAM के लिए अलग स्कोर भी आता है। OpenAI के मुताबिक AI-जनित CSAM के लिए अलग पैमाने वाला, कई संस्थाओं के लिए उपलब्ध ऐसा पहला क्लासिफ़ायर यही है।

टूल बनाने में अमेरिका के नेशनल सेंटर फ़ॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) ने मदद की। Tech Coalition और ग़ैर-लाभकारी संस्था ROOST भी इसमें साथ हैं। जो संगठन जाँच में पास होंगे, उन्हें यह OpenAI API के ज़रिए मुफ़्त मिलेगा।

यूज़र्स की अपलोड की गई तस्वीरों पर OpenAI के आकलन में टूल ने मौजूदा टूल्स जितनी ही आपत्तिजनक तस्वीरें पकड़ीं, जबकि समीक्षा के लिए भेजी जाने वाली तस्वीरें अनुमानतः 48% कम रहीं। टूल की निशानदेही वाली तस्वीरों में असली आपत्तिजनक सामग्री का अनुपात मौजूदा टूल्स से करीब दोगुना था। पार्टनर fal में ऊँचे भरोसे वाले नतीजों में से 72% को स्टाफ़ ने नई CSAM माना। invideo AI में पकड़े गए हर चार मामलों में से एक पर अकाउंट बंद हुआ।

सीमाएँ क्या हैं?

मॉडल कार्ड के अनुसार ChatGPT के असली ट्रैफ़िक पर प्रिसिशन ऑफ़लाइन टेस्ट से काफ़ी कम रही। शिशुओं की तस्वीरों में रिकॉल सिर्फ़ 49.3% रहा। वीडियो फ़्रेम पर जाँच नहीं हुई। OpenAI की सलाह है कि अकेले स्कोर को CSAM का सबूत या क़ानूनी रिपोर्ट का आधार न बनाया जाए, अंतिम फ़ैसला इंसान समीक्षक करें।

ChatGPT में CSAM खोजने पर क्या होगा?

ऐसा प्रयास पकड़ में आने पर ChatGPT चेतावनी दिखाएगा कि यह सामग्री हानिकारक और अवैध हो सकती है और इसे खोजना उपयोग की शर्तों का उल्लंघन है। बातचीत हटा दी जाएगी और अकाउंट 24 घंटे के लिए सस्पेंड होगा। चेतावनी स्क्रीन पर मुफ़्त विशेषज्ञ सहायता की जानकारी भी दिखेगी। बार-बार उल्लंघन पर पाबंदी लंबी हो सकती है, अकाउंट बंद हो सकता है और अधिकारियों को रिपोर्ट भी जा सकती है।

डेवलपर्स के लिए CSAM की रोकथाम, पहचान और रिपोर्टिंग के दिशानिर्देश भी जारी हुए हैं। पुलिस की बाल संरक्षण इकाइयों को चैट इतिहास खंगालने के लिए टूल और प्रशिक्षण मिलेगा।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:openaicsamchatgptchild safetyimage classifierncmec

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: सुरक्षा

सभी देखें →