Osegi
الأمن السيبراني·2 دقائق قراءة

OpenAI CSAM Image Classifier يكشف صور الاعتداء على الأطفال المولّدة بالذكاء الاصطناعي

أداة OpenAI CSAM Image Classifier تكشف صور الاعتداء على الأطفال الجديدة والمولّدة بالذكاء الاصطناعي، وChatGPT يعلّق الحساب 24 ساعة عند البحث عن هذا المحتوى.

A person typing a message into the ChatGPT interface on a laptop, with a warning notice on the screen.
الصورة: ITmedia NEWS

أعلنت OpenAI أداة جديدة باسم OpenAI CSAM Image Classifier لاكتشاف مواد الاعتداء الجنسي على الأطفال (CSAM). تستهدف الأداة الصور التي لم تُرصد من قبل، وكذلك الصور التي أنتجها الذكاء الاصطناعي. وفي الوقت نفسه صار ChatGPT يعلّق حساب المستخدم 24 ساعة إذا بحث عن هذا النوع من المحتوى.

جاء الإعلان في 16 نوفمبر. يحلل المصنِّف السمات البصرية للاعتداء في الصورة، ويعطي درجة تشير إلى احتمال كونها CSAM، مع درجة منفصلة للمواد المولّدة بالذكاء الاصطناعي. أما الطرق السابقة فكانت تقارن الصورة بقيم التجزئة (hash)، أي البصمات الرقمية للملفات غير القانونية المعروفة، ولذلك كان اكتشاف الصور الجديدة صعبًا. وتقول OpenAI إنها أول أداة تصنيف متاحة لجهات واسعة تتضمن مقياسًا مخصصًا لهذا النوع من المواد.

طُوّرت الأداة بالتعاون مع المركز الوطني الأمريكي للأطفال المفقودين والمستغَلّين (NCMEC)، وتشارك في توفيرها أيضًا Tech Coalition ومنظمة ROOST غير الربحية. وستتاح مجانًا عبر واجهة OpenAI البرمجية للمؤسسات التي تجتاز المراجعة.

ما مدى دقة أداة كشف CSAM؟

في تقييم على صور رفعها مستخدمون، اكتشفت الأداة عددًا قريبًا مما تكتشفه الأدوات الحالية، وتقدّر OpenAI أنها تخفض عدد الصور المرفوعة للمراجعة بنسبة 48%. ونسبة الصور المشار إليها التي تحتوي فعلًا على اعتداء تبلغ نحو ضعف الأدوات الحالية. وفي منصة fal أكد الموظفون أن 72% من الحالات عالية الثقة كانت CSAM جديدة. وفي اختبار SafetyKit على رسومات وصور متحركة تصوّر أطفالًا بشكل جنسي بلغ معدل الكشف 90%، مع أقل من 1% من الإنذارات الخاطئة على محتوى البالغين القانوني.

لكن هناك قيودًا. فبحسب بطاقة النموذج، كانت الدقة في محادثات ChatGPT الحقيقية أقل بكثير منها في الاختبارات خارج الإنترنت، وبلغت نسبة اكتشاف صور الرضّع 49.3% فقط. ولم تُختبر لقطات الفيديو. وتوصي OpenAI بألا تُعدّ الدرجة وحدها دليلًا، وأن يتخذ مراجع بشري القرار النهائي.

ماذا يحدث عند البحث عن CSAM في ChatGPT؟

يظهر تحذير بأن هذا المحتوى ضار وقد يكون غير قانوني، وأن مجرد البحث عنه يخالف شروط الاستخدام. تُحذف المحادثة ويُعلّق الحساب 24 ساعة، وتتضمن شاشة التحذير توجيهًا إلى دعم متخصص مجاني. وعند تكرار المخالفة قد تطول مدة التقييد أو يُغلق الحساب أو يُبلَّغ عنه للسلطات.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:openaicsamchatgptchild safetyimage classifierncmec

المزيد من هذا اليوم

عرض الكل →

المزيد في: الأمن السيبراني

عرض الكل →