मैक्रों की पहल पर AI दिग्गजों ने साइन किया पेरिस कॉल ऑन AI सेफ्टी

"पेरिस कॉल फॉर AI सेफ्टी" के तीन स्तंभ

चार्टर का पहला बिंदु फ्रंटियर मॉडलों के जोखिमों के आकलन और प्रबंधन के लिए साझा ढांचा बनाना है। यह ढांचा स्वतंत्र और सार्वजनिक होना चाहिए, और खास तौर पर साइबर हमलों तथा किसी शक्तिशाली मॉडल पर उसके डेवलपर का नियंत्रण खो जाने के खतरों पर केंद्रित है।

दूसरे, हस्ताक्षरकर्ता रिपोर्टिंग और अलर्ट की मौजूदा व्यवस्थाओं को मजबूत करेंगे, ताकि गंभीर साइबर या नियंत्रण-हानि की घटनाओं की जानकारी तेजी से साझा हो सके, जैसा कि एलिजे पैलेस ने बताया। सरकारें व्हिसलब्लोअरों के लिए सुरक्षित और गोपनीय चैनल भी देंगी, ताकि वे बदले की कार्रवाई के डर के बिना जोखिम बता सकें।

तीसरे, मॉडल बनाने वाली कंपनियां अपने मॉडलों की क्षमताओं, सीमाओं और ज्ञात जोखिमों को सार्वजनिक करने का वादा करती हैं। मैक्रों ने X पर कहा कि लक्ष्य नवाचार को ठुकराना नहीं, बल्कि ऐसा ढांचा बनाना है जो तीन तरह के खतरों को ध्यान में रखे: बच्चे, लोकतांत्रिक सुरक्षा और राष्ट्रीय सुरक्षा।

बच्चों के लिए AI टूल पर रोक की तैयारी

अखबार Les Echos को दिए इंटरव्यू में मैक्रों ने कहा कि अगर AI के किसी उपयोग से बच्चों को खतरा है, तो उसे प्रतिबंधित किया जाना चाहिए। उनके मुताबिक AI होने से उसे "वाइल्ड वेस्ट" बनने नहीं दिया जा सकता। नाबालिगों के लिए सोशल मीडिया पर पाबंदी की बात कहने के बाद अब वे छोटी उम्र के उपयोगकर्ताओं के लिए कुछ AI टूल सीमित करने पर विचार कर रहे हैं।

हाल के महीनों में नियमन की मांग तेज हुई है। डोनाल्ड ट्रंप ने प्रमुख अमेरिकी AI कंपनियों से आचार संहिता पर हस्ताक्षर करवाए हैं, जबकि OpenAI, Google और Anthropic के अपना AI निगरानी निकाय तैयार करने की खबरें हैं। अब देखना यह है कि मैक्रों की पहल पर बना यह चार्टर कितना असर डाल पाता है।