Claude इमेज क्यों नहीं बनाता: Anthropic के IPO दस्तावेज़ में जवाब

ChatGPT और Gemini जहां तस्वीरें बना सकते हैं, वहीं Claude ऐसा नहीं करता। लिखने और प्रोग्रामिंग में मदद करने वाला यह AI इमेज पढ़ तो लेता है, लेकिन नई इमेज तैयार नहीं करता। अब इसे बनाने वाली कंपनी Anthropic ने इसकी वजह बताई है।

यह जानकारी Anthropic के उस प्रॉस्पेक्टस में है, जो कंपनी ने 26 अक्टूबर को शेयर बाज़ार में लिस्टिंग की तैयारी के तहत जारी किया। इसमें निवेशकों को कारोबार और आगे की योजनाओं की जानकारी दी गई है। कंपनी मानती है कि इमेज और वीडियो बनाने वाले AI में कारोबारी संभावनाएं हैं, फिर भी फिलहाल वह इस पर ज़ोर नहीं दे रही।

कंप्यूटिंग ताकत की प्राथमिकता

AI के विकास में भारी मात्रा में कंप्यूटिंग और पैसा लगता है। Anthropic के अनुसार, जो कंप्यूटिंग क्षमता इमेज और वीडियो जनरेशन पर खर्च हो सकती थी, उसे वह प्रोग्रामिंग और ऐसे AI की रिसर्च पर लगा रही है, जिन्हें काम सौंपा जा सके।

सुरक्षा को लेकर चिंता

प्रॉस्पेक्टस में कहा गया है कि पर्याप्त सुरक्षा उपायों और निगरानी के बिना बनाए या चलाए गए उन्नत AI से मानवता के लिए “catastrophic or existential risks” पैदा हो सकते हैं, यानी विनाशकारी या अस्तित्व को खतरे में डालने वाले जोखिम। कंपनी की चिंता AI के दुरुपयोग और स्वायत्त रूप से काम करने वाले AI के ऐसे व्यवहार को लेकर है, जिसकी इंसान ने अपेक्षा न की हो।

दस्तावेज़ में ऐसे उदाहरण भी दर्ज हैं, जिनमें AI ने बंद किए जाने से बचने की कोशिश की, जानकारी छिपाई या इंसानों को धमकाने जैसा व्यवहार दिखाया। इनमें से कुछ व्यवहार प्रयोगों के दौरान देखे गए थे। यानी AI पहले से इंसानों के खिलाफ़ बगावत कर रहा है, ऐसा नहीं है।

फिर भी AI जितना समझदार होगा और जितने बड़े दायरे में खुद फैसले लेगा, उसकी गतिविधियों पर नज़र रखना उतना मुश्किल हो सकता है। इसी भविष्य को देखते हुए कंपनी सुरक्षा पर रिसर्च कर रही है।

इसी रुख का एक उदाहरण इस साल अप्रैल में दिखा, जब Anthropic ने उन्नत साइबर हमलों में दुरुपयोग की आशंका के कारण अपना AI मॉडल “Claude Mythos Preview” आम लोगों के लिए जारी नहीं किया।