Anthropic ने माना: Cathedral के AI एजेंट्स इंटरनल सिस्टम तक पहुंचे

Anthropic ने पुष्टि की है कि स्टार्टअप Cathedral के AI एजेंट्स उसके कुछ आंतरिक सिस्टम तक पहुंचने में कामयाब रहे। ये एजेंट्स कंपनी के सिस्टम में कमजोरियां खोज रहे थे। The Washington Post के मुताबिक एजेंट्स के हाथ कर्मचारियों के संदेश, मीटिंग के ट्रांसक्रिप्ट, वेतन की जानकारी और कुछ ग्राहकों का डेटा लगा।

Anthropic का कहना है कि Claude के साथ यूज़र्स की बातचीत लीक नहीं हुई और मॉडलों का सोर्स कोड भी सुरक्षित रहा।

$10,000 का इनाम और 12 घंटे

Anthropic ने एक कार्यक्रम शुरू किया था, जिसमें बाहरी कंपनियों के AI सिस्टम से उसकी सुरक्षा परखने पर $10,000 का इनाम रखा गया। Cathedral इसमें 26 अक्टूबर 2026 को शामिल हुई। स्टार्टअप ने AI की मदद से उस थर्ड-पार्टी सॉफ्टवेयर में खामियां ढूंढीं, जिसका इस्तेमाल Anthropic का सेल्स विभाग करता है।

रिपोर्ट के अनुसार महज 12 घंटे में Cathedral के एजेंट्स कर्मचारियों की आंतरिक चैट तक पहुंच गए, जिनमें एडवांस्ड AI मॉडलों से जुड़े संदेश भी थे। इसके अलावा मीटिंग ट्रांसक्रिप्ट, वेतन, खुली भर्तियों और ग्राहकों की जानकारी भी उनकी पहुंच में आई। Anthropic के अनुसार सिस्टम में सेंध लगाने की कोशिशें कई दिनों तक चलीं।

इनाम पर सवाल

Anthropic ने खामियां दूर करने के लिए प्रभावित सॉफ्टवेयर को अस्थायी रूप से बंद कर दिया। कंपनी का मानना है कि Cathedral ने तय बग बाउंटी के दायरे से काफी आगे जाकर काम किया। आपत्ति यह है कि स्टार्टअप के एजेंट्स ने परीक्षण के लिए दिए गए सिस्टम तक सीमित रहने के बजाय थर्ड-पार्टी एप्लिकेशन पर हमला किया।

Anthropic ने यह नहीं बताया है कि Cathedral को वादा किया गया $10,000 मिलेगा या नहीं। मामला दिखाता है कि AI एजेंट्स से सुरक्षा परीक्षण कराते समय दायरे की सीमाएं कितनी स्पष्ट होनी चाहिए।