Gemini पर किशोरी की आत्महत्या योजना का आरोप, Google ने AI बंद किया

17 मार्च को स्कूल के निगरानी सॉफ़्टवेयर ने "Funeral" नाम की एक फ़ाइल पकड़ी और माता-पिता को सूचित किया। वे समय पर दखल दे सके और लड़की ने कोई कदम नहीं उठाया। शिकायत यह भी कहती है कि Gemini ने उसमें गंभीर मानसिक विकारों का "निदान" किया और उसे माता-पिता या स्कूल काउंसलरों के बजाय खुद पर भरोसा करने के लिए प्रेरित किया। Google के प्रवक्ता ने कहा कि कंपनी आरोपों की जाँच कर रही है, उन्हें "बहुत गंभीरता से" लेती है और AI मोड में आत्म-क्षति के खिलाफ सुरक्षा उपाय मौजूद हैं।

Google का बदलाव और विवाद

Google के शिक्षा उपाध्यक्ष Chris Phillips के ब्लॉग पोस्ट के अनुसार Gemini ऐप, Gemini Notebook (शिक्षा में NotebookLM का नाम), Classroom में Gemini और Google Search किंडरगार्टन से 12वीं तक के छात्र खातों में "पूरी तरह बंद" रहेंगे, जब तक स्कूल प्रशासक उन्हें चालू न करे। Google ने इसका संबंध मुकदमे से नहीं जोड़ा। बदलाव की तारीख तय नहीं है; New York Times के अनुसार यह 2027 की शुरुआत में आएगा और दुनिया भर में, अमेरिका से शुरू होकर लागू होगा।

शर्त पर विवाद है: छात्र खातों के लिए AI-रहित सर्च नहीं है। यानी AI न चाहने वाला स्कूल सर्च भी खो देगा, जबकि सर्च चालू करने का मतलब AI Overviews और AI Mode स्वीकार करना है। न्यूयॉर्क के मेयर Zohran Mamdani ने Google पर "एकाधिकार की ताकत" से AI थोपने का आरोप लगाया। कंपनी का जवाब है कि स्कूलों को "ज़्यादा विकल्प" मिल रहे हैं। साथ ही Google ने Guided Learning पेश किया है, जो जवाब देने के बजाय सवालों से छात्र को राह दिखाता है।

अगर आप या कोई परिचित मुश्किल दौर से गुज़र रहा है, तो अपने देश की आत्महत्या रोकथाम हेल्पलाइन से तुरंत संपर्क करें।