बच्चों की सुरक्षा के लिए Meta का बड़ा कदम, Insta-FB पर AI से की ये बातें; तो पेरेंट्स के पास पहुंच जाएगा अलर्ट
सोशल मीडिया कंपनी Meta ने चुनिंदा ग्लोबल मार्केट्स में पेरेंट्स के लिए नए सेफ्टी टूल्स पेश किए हैं। इन नए उपायों का मकसद पेरेंट्स की तब मदद करना है जब ...और पढ़ें
Meta AI अब टीनएजर्स की सीक्रेट और संवेदनशील चैट्स पर रखेगा नजर।
टेक्नोलॉजी डेस्क, नई दिल्ली। Meta ने चुनिंदा ग्लोबल मार्केट्स में नए पैरेंटल सेफ्टी टूल्स एड किए हैं। ये सबसे लेटेस्ट टूल्स पेरेंट्स को तब मदद करने के लिए हैं जब टीनएजर्स सुसाइड या खुद को नुकसान पहुंचाने के रिस्क पर हो सकते हैं। सोशल मीडिया दिग्गज अब उन पेरेंट्स को नोटिफाई करेगा जो Instagram सुपरविजन टूल्स का इस्तेमाल कर रहे हैं, अगर उनके छोटे बच्चे ने Meta AI के साथ सुसाइड और सेल्फ-हार्म से जुड़ी कोई संवेदनशील बातचीत की हो। कंपनी का कहना है कि वह सुसाइड या सेल्फ-हार्म को लेकर टीनएजर्स के प्रॉम्प्ट्स पर Meta AI के रिस्पॉन्स को बेहतर बनाने के लिए मेंटल हेल्थ क्लीनिशियंस के फीडबैक का इस्तेमाल कर रही है।
Meta ने लॉन्च किए नए सेफ्टी टूल्स
गुरुवार को एक न्यूजरूम पोस्ट के जरिए Meta ने घोषणा की कि जब उसके टीनएजर्स यूजर्स Instagram और Facebook पर AI के साथ सुसाइड या सेल्फ-हार्म जैसी बातों का जिक्र करेंगे, तो वह पेरेंट्स को अलर्ट भेजेगा। सोशल मीडिया दिग्गज ने कंफर्म किया कि वह पेरेंट्स को अपने बच्चों के साथ इन संवेदनशील विषयों पर बातचीत करने में मदद के लिए एक्सपर्ट रिसोर्सेज भी शेयर करेगा।
ये अलर्ट्स Instagram सुपरविजन टूल्स का इस्तेमाल करने वाले पेरेंट्स के लिए उपलब्ध होंगे। ये फिलहाल US, UK, ऑस्ट्रेलिया और कनाडा के यूजर्स के लिए लाइव है। Meta का कहना है कि वह इस साल के अंत तक इस फीचर को और ज्यादा ग्लोबल यूजर्स के लिए लाने की प्लानिंग कर रहा है।
कंपनी का कहना है कि उसने पेरेंट्स और एक्सपर्ट्स के साथ मिलकर काम किया ताकि ये समझा जा सके कि किन AI कन्वर्सेशन्स पर अलर्ट भेजा जाना चाहिए, 'जैसे कि वो कन्वर्सेशन जहां एक टीनएजर खुद को नुकसान पहुंचाने का साफ तौर पर हिंट देता है, भले ही वह हिंट बहुत बारीक या छुपा हुआ हो। इसके बाद हमने इन कन्वर्सेशन्स को पहचानने के लिए एक डेडिकेटेड AI सिस्टम तैयार किया है।'
खबरें और भी
Meta कंफर्म करता है कि अलर्ट भेजे जाने से पहले Meta AI द्वारा फ्लैग की गई चैट्स को मैनुअली रिव्यू किया जाएगा। अगर टीनएजर का इरादा पूरी तरह साफ नहीं है, तो कंपनी एहतियाती कदम उठाएगी और पेरेंट्स को इन्फॉर्म करेगी। Meta पहले से ही सुपरवाइज करने वाले पेरेंट्स को अलर्ट भेजता है अगर उनका बच्चा Instagram पर सुसाइड या सेल्फ-हार्म से जुड़े शब्दों को बार-बार सर्च करता है और Meta AI पहले से ही उन्हें क्राइसिस हेल्पलाइन पर भेजता है और उन्हें किसी पेरेंट या काउंसलर से संपर्क करने के लिए कहता है।
मार्क जकरबर्ग की अगुवाई वाली कंपनी ने ये भी बताया कि वह एक ऐसा फीचर बना रही है, जिससे मेटा AI के साथ बातचीत के दौरान अगर ये पता चलता है कि कोई व्यक्ति (चाहे वह टीनएजर हो या एडल्ट) खुद को नुकसान पहुंचाने या आत्महत्या करने के गंभीर जोखिम में है, तो इमरजेंसी सर्विसेज से कॉन्टैक्ट किया जा सकेगा। कंपनी का दावा है कि उसने पिछले साल दुनिया भर में ऐसे 19,000 से ज्यादा रेफरल्स किए ताकि फर्स्ट रिस्पॉन्डर्स को उन लोगों की सुरक्षा जांच करने में मदद मिल सके जो सुसाइड के रिस्क पर हो सकते थे।
Meta ने कहा कि उसने सुसाइड और सेल्फ-हार्म से जुड़े टीनएजर्स के प्रॉम्प्ट्स पर Meta AI कैसे रिस्पॉन्ड करता है, इस बारे में 75 से ज्यादा मेंटल हेल्थ प्रोफेशनल्स से फीडबैक लिया। कहा जा रहा है कि वह इसके लिए AI वेलबीइंग एक्सपर्ट काउंसिल, सुसाइड एंड सेल्फ-हार्म एडवाइजरी ग्रुप और यूथ एडवाइजर्स के साथ मिलकर काम कर रही है।
नोट:- (कभी भी आपके या आपके किसी परिचित के मन में खुदकुशी का ख्याल आए तो तुरंत भारत सरकार की जीवनसाथी हेल्पलाइन 18002333330 पर संपर्क करें। आप टेलिमानस हेल्पलाइन नंबर 1800914416 पर भी कॉल कर सकते हैं। यहां आपकी पहचान पूरी तरह से गोपनीय रखी जाती है और एक्सपर्ट्स आपको इस स्थिति से उबरने के लिए जरूरी परामर्श भी देंगे)