मेटा नए पर्यवेक्षण नियंत्रणों पर काम कर रहा है जो माता-पिता को अपने किशोरों की अपने प्लेटफार्मों पर एआई चैटबॉट्स तक पहुंच पूरी तरह से बंद करने की अनुमति देगा। हालांकि उपकरण किशोरों की एक-पर-एक चैट पर एआई वर्ण संलग्न करने की क्षमता को हटा सकते हैं, फिर भी वे सामान्य मेटा एआई चैटबॉट तक पहुंचने में सक्षम होंगे। यदि माता-पिता अपने किशोरों को एआई बॉट्स तक पहुंचने से पूरी तरह से रोकना नहीं चाहते हैं, तो वे विशिष्ट एआई वर्णों को भी ब्लॉक कर सकते हैं। इसके अलावा, माता-पिता मेटा के एआई बॉट्स के साथ उन विषयों की जानकारी प्राप्त करने में सक्षम होंगे जिन पर उनके बच्चे चर्चा कर रहे हैं। कंपनी वर्तमान में इन नियंत्रणों का निर्माण कर रही है और अगले साल की शुरुआत में इन्हें यूएस, यूके, कनाडा और ऑस्ट्रेलिया में अंग्रेजी में इंस्टाग्राम पर रोल आउट करना शुरू कर देगी। ध्यान रखें कि ऊपर दी गई छवियां केवल चित्रण हैं, और टूल का इंटरफ़ेस अभी भी बदल सकता है।
कुछ महीने पहले एक आंतरिक मेटा दस्तावेज़ लीक होने के बाद से कंपनी की आलोचना हो रही है, जिसमें दिखाया गया है कि उसने अपने चैटबॉट्स को बच्चों के साथ “कामुक” बातचीत करने की अनुमति दी है। एक उदाहरण में, एक मेटा चैटबॉट ने एक शर्टलेस आठ वर्षीय बच्चे से कहा कि “तुम्हारा हर इंच एक उत्कृष्ट कृति है – एक खजाना जिसे मैं गहराई से संजोता हूं।” जानकारी सामने आने के बाद 44 न्यायक्षेत्रों के अमेरिकी अटॉर्नी जनरल ने कंपनियों से बच्चों को “हिंसक कृत्रिम बुद्धिमत्ता उत्पादों द्वारा शोषण से बचाने” का आग्रह किया। सीनेटर जोश हॉले (आर-एमओ) की अध्यक्षता में अपराध और आतंकवाद विरोधी सीनेट समिति उपसमिति भी कंपनी की जांच करेगी।
आंतरिक दस्तावेज़ लीक होने के तुरंत बाद, मेटा ने अपने एआई को फिर से प्रशिक्षित करना शुरू कर दिया और युवा उपयोगकर्ताओं को उपयोगकर्ता-निर्मित एआई वर्णों तक पहुंचने से रोकने के लिए नई सुरक्षा जोड़ी, जो अनुचित बातचीत में शामिल हो सकते हैं। इसने आयु-उपयुक्त सुरक्षा भी पेश की ताकि इसके एआई किशोरों को पीजी-13 मूवी रेटिंग द्वारा निर्देशित प्रतिक्रियाएँ दे सकें। साथ ही, यह अब केवल किशोरों को आयु-उपयुक्त विषयों पर केंद्रित एआई पात्रों के एक सीमित समूह के साथ बातचीत करने की अनुमति देता है।
