कैरेक्टर.एआई अब किशोरों को अपने चैटबॉट्स के साथ बातचीत करने की अनुमति नहीं देगा, क्योंकि एआई कंपनियों को युवा उपयोगकर्ताओं को नुकसान से बेहतर ढंग से सुरक्षित रखने के दबाव का सामना करना पड़ रहा है। में एक कथनकंपनी ने पुष्टि की कि वह अपने प्लेटफॉर्म पर 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए एआई के साथ किसी भी ओपन-एंडेड चैट में शामिल होने की क्षमता को हटा रही है, जो उपयोगकर्ता और चैटबॉट के बीच आगे-पीछे की बातचीत को संदर्भित करता है।
परिवर्तन 25 नवंबर को प्रभावी होंगे, और उस तिथि तक, कैरेक्टर.एआई उपयोगकर्ताओं को 18 वर्ष से कम उम्र के लोगों के लिए एक नया अनुभव प्रदान करेगा। यह अपने उपयोगकर्ताओं को रचनात्मक उद्देश्यों के लिए चैटबॉट का उपयोग करने के लिए प्रोत्साहित करेगा, जिसमें उदाहरण के लिए, साथी की तलाश के बजाय वीडियो या स्ट्रीम बनाना शामिल हो सकता है। संक्रमण को प्रबंधित करने के लिए, 18 साल से कम उम्र के लोग अब प्रति दिन केवल दो घंटे तक बॉट्स के साथ बातचीत कर सकते हैं, कंपनी का कहना है कि नवंबर के अंत की समय सीमा तक यह समय सीमा कम हो जाएगी।
कैरेक्टर.एआई एक नए युग का आश्वासन उपकरण भी पेश कर रहा है जिसे उसने आंतरिक रूप से विकसित किया है, जिसके बारे में उसका कहना है कि “यह सुनिश्चित करेगा कि उपयोगकर्ताओं को उनकी उम्र के लिए सही अनुभव प्राप्त हो।” युवा उपयोगकर्ताओं के लिए इन नई सुरक्षा के साथ, कंपनी ने एक “एआई सेफ्टी लैब” की स्थापना की है, जिससे उसे उम्मीद है कि यह अन्य कंपनियों, शोधकर्ताओं और शिक्षाविदों को अंतर्दृष्टि साझा करने और एआई सुरक्षा उपायों को बेहतर बनाने पर सहयोगात्मक रूप से काम करने की अनुमति देगी।
कैरेक्टर.एआई ने कहा कि उसने नियामकों, उद्योग विशेषज्ञों और संबंधित अभिभावकों की चिंताओं को सुना है और नए उपायों के साथ प्रतिक्रिया दी है। वे संघीय व्यापार आयोग (एफटीसी) द्वारा हाल ही में एआई कंपनियों की औपचारिक जांच के बाद आए हैं जो उपयोगकर्ताओं को साथी के रूप में पहुंच प्रदान करते हैं, कैरेक्टर.एआई को उन सात कंपनियों में से एक के रूप में नामित किया गया था जिन्हें भाग लेने के लिए कहा गया था। मेटा, ओपनएआई और स्नैप भी शामिल थे।
मेटा एआई और कैरेक्टर एआई दोनों को गर्मियों में टेक्सास के अटॉर्नी जनरल केन पैक्सटन से भी सामना करना पड़ा, जिन्होंने कहा कि दोनों प्लेटफार्मों पर चैटबॉट अपेक्षित योग्यता के बिना “खुद को पेशेवर चिकित्सीय उपकरण के रूप में पेश कर सकते हैं”। इस तरह के विवाद को खत्म करने के लिए कैरेक्टर.एआई के सीईओ करणदीप आनंद ने बताया कंपनी की नई रणनीतिक दिशा इसे एआई साथी से एक “रोल-प्लेइंग प्लेटफॉर्म” की ओर ले जाएगी जो केवल सगाई-खेती की बातचीत के बजाय निर्माण पर केंद्रित है।
मार्गदर्शन के लिए एआई चैटबॉट्स पर निर्भर युवाओं के खतरे व्यापक विषय रहे हैं हाल के महीनों में। पिछले हफ्ते, एडम राइन के परिवार ने, जिनके चैटजीपीटी ने उनके 16 वर्षीय बेटे को अपनी जान लेने में सक्षम बनाया था, ओपनएआई के खिलाफ कथित तौर पर उसकी मौत के लिए अपने स्वयं को नुकसान पहुंचाने वाले सुरक्षा उपायों को कमजोर करने के लिए मामला दायर किया था।
