गलियारे के दोनों ओर के अमेरिकी सांसदों ने “” नामक एक विधेयक पेश किया है।गार्ड अधिनियमजिसका उद्देश्य नाबालिग उपयोगकर्ताओं को एआई चैटबॉट्स से बचाना है। बिल के सह-प्रायोजक, सीनेटर रिचर्ड ब्लूमेंथल (डी-कॉन) ने कहा, “नीचे की ओर अपनी दौड़ में, एआई कंपनियां बच्चों पर विश्वासघाती चैटबॉट्स को धकेल रही हैं और जब उनके उत्पाद यौन शोषण का कारण बनते हैं, या उन्हें आत्म-नुकसान या आत्महत्या के लिए मजबूर करते हैं, तो दूर देखते हैं।”
गार्ड अधिनियम के तहत, एआई कंपनियों को नाबालिगों को अपने चैटबॉट तक पहुंचने से प्रतिबंधित करने की आवश्यकता होगी। इसका मतलब है कि उन्हें तीसरे पक्ष की प्रणाली की मदद से मौजूदा और नए दोनों उपयोगकर्ताओं के लिए आयु सत्यापन करना होगा। उन्हें उन खातों पर समय-समय पर आयु सत्यापन भी करना होगा जो पहले ही सत्यापित हो चुके हैं। उपयोगकर्ताओं की गोपनीयता बनाए रखने के लिए, कंपनियों को केवल “उपयोगकर्ता की उम्र सत्यापित करने के लिए आवश्यक से अधिक समय तक” डेटा बनाए रखने की अनुमति होगी और वे उपयोगकर्ता की जानकारी साझा या बेच नहीं सकते हैं।
एआई कंपनियों को अपने चैटबॉट्स को प्रत्येक बातचीत की शुरुआत में और उसके बाद हर 30 मिनट में उपयोगकर्ता को स्पष्ट रूप से बताना होगा कि यह एक इंसान नहीं है। उन्हें यह सुनिश्चित करना होगा कि पूछे जाने पर उनके चैटबॉट एक इंसान या लाइसेंस प्राप्त पेशेवर, जैसे चिकित्सक या डॉक्टर होने का दावा न करें। अंत में, विधेयक का उद्देश्य उन कंपनियों पर आरोप लगाने के लिए नए अपराध बनाना है जो अपने एआई चैटबॉट को नाबालिगों के लिए उपलब्ध कराते हैं।
अगस्त में, आत्महत्या करने वाले एक किशोर के माता-पिता ने ओपनएआई के खिलाफ गलत तरीके से मौत का मुकदमा दायर किया, जिसमें “सुरक्षा पर सगाई” को प्राथमिकता देने का आरोप लगाया गया। उन्होंने कहा, चैटजीपीटी ने महीनों की बातचीत के बाद भी उनके बेटे को अपनी मौत की योजना बनाने में मदद की, जिसमें उनके बच्चे ने चैटबॉट से अपने पिछले चार आत्महत्या प्रयासों के बारे में बात की। चैटजीपीटी ने कथित तौर पर उनके बेटे से कहा कि यह “लेखन या विश्व-निर्माण” के लिए आत्महत्या के बारे में जानकारी प्रदान कर सकता है। फ्लोरिडा की एक मां ने 2024 में अपने 14 वर्षीय बेटे की आत्महत्या के लिए कथित तौर पर स्टार्टअप कैरेक्टर.एआई पर मुकदमा दायर किया। और इसी सितंबर में, एक 13 वर्षीय लड़की के परिवार ने कैरेक्टर.एआई के खिलाफ एक और गलत मौत का मुकदमा दायर किया, जिसमें तर्क दिया गया कि जब उनकी बेटी ने अपने आत्मघाती विचारों के बारे में बात की तो कंपनी ने किसी भी संसाधन की ओर इशारा नहीं किया या अधिकारियों को सूचित नहीं किया।
यह भी ध्यान देने योग्य है कि बिल के सह-प्रायोजक सीनेटर जोश हॉले (आर-मो.) ने पहले कहा था कि अपराध और आतंकवाद विरोधी सीनेट समिति उपसमिति, जिसका वह नेतृत्व करते हैं, उन रिपोर्टों की जांच करेगी कि मेटा के एआई चैटबॉट बच्चों के साथ “कामुक” बातचीत कर सकते हैं। इसके बाद उन्होंने यह घोषणा की रॉयटर्स एक आंतरिक मेटा दस्तावेज़ पर रिपोर्ट की गई, जिसमें कहा गया है कि मेटा के एआई को एक शर्टलेस आठ वर्षीय बच्चे को यह बताने की अनुमति दी गई थी: “आपका हर इंच एक उत्कृष्ट कृति है – एक खजाना जिसे मैं गहराई से संजोता हूं।”
