हम सभी के पास चैटबॉट्स के हमारे पीछे से धुआं उड़ाने के वास्तविक सबूत हैं, लेकिन अब हमारे पास इसका समर्थन करने के लिए विज्ञान भी है। स्टैनफोर्ड, हार्वर्ड और अन्य संस्थानों के शोधकर्ता में अभी एक अध्ययन प्रकाशित किया है प्रकृति एआई चैटबॉट्स की चापलूसी प्रकृति और परिणामों के बारे में किसी को आश्चर्य नहीं होना चाहिए। वे प्यारे छोटे बॉट्स हमें हमारे सिर पर थपथपाना और जो कुछ भी बकवास हमने अभी-अभी उगला है उसकी पुष्टि करना पसंद करते हैं।
शोधकर्ताओं ने चैटबॉट्स द्वारा जारी की गई सलाह की जांच की और उन्होंने पाया कि चाटुकारिता के लिए उनकी प्रवृत्ति “उम्मीद से भी अधिक व्यापक थी।” अध्ययन में 11 चैटबॉट शामिल थे, जिनमें चैटजीपीटी, गूगल जेमिनी, एंथ्रोपिक क्लाउड और मेटा लामा के हालिया संस्करण शामिल थे। नतीजे बताते हैं कि चैटबॉट एक इंसान की तुलना में 50 प्रतिशत अधिक इंसान के व्यवहार का समर्थन करते हैं।
उन्होंने विभिन्न समूहों के साथ कई प्रकार के परीक्षण किये। एक ने रेडिट के “क्या मैं गधा हूं” थ्रेड पर पोस्ट के साथ चैटबॉट्स की प्रतिक्रियाओं की तुलना मानवीय प्रतिक्रियाओं से की। यह एक सबरेडिट है जिसमें लोग समुदाय से उनके व्यवहार का मूल्यांकन करने के लिए कहते हैंऔर Reddit उपयोगकर्ता चैटबॉट्स की तुलना में इन अपराधों पर अधिक सख्त थे।
एक पोस्टर में कूड़े के थैले को फेंकने के बजाय पेड़ की शाखा पर बांधने के बारे में लिखा गया था, जिस पर ChatGPT-4o ने घोषणा की कि उस व्यक्ति का “खुद को साफ़ करने का इरादा” “सराहनीय” था। अध्ययन में यह सुझाव दिया गया कि चैटबॉट उपयोगकर्ताओं को तब भी मान्य करते रहे, जब वे “गैर-जिम्मेदार, भ्रामक या खुद को नुकसान पहुंचाने वाले” थे। की एक रिपोर्ट के मुताबिक अभिभावक.
थोड़ी सी डिजिटल चाटुकारिता करने में क्या हर्ज है? एक अन्य परीक्षण में 1,000 प्रतिभागियों ने सार्वजनिक रूप से उपलब्ध चैटबॉट्स के साथ वास्तविक या काल्पनिक परिदृश्यों पर चर्चा की, लेकिन उनमें से कुछ को प्रशंसा को कम करने के लिए पुन: प्रोग्राम किया गया था। जिन लोगों को चापलूस प्रतिक्रियाएँ मिलीं, वे बहस छिड़ने पर चीजों को सुलझाने के लिए कम इच्छुक थे और अपने व्यवहार में अधिक उचित महसूस करते थे, भले ही यह सामाजिक मानदंडों का उल्लंघन करता हो। यह भी ध्यान देने योग्य है कि पारंपरिक चैटबॉट बहुत कम ही उपयोगकर्ताओं को किसी अन्य व्यक्ति के दृष्टिकोण से चीजों को देखने के लिए प्रोत्साहित करते हैं।
विंचेस्टर विश्वविद्यालय में उभरती प्रौद्योगिकी का अध्ययन करने वाले डॉ. अलेक्जेंडर लाफ़र ने कहा, “वह चापलूसी प्रतिक्रिया न केवल कमजोर लोगों बल्कि सभी उपयोगकर्ताओं को प्रभावित कर सकती है, जो इस समस्या की संभावित गंभीरता को रेखांकित करती है।” “डेवलपर्स पर इन प्रणालियों को बनाने और परिष्कृत करने की भी जिम्मेदारी है ताकि वे वास्तव में उपयोगकर्ता के लिए फायदेमंद हों।”
यह इसलिए गंभीर है क्योंकि कितने लोग इन चैटबॉट्स का उपयोग करते हैं। की एक ताजा रिपोर्ट ब्रॉडबैंड और सोसायटी के लिए बेंटन संस्थान सुझाव दिया गया कि 30 प्रतिशत किशोर “गंभीर बातचीत” के लिए वास्तविक इंसानों के बजाय एआई से बात करते हैं। OpenAI वर्तमान में एक मुकदमे में उलझा हुआ है जिसमें उसके चैटबॉट पर एक किशोर को आत्महत्या के लिए सक्षम करने का आरोप लगाया गया है। कंपनी कैरेक्टर एआई पर एक के बाद दो बार मुकदमा भी किया गया है किशोर आत्महत्याओं की जोड़ी जिसमें किशोरों ने इसके चैटबॉट्स पर विश्वास करते हुए महीनों बिताए।
