आजकल अधिकांश लोग अपनी पसंद के आधार पर किसी न किसी चैटबॉट से बातचीत कर रहे हैं। लेकिन इससे कोई फर्क नहीं पड़ता कि आप किस चैटबॉट का उपयोग कर रहे हैं, किसी ने देखा होगा कि एआई आमतौर पर आपके दोस्तों या परिवार के सदस्यों की तुलना में आपसे अधिक सहमत होता है और अब हमारे पास एक अध्ययन है जो पुष्टि करता है कि यह वास्तव में सच्चाई है।
arXiv सर्वर पर प्रीप्रिंट के रूप में पोस्ट किए गए एक नए अध्ययन में ओपनएआई के चैटजीपीटी, एंथ्रोपिक के क्लाउड, मेटा के लामा, डीपसीक और गूगल जेमिनी सहित शीर्ष 11 एआई चैटबॉट का विश्लेषण किया गया।
शोधकर्ताओं ने पाया कि व्यक्तिगत सलाह के लिए एआई चैटबॉट्स की ओर रुख करना “घातक जोखिम” के साथ आता है। कई मौजूदा चैटबॉट उपयोगकर्ताओं को तब मान्य करेंगे जब उनके पोस्ट में हेरफेर, धोखे या खुद को नुकसान पहुंचाने वाले विषय होंगे। शोधकर्ताओं का तर्क है कि इससे लोगों में रिश्ते सुधारने जैसे सामाजिक कदम उठाने की इच्छा कम हो जाती है और वे इस बात को लेकर अधिक आश्वस्त हो जाते हैं कि वे सही थे।
इसके अलावा, जो चैटबॉट चाटुकारितापूर्ण व्यवहार में संलग्न होते हैं – उपयोगकर्ताओं के साथ अत्यधिक सहमत होते हैं – उन्हें भी उच्च गुणवत्ता का दर्जा दिया जाता है और उपयोगकर्ताओं ने कहा कि वे उन्हें फिर से उपयोग करेंगे, जो मॉडलों को उपयोगकर्ताओं के साथ सहमत रहने के लिए प्रोत्साहन देता है।
स्टैनफोर्ड यूनिवर्सिटी के कंप्यूटर वैज्ञानिक और अध्ययन के लेखकों में से एक मायरा चेंग ने गार्जियन को बताया कि एआई चैटबॉट्स में “सामाजिक चाटुकारिता” एक बड़ी समस्या है।
“हमारी मुख्य चिंता यह है कि यदि मॉडल हमेशा लोगों की पुष्टि कर रहे हैं, तो यह लोगों के अपने बारे में, उनके रिश्तों और उनके आस-पास की दुनिया के बारे में निर्णय को विकृत कर सकता है। यह महसूस करना भी मुश्किल हो सकता है कि मॉडल सूक्ष्मता से, या इतनी सूक्ष्मता से नहीं, उनकी मौजूदा मान्यताओं, धारणाओं और निर्णयों को मजबूत कर रहे हैं।” चेंग ने प्रकाशन को बताया
शोध से पता चला कि ये अग्रणी चैटबॉट इंसानों की तुलना में व्यक्तिगत सलाह में उपयोगकर्ता से सहमत होने की 50% अधिक संभावना रखते हैं।
विभिन्न चैटबॉट्स का प्रदर्शन कैसा रहा?
शोधकर्ताओं ने बताया प्रकृति उन्होंने गणितीय समस्याओं को हल करने में चाटुकारितापूर्ण व्यवहार के प्रभाव का परीक्षण किया। उन्होंने इस वर्ष आयोजित प्रतियोगिताओं से 504 गणितीय समस्याओं का उपयोग करके प्रयोगों को डिजाइन किया और सूक्ष्म त्रुटियों को पेश करने के लिए प्रत्येक प्रमेय कथन को बदल दिया, जबकि चार एलएलएम से त्रुटिपूर्ण कथनों के लिए प्रमाण प्रदान करने के लिए कहा।
इस प्रयोग के पीछे का विचार यह जांचना था कि क्या एआई चैटबॉट्स के चाटुकारितापूर्ण व्यवहार के कारण वे किसी बयान में त्रुटियों का पता लगाने में विफल हो जाएंगे।
विश्लेषण किए गए चैटबॉट्स में, OpenAI के GPT-5 ने सबसे कम चाटुकारितापूर्ण व्यवहार दिखाया और चैटबॉट ने 29% समय में अत्यधिक सहमत प्रतिक्रियाएँ उत्पन्न कीं। इस बीच, डीपसीक का V3.1 मॉडल सबसे अधिक चापलूस पाया गया, जिससे 70% बार अत्यधिक सहमत प्रतिक्रियाएं उत्पन्न हुईं।
शोधकर्ताओं का कहना है कि इन एलएलएम में गणितीय कथनों में त्रुटियों को पहचानने की क्षमता है, लेकिन उन्होंने “केवल यह मान लिया कि उपयोगकर्ता जो कहता है वह सही है”।
