सोनी एआई ने एक डेटासेट जारी किया जो एआई मॉडल की निष्पक्षता और पूर्वाग्रह का परीक्षण करता है। इसे निष्पक्ष मानव-केंद्रित छवि बेंचमार्क (FHIBE, जिसका उच्चारण “फोबे” की तरह होता है) कहा जाता है। कंपनी इसे “विभिन्न प्रकार के कंप्यूटर विज़न कार्यों में पूर्वाग्रह के मूल्यांकन के लिए पहला सार्वजनिक रूप से उपलब्ध, विश्व स्तर पर विविध, सहमति-आधारित मानव छवि डेटासेट” के रूप में वर्णित करती है। दूसरे शब्दों में, यह परीक्षण करता है कि आज के एआई मॉडल किस हद तक लोगों के साथ निष्पक्ष व्यवहार करते हैं। स्पॉइलर: सोनी को किसी भी कंपनी का एक भी डेटासेट नहीं मिला जो उसके बेंचमार्क पर पूरी तरह खरा उतरता हो।
सोनी का कहना है कि एफएचआईबीई एआई उद्योग की नैतिक और पूर्वाग्रह संबंधी चुनौतियों का समाधान कर सकता है। डेटासेट में 80 से अधिक देशों के लगभग 2,000 भुगतान किए गए प्रतिभागियों की छवियां शामिल हैं। उनकी सभी समानताएँ सहमति से साझा की गईं – कुछ ऐसा जो वेब डेटा की बड़ी मात्रा को स्क्रैप करने की सामान्य प्रथा के लिए नहीं कहा जा सकता है। FHIBE में प्रतिभागी किसी भी समय अपनी छवियां हटा सकते हैं। उनकी तस्वीरों में जनसांख्यिकीय और भौतिक विशेषताओं, पर्यावरणीय कारकों और यहां तक कि कैमरा सेटिंग्स को ध्यान में रखते हुए एनोटेशन शामिल हैं।
यह टूल आज के एआई मॉडल में “पहले से प्रलेखित पूर्वाग्रहों की पुष्टि करता है”। लेकिन सोनी का कहना है कि एफएचआईबीई उन कारकों का विस्तृत निदान भी प्रदान कर सकता है जो उन पूर्वाग्रहों को जन्म देते हैं। एक उदाहरण: कुछ मॉडलों में “वह/उसकी” सर्वनाम का उपयोग करने वाले लोगों के लिए कम सटीकता थी, और एफएचआईबीई ने पहले से नजरअंदाज किए गए कारक के रूप में अधिक केश विन्यास परिवर्तनशीलता पर प्रकाश डाला।
एफएचआईबीई ने यह भी निर्धारित किया कि आज के एआई मॉडल किसी विषय के व्यवसाय के बारे में तटस्थ प्रश्न पूछे जाने पर रूढ़िवादिता को मजबूत करते हैं। परीक्षण किए गए मॉडल विशेष रूप से “विशिष्ट सर्वनाम और वंश समूहों के विरुद्ध” तिरछे थे, जो विषयों को यौनकर्मी, ड्रग डीलर या चोर के रूप में वर्णित करते थे। और जब पूछा गया कि किसी व्यक्ति ने कौन से अपराध किए हैं, तो मॉडल कभी-कभी “अफ्रीकी या एशियाई मूल के लोगों, गहरे रंग की त्वचा वाले लोगों और ‘वह/उसके/उसके’ के रूप में पहचान करने वाले लोगों के लिए उच्च दर पर विषाक्त प्रतिक्रियाएं उत्पन्न करते हैं।”
सोनी एआई का कहना है कि एफएचआईबीई साबित करता है कि नैतिक, विविध और निष्पक्ष डेटा संग्रह संभव है। उपकरण अब है जनता के लिए उपलब्धऔर इसे समय के साथ अद्यतन किया जाएगा। शोध को रेखांकित करने वाला एक पेपर था प्रकाशित में प्रकृति बुधवार को.
अपडेट, 5 नवंबर, 2025, 2:01 अपराह्न ईटी: इस कहानी को यह स्पष्ट करने के लिए अद्यतन किया गया है कि प्रतिभागियों को भुगतान किया गया था, स्वयंसेवकों को नहीं।
