Google ने AI मॉडल जेम्मा को अपने स्टूडियो प्लेटफॉर्म से हटा दिया है, क्योंकि एक रिपब्लिकन सीनेटर ने कहा था कि उसने उसके खिलाफ “गंभीर आपराधिक आरोप गढ़े हैं”, जैसा कि रिपोर्ट किया गया है द वर्ज. सीनेटर मार्शा ब्लैकबर्न (आर-टीएन) सीईओ सुंदर पिचाई को भेजा पत्र मॉडल द्वारा कथित तौर पर अपने साथ यौन उत्पीड़न करने की कहानी बनाने के बाद कंपनी पर मानहानि का आरोप लगाया गया।
मॉडल से कथित तौर पर पूछा गया था कि क्या ब्लैकबर्न पर कभी “बलात्कार का आरोप लगाया गया था” और उसने कथित तौर पर सकारात्मक जवाब दिया, यहां तक कि आरोप का समर्थन करने के लिए नकली समाचार लेखों की एक सूची भी प्रदान की। चैटबॉट ने कहा कि सीनेटर पर राज्य सीनेट के लिए एक अभियान के दौरान “एक राज्य सैनिक के साथ यौन संबंध बनाने का आरोप लगाया गया था”। इस अधिकारी ने कथित तौर पर कहा, “उसने उस पर उसके लिए डॉक्टरी दवाएँ प्राप्त करने के लिए दबाव डाला और कहा कि रिश्ते में गैर-सहमति वाले कार्य शामिल थे।”
निःसंदेह, इनमें से कुछ भी नहीं हुआ। चैटबॉट ने कहा कि यह अपराध ब्लैकबर्न के 1987 के अभियान के दौरान हुआ था, लेकिन वह 1998 तक राज्य सीनेट के लिए नहीं चलीं। उन पर कभी भी इस तरह का आरोप नहीं लगाया गया।
“लिंक त्रुटिपूर्ण पृष्ठों और असंबंधित समाचार लेखों की ओर ले जाते हैं। ऐसा कोई आरोप कभी नहीं लगा है, ऐसा कोई व्यक्ति नहीं है और ऐसी कोई समाचार कहानियां नहीं हैं। यह कोई हानिरहित ‘मतिभ्रम’ नहीं है। उन्होंने पिचाई को लिखा, “यह Google के स्वामित्व वाले AI मॉडल द्वारा निर्मित और वितरित मानहानि का कार्य है।”
यहां एक प्रमुख चेतावनी है. विचाराधीन चैटबॉट, जेम्मा, डेवलपर्स के लिए डिज़ाइन किया गया है, न कि बड़े पैमाने पर बाज़ार के प्रश्नों के लिए। चिकित्सा उपयोग, कोडिंग और बहुत कुछ के लिए जेम्मा वेरिएंट उपलब्ध हैं। Google का कहना है कि इसका उद्देश्य कभी भी उपभोक्ता उपकरण के रूप में या तथ्यात्मक प्रश्नों का उत्तर देने के लिए उपयोग नहीं किया गया था। यह “इस भ्रम को रोकने” के लिए अभी भी एआई स्टूडियो से मॉडल खींच रहा है। यह अभी भी एपीआई के माध्यम से डेवलपर्स के लिए उपलब्ध रहेगा।
ब्लैकबर्न ने एक कदम आगे बढ़ते हुए Google के AI प्लेटफॉर्म पर “रूढ़िवादी आंकड़ों के खिलाफ पूर्वाग्रह के लगातार पैटर्न” में शामिल होने का आरोप लगाया। मैं प्रतिदिन अनेक मतिभ्रमों का सामना करता हूँ। चैटबॉट्स ने मेरे जीवन के बारे में और मैं ऑनलाइन जो कुछ भी लिखता हूँ, उसके बारे में हर तरह की झूठ बोला है। एआई चैटबॉट बातें बनाने के लिए प्रसिद्ध हैं, चाहे रूढ़िवादी हों या नहीं। हर चीज़ राजनीतिक जादू-टोना नहीं है। कभी-कभी तकनीक वही करती है जो तकनीक करती है।
