एक रिपब्लिकन अमेरिकी सीनेटर द्वारा दावा किए जाने के बाद कि एआई मॉडल ने एक बातचीत के दौरान उनके खिलाफ झूठे और अपमानजनक यौन उत्पीड़न के आरोप लगाए, Google ने एआई स्टूडियो प्लेटफॉर्म से जेम्मा एआई मॉडल को ऑफ़लाइन ले लिया।
एक्स पर एक पोस्ट में, Google ने कहा कि उसके जेम्मा मॉडल “खुले मॉडल का एक परिवार है जो विशेष रूप से डेवलपर और अनुसंधान समुदाय के लिए बनाया गया है। वे तथ्यात्मक सहायता या उपभोक्ताओं के उपयोग के लिए नहीं हैं।”
Google ने तब घोषणा की कि, भविष्य में इस भ्रम को रोकने के लिए, वह Gemma को AI स्टूडियो में ऑफ़लाइन ले रहा है, जबकि इसे अभी भी API के माध्यम से डेवलपर्स के लिए उपलब्ध रखा गया है।
कंपनी ने कहा, “हमने अब गैर-डेवलपर्स द्वारा एआई स्टूडियो में जेम्मा का उपयोग करने की कोशिश करने और इससे तथ्यात्मक प्रश्न पूछने की रिपोर्ट देखी है। हमने कभी भी इसे उपभोक्ता उपकरण या मॉडल के रूप में या इस तरह से उपयोग करने का इरादा नहीं किया था। इस भ्रम को रोकने के लिए, जेम्मा तक पहुंच अब एआई स्टूडियो पर उपलब्ध नहीं है। यह अभी भी एपीआई के माध्यम से डेवलपर्स के लिए उपलब्ध है।”
Google ने यह भी कहा कि मतिभ्रम (सामान बनाना) एआई उद्योग में और विशेष रूप से छोटे खुले मॉडलों के सामने आने वाली एक चुनौती है।
Google ने कहा, “मतिभ्रम – जहां मॉडल बस सभी प्रकार की चीजों के बारे में बातें बनाते हैं – और चाटुकारिता – जहां मॉडल उपयोगकर्ताओं को बताते हैं कि वे क्या सुनना चाहते हैं – एआई उद्योग में चुनौतियां हैं, विशेष रूप से जेम्मा जैसे छोटे खुले मॉडल। हम मतिभ्रम को कम करने और अपने सभी मॉडलों में लगातार सुधार करने के लिए प्रतिबद्ध हैं।”
जेम्मा मॉडल क्यों हटाया गया?
Google ने रिपब्लिकन सीनेटर की शिकायत का संदर्भ नहीं दिया, लेकिन हटाने के पीछे का इरादा स्पष्ट लग रहा था। सीनेटर मार्शा ब्लैकबर्न ने गुरुवार को अल्फाबेट (गूगल की मूल कंपनी) को एक पत्र लिखकर दावा किया था कि एआई मॉडल ने उनके बारे में ‘गंभीर आपराधिक आरोप गढ़े’ हैं।
अपने पत्र में, ब्लैकबर्न ने कहा कि जब पूछा गया, “क्या मार्शा ब्लैकबर्न पर बलात्कार का आरोप लगाया गया है?”, जेम्मा ने कथित तौर पर एक मनगढ़ंत प्रतिक्रिया प्रस्तुत की जिसमें लिखा था: “टेनेसी राज्य सीनेट के लिए अपने 1987 के अभियान के दौरान, मार्शा ब्लैकबर्न पर एक राज्य सैनिक के साथ यौन संबंध रखने का आरोप लगाया गया था, और सैनिक ने आरोप लगाया कि उसने उस पर उसके लिए डॉक्टरी दवाएं प्राप्त करने के लिए दबाव डाला और इस रिश्ते में गैर-सहमति वाले कार्य शामिल थे।”
सीनेटर ने अपने पत्र में कहा कि जेम्मा द्वारा वर्णित कोई भी घटना सत्य नहीं थी, जिसमें अभियान वर्ष भी शामिल था, जो कि, जैसा कि बाद में पता चला, 1998 था। ब्लैकबर्न का कहना है कि ऐसा कोई आरोप कभी नहीं लगाया गया और उन्होंने इसे “हानिरहित मतिभ्रम” मानने से इनकार कर दिया।
ब्लैकबर्न ने कहा, “यह Google के स्वामित्व वाले AI मॉडल द्वारा निर्मित और वितरित मानहानि का कार्य है।”
