मेटा ने आयरिश राष्ट्रपति पद की उम्मीदवार कैथरीन कोनोली का एक डीपफेक एआई वीडियो हटा दिया है, जिसमें राजनेता का गलत चित्रण करते हुए कहा गया था कि वह चुनाव से हट रही हैं। के अनुसार आयरिश टाइम्सएआई-जनरेटेड वीडियो को वेबसाइट से हटाए जाने से पहले 24 अक्टूबर को आयरलैंड के चुनाव से कुछ दिन पहले फेसबुक पर लगभग 30,000 बार साझा किया गया था। कोनोली ने वीडियो को “मतदाताओं को गुमराह करने और कमजोर करने का एक घृणित प्रयास” कहा [Ireland’s] लोकतंत्र” और मतदाताओं को आश्वासन दिया कि वह “बिल्कुल अभी भी आयरलैंड के राष्ट्रपति पद के लिए उम्मीदवार हैं।”
वीडियो को एक ऐसे अकाउंट द्वारा पोस्ट किया गया था जिसका नाम RTÉ News AI था, जो वास्तविक आयरिश सार्वजनिक सेवा प्रसारक रैडियो टेइलिफ़िस ईरेन से संबद्ध नहीं है। इसने न केवल कोनोली की, बल्कि वैध आरटीई पत्रकार शेरोन नी भियोलेन और संवाददाता पॉल कनिंघम की भी नकल की। कोनोली के एआई संस्करण ने फर्जी वीडियो में कहा, “बड़े अफसोस के साथ मैं अपनी उम्मीदवारी वापस लेने और अपना अभियान समाप्त करने की घोषणा करता हूं।” नी भियोलेन को घोषणा के बारे में रिपोर्टिंग करते हुए और उम्मीदवार के दौड़ से हटने की पुष्टि करते हुए दिखाया गया था। कनिंघम के एआई संस्करण ने तब घोषणा की कि चुनाव रद्द कर दिया गया है और अब नहीं होगा, कोनोली के प्रतिद्वंद्वी हीथर हम्फ्रीस स्वचालित रूप से जीत गए। कोनोली, एक स्वतंत्र उम्मीदवार हैं अग्रणी 44 अंकों के साथ नवीनतम सर्वेक्षण।
संपर्क करने के बाद मेटा ने RTÉ News AI अकाउंट को पूरी तरह से हटा दिया आयरिश स्वतंत्र. कंपनी ने बताया आयरिश टाइम्स इसने अपने सामुदायिक मानकों का उल्लंघन करने के लिए वीडियो और खाते को हटा दिया, विशेष रूप से इसकी नीति उस सामग्री को प्रतिबंधित करती है जो लोगों का प्रतिरूपण करती है या गलत प्रतिनिधित्व करती है। आयरिश मीडिया नियामक कोइमिसियुन ना मीन ने कहा कि उसे वीडियो के बारे में पता है और उसने मेटा से घटना के जवाब में उठाए गए तत्काल उपायों के बारे में पूछा है। मेटा वर्षों से मशहूर हस्तियों और राजनेताओं के डीपफेक और दुर्भावनापूर्ण रूप से संपादित वीडियो को नियंत्रण में रखने के लिए संघर्ष कर रहा है। कंपनी के ओवरसाइट बोर्ड ने इस साल की शुरुआत में उसे चेतावनी दी थी कि वह अपने नियमों को लागू करने के लिए पर्याप्त प्रयास नहीं कर रही है और उसने एआई-हेरफेर की गई सामग्री के “संकेतक” पर सामग्री समीक्षकों को प्रशिक्षित करने का आग्रह किया।
