नई दिल्ली: भारत ने कृत्रिम बुद्धिमत्ता (एआई) को विनियमित करने और इंटरनेट पर इसके दुरुपयोग को रोकने के लिए पहला कदम उठाया है।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) द्वारा बुधवार को प्रस्तावित नए नियमों में सोशल मीडिया प्लेटफार्मों को यह अनिवार्य करना होगा कि उनके उपयोगकर्ता किसी भी एआई-जनरेटेड या एआई-परिवर्तित सामग्री की घोषणा करें। जबकि सामग्री को लेबल करने की बाध्यता सोशल मीडिया मध्यस्थों पर होगी, कंपनियां कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खातों को चिह्नित कर सकती हैं।
एआई सामग्री को स्पष्ट रूप से लेबल करने के लिए, कंपनियों को सामग्री की अवधि या आकार के 10% से अधिक पर एआई वॉटरमार्क और लेबल को स्पष्ट रूप से पोस्ट करने की आवश्यकता होगी। यदि उल्लंघनों को सक्रिय रूप से चिह्नित नहीं किया गया तो सोशल मीडिया कंपनियां अपनी सुरक्षित सुरक्षा खो सकती हैं।
उद्योग हितधारकों के पास सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में संशोधन के मसौदे पर प्रतिक्रिया देने के लिए 6 नवंबर तक का समय है।
यह मसौदा बढ़ती डीपफेक या मनगढ़ंत सामग्री के बारे में बढ़ती चिंताओं को दर्शाता है जो किसी व्यक्ति की शक्ल, आवाज, तौर-तरीके या किसी अन्य लक्षण से मिलती जुलती है। OpenAI के ChatGPT और Google के जेमिनी जैसे शक्तिशाली टूल ने ऐसी सामग्री तैयार करना आसान बना दिया है। जबकि बिग टेक सार्वजनिक हस्तियों का प्रतिरूपण करने के लिए अपने प्लेटफार्मों के उपयोग के खिलाफ सुरक्षा रेलिंग लागू करता है, Google के ‘नैनो बनाना’ छवि मॉडल – जिसे तकनीकी रूप से जेमिनी 2.5 फ्लैश नाम दिया गया है – ने लोगों की यथार्थवादी डुप्लिकेट छवियां बनाने की क्षमता के कारण चिंताएं बढ़ा दी हैं।
केंद्रीय आईटी मंत्री अश्विनी वैष्णव ने बुधवार को एक प्रेस वार्ता में कहा कि यह संशोधन उपयोगकर्ताओं, कंपनियों और सरकार के लिए “जवाबदेही के स्तर को बढ़ाता है”, क्योंकि इंटरनेट पर डीपफेक सामग्री की मात्रा बढ़ रही है। वैष्णव ने कहा, “सोशल मीडिया मध्यस्थों के साथ आदेशों का कार्यान्वयन अब केंद्र सरकार में संयुक्त सचिव और उससे ऊपर के पद पर अधिकारी और पुलिस निकायों द्वारा टेक-डाउन रिपोर्ट दर्ज किए जाने की स्थिति में डीआइजी और उससे ऊपर के पद पर अधिकारी करेंगे।”
एक शीर्ष सरकारी अधिकारी ने आगे कहा, “केंद्र ने पहले ही शीर्ष एआई कंपनियों के साथ परामर्श किया है, जिन्होंने संकेत दिया है कि एआई-परिवर्तित सामग्री की पहचान करने के लिए मेटाडेटा का उपयोग करना संभव है। हमने नियमों को तदनुसार अधिसूचित किया है, क्योंकि डीपफेक सामग्री बड़े पैमाने पर सामाजिक मुद्दे पैदा करती है।”
उन्होंने यह भी कहा कि डीपफेक की पहचान करने और रिपोर्ट करने का दायित्व कंपनियों पर होगा, न कि उपयोगकर्ताओं पर। अधिकारी ने कहा कि नए नियम एआई सामग्री को सोशल मीडिया कंपनियों के सामुदायिक दिशानिर्देशों का हिस्सा बनाने की कोशिश करेंगे।
22 सितंबर को, परामर्श फर्म गार्टनर ने खुलासा किया कि सर्वेक्षण में शामिल 302 शीर्ष उद्यम साइबर सुरक्षा अधिकारियों में से 62% ने कहा कि उनके संगठनों को कम से कम एक एआई डीपफेक हमले का सामना करना पड़ा, जिसने एक कार्यकारी की आवाज, उपस्थिति या अन्यथा क्लोन किया।
“आईटी नियमों में प्रस्तावित संशोधन एआई गवर्नेंस के लिए भारत के विकसित दृष्टिकोण में एक महत्वपूर्ण कदम है। कृत्रिम रूप से उत्पन्न जानकारी को औपचारिक रूप से परिभाषित करके और एआई-जनित सामग्री के लिए लेबलिंग मानदंडों को अनिवार्य करके, सरकार डिजिटल युग की सबसे जटिल चुनौतियों में से एक को संबोधित कर रही है – ऑनलाइन जानकारी में पारदर्शिता और विश्वास सुनिश्चित करना,” पॉलिसी थिंक-टैंक, इंडिया गवर्नेंस एंड पॉलिसी प्रोजेक्ट (आईगैप) के संस्थापक भागीदार ध्रुव गर्ग ने कहा।
गर्ग ने कहा, “जैसा कि डीपफेक पर वैश्विक कानूनी प्रतिक्रियाओं पर हमारे हालिया शोध में बताया गया है, ऐसे प्रावधानों के दुरुपयोग को रोकने के लिए नियामक सुरक्षा उपायों को सावधानीपूर्वक डिजाइन किया जाना चाहिए जो अनजाने में वैध अभिव्यक्ति या सिंथेटिक मीडिया के कलात्मक, व्यंग्यपूर्ण और रचनात्मक उपयोग को प्रतिबंधित कर सकते हैं।” “अभिव्यक्ति की स्वतंत्रता के साथ प्रामाणिकता और जवाबदेही को संतुलित करना इस ढांचे की सफलता की कुंजी होगी।”
एमईआईटीवाई का मसौदा गृह मामलों पर संसदीय स्थायी समिति द्वारा 20 अगस्त को ‘साइबर अपराध: प्रभाव, सुरक्षा और रोकथाम’ शीर्षक वाली अपनी 254वीं रिपोर्ट में कहा गया है कि केंद्र को एआई द्वारा उत्पन्न किसी भी सामग्री को संभालने के लिए मौजूदा कानूनी ढांचे को मजबूत करने की आवश्यकता हो सकती है।
“समिति की सिफारिश है कि सोशल मीडिया पर अपलोड की जा रही डीपफेक या अश्लील सामग्री के मुद्दों को संबोधित करने के लिए, Meity को एक नवीन तकनीकी ढांचा विकसित करने पर विचार करना चाहिए, जिसमें डिजिटल प्लेटफॉर्म पर साझा की गई सभी तस्वीरों, वीडियो और समान सामग्री पर वॉटरमार्क होना अनिवार्य हो, क्योंकि इससे सामग्री की उत्पत्ति को साबित करने में मदद मिलेगी और इसे संपादित करना या हेरफेर करना अधिक कठिन हो जाएगा। इसके अलावा, इस पहल को कार्यात्मक बनाने के लिए, Meity को मीडिया उद्गम के लिए समान तकनीकी मानक स्थापित करने चाहिए, जबकि Cert-In (भारतीय साइबर इमरजेंसी रिस्पांस टीम) निगरानी और डिटेक्शन अलर्ट जारी करने के लिए समन्वयक के रूप में कार्य करेगा, ”समिति की रिपोर्ट में देखा गया था।
एआई के दुरुपयोग के मामले बढ़ रहे हैं। 19 सितंबर को, दिल्ली उच्च न्यायालय ने फिल्म निर्माता करण जौहर के पक्ष में एक अंतरिम आदेश जारी किया, जिसमें तीसरे पक्ष को व्यावसायिक उद्देश्यों या किसी भी प्रकार के प्रतिरूपण के लिए एआई-जनरेटेड डीपफेक सामग्री का उपयोग करने से रोक दिया गया। 10 सितंबर को, अभिनेता ऐश्वर्या राय बच्चन ने भी एआई द्वारा प्रेरित पहचान के दुरुपयोग के खिलाफ अदालत से इसी तरह का निर्देश जीता।
केंद्रीय वित्त मंत्री निर्मला सीतारमण ने 7 अक्टूबर को मुंबई में ग्लोबल फिनटेक फेस्ट के एक सत्र में बोलते हुए डीपफेक वीडियो की बढ़ती मात्रा के बारे में भी चिंता व्यक्त की।
