अद्यतन नियमों में कहा गया है कि सोशल मीडिया और ऑनलाइन प्लेटफ़ॉर्म आईटी अधिनियम द्वारा दी गई अपनी सुरक्षित आश्रय प्रतिरक्षा खो सकते हैं, जब तक कि वे डीपफेक के खिलाफ उपाय करके तुरंत प्रतिक्रिया नहीं देते।
Highlights
एआई-जनित डीपफेक और गलत सूचना का मुकाबला करने के लिए, भारत नए नियमों को लागू करने के लिए तैयार है, जो संभावित रूप से ऐसे हानिकारक सामग्री के प्रसार को सुविधाजनक बनाने वाले रचनाकारों और सोशल मीडिया प्लेटफार्मों दोनों पर वित्तीय जुर्माना लगाएगा।
सरकार और हितधारकों ने डीपफेक की पहचान, रोकथाम और रिपोर्टिंग के समाधान के लिए अगले 10 दिनों के भीतर कार्रवाई योग्य उपाय विकसित करने की योजना बनाई है। केंद्रीय सूचना प्रौद्योगिकी और दूरसंचार मंत्री अश्विनी वैष्णव ने नागरिकों को इंटरनेट पर एआई-जनित हानिकारक सामग्री का मुकाबला करने के साधन प्रदान करने के महत्व पर जोर दिया। उन्होंने डीपफेक को लोकतंत्र के लिए खतरा बताया, जिससे समाज और इसकी संस्थाओं में विश्वास कम हो रहा है। वैष्णव ने उल्लेख किया कि आगामी विनियमन में वित्तीय दंड शामिल हो सकता है, जो सामग्री निर्माताओं और ऐसी सामग्री को सुविधाजनक बनाने वाले प्लेटफार्मों दोनों पर लागू होगा।
मंत्री ने डीपफेक सामग्री को संबोधित करने के बारे में जानकारी जुटाने के लिए गुरुवार को मेटा, गूगल और अमेज़ॅन सहित प्रौद्योगिकी उद्योग के प्रतिनिधियों के साथ बातचीत की। सोशल मीडिया पर तेजी से फैल रही खामियों पर प्रकाश डालते हुए उन्होंने सामाजिक विश्वास को मजबूत करने और लोकतंत्र की सुरक्षा के लिए त्वरित कदम उठाने की आवश्यकता पर जोर दिया।
डीपफेक सामग्री को विनियमित करने और सोशल मीडिया प्लेटफार्मों से ऐसी सामग्री को सक्रिय रूप से स्कैन करने और ब्लॉक करने का आग्रह करने की सरकार की मंशा मिंट ने अपने गुरुवार के संस्करण में शुरू में बताई थी। वैष्णव ने सोशल मीडिया प्लेटफार्मों से बढ़ी हुई सक्रियता की आवश्यकता पर जोर दिया, इस बात पर जोर दिया कि डीपफेक सामग्री से होने वाला नुकसान तत्काल हो सकता है, जिससे थोड़ी देरी से प्रतिक्रिया अप्रभावी हो जाती है।
“सभी हितधारकों ने अगले 10 दिनों के भीतर स्पष्ट, कार्रवाई योग्य उपाय तैयार करने के लिए प्रतिबद्ध किया है, जिसमें चार महत्वपूर्ण स्तंभों पर ध्यान केंद्रित किया गया है: डीपफेक का पता लगाना, उनके प्रकाशन और वायरल साझाकरण को रोकना, ऐसी सामग्री के लिए रिपोर्टिंग तंत्र को बढ़ाना और सरकार के बीच सहयोगात्मक प्रयासों के माध्यम से जागरूकता को बढ़ावा देना। और उद्योग इकाइयाँ, “वैष्णव ने कहा।
डीपफेक, जिसे कृत्रिम बुद्धिमत्ता का उपयोग करके डिजिटल रूप से हेरफेर किया जाता है, व्यक्तियों का भ्रामक चित्रण या प्रतिरूपण प्रस्तुत करता है। आगामी विनियमन या तो भारत के आईटी नियमों में संशोधन के रूप में या पूरी तरह से नए कानून के रूप में पेश किया जा सकता है।
“हम एक स्टैंडअलोन कानून, मौजूदा नियमों में संशोधन, या मौजूदा कानूनों के भीतर नियमों के एक नए सेट के माध्यम से इस क्षेत्र के विनियमन पर विचार कर सकते हैं। अगली बैठक दिसंबर के पहले सप्ताह के लिए निर्धारित है, जिसके दौरान हम एक मसौदा विनियमन पर विचार-विमर्श करेंगे। डीपफेक के लिए, बाद में इसे सार्वजनिक परामर्श के लिए खोल दिया गया,” वैष्णव ने समझाया।
मंत्री ने इस बात पर जोर दिया कि सूचना प्रौद्योगिकी (आईटी) अधिनियम के तहत प्लेटफार्मों को दी गई ‘सुरक्षित बंदरगाह छूट’ तब तक लागू नहीं होगी जब तक कि वे तेजी से निर्णायक कार्रवाई नहीं करते। गुरुवार को हुई बैठक में एआई पूर्वाग्रह, भेदभाव और मौजूदा रिपोर्टिंग तंत्र में संभावित संशोधन जैसे मुद्दों पर भी चर्चा हुई।
डीपफेक कंटेंट की रिपोर्ट के बाद सरकार ने पिछले हफ्ते सोशल मीडिया प्लेटफॉर्म को नोटिस जारी किया था। प्रधानमंत्री नरेंद्र मोदी और अभिनेत्री कैटरीना कैफ सहित उल्लेखनीय सार्वजनिक हस्तियों के निशाने पर आने के बाद डीपफेक वीडियो पर चिंताएं बढ़ गईं। प्रधानमंत्री मोदी ने बुधवार को वर्चुअल शिखर सम्मेलन के दौरान जी20 के नेताओं को अपने संबोधन में भी डीपफेक मुद्दा उठाया।
उद्योग हितधारकों ने गुरुवार की बैठक के दौरान चर्चा के बारे में काफी हद तक सकारात्मक भावनाएं व्यक्त कीं।
पुनर्लेखन परामर्श का हिस्सा रहे Google के एक प्रवक्ता ने कहा कि कंपनी “प्रौद्योगिकी के दुरुपयोग को रोकने में मदद करने के लिए उपकरण और रेलिंग का निर्माण कर रही है, साथ ही लोगों को ऑनलाइन जानकारी का बेहतर मूल्यांकन करने में सक्षम बना रही है।”
“हमारे उत्पादों और प्लेटफार्मों पर हानिकारक सामग्री की पहचान करने और उसे हटाने के लिए हमारे पास लंबे समय से चली आ रही, मजबूत नीतियां, तकनीक और प्रणालियां हैं। कंपनी ने एक बयान में कहा, हम जेनेरेटिव एआई द्वारा संचालित नए उत्पाद लॉन्च करते समय इसी लोकाचार और दृष्टिकोण को लागू कर रहे हैं।
मेटा ने प्रश्नों का तुरंत उत्तर नहीं दिया।
सॉफ्टवेयर उद्योग निकाय नैसकॉम में सार्वजनिक नीति के उपाध्यक्ष आशीष अग्रवाल ने कहा कि हालांकि भारत में पहले से ही प्रतिरूपण के अपराधियों को दंडित करने के लिए कानून हैं, लेकिन डीपफेक बनाने वालों की पहचान करने के लिए नियमों को मजबूत करना महत्वपूर्ण होगा।
उन्होंने कहा, “अधिक महत्वपूर्ण चर्चा यह है कि डीपफेक बनाने वाले 1% दुर्भावनापूर्ण उपयोगकर्ताओं को कैसे पकड़ा जाए – यह एक पहचान और प्रवर्तन समस्या है जो हमारे सामने है।”
वर्तमान तकनीक सिंथेटिक सामग्री की पहचान करने में सक्षम है, फिर भी प्राथमिक चुनौती हानिरहित सामग्री की अनुमति देते हुए हानिकारक सिंथेटिक सामग्री को अलग करना और उसके त्वरित निष्कासन को सुनिश्चित करना है। एक व्यापक रूप से माना जाने वाला उपकरण सभी डिजिटल रूप से परिवर्तित या निर्मित सामग्री में वॉटरमार्क या लेबल का समावेश है, जो सिंथेटिक सामग्री और उससे जुड़े जोखिमों के बारे में उपयोगकर्ताओं को चेतावनी के रूप में कार्य करता है। इसके साथ ही, त्वरित कार्रवाई के लिए उपयोगकर्ता रिपोर्टिंग टूल को बेहतर बनाने के प्रयास भी चल रहे हैं।
इन घटनाक्रमों से परिचित एक वरिष्ठ उद्योग अधिकारी ने बताया कि ज्यादातर कंपनियां विनियमन समर्थक रुख अपना रही हैं। जबकि तकनीकी प्लेटफ़ॉर्म पहले से ही गलत सूचना और हेरफेर की गई सामग्री के खिलाफ प्रतिक्रियाशील नीतियों को लागू करते हैं, ये नीतियां उपयोगकर्ताओं के हाथों में दंड की जिम्मेदारी देते हुए, सामाजिक प्लेटफार्मों को प्रदान की जाने वाली सुरक्षित सुरक्षा पर निर्भर करती हैं। अधिकारी का अनुमान है कि आगामी नियम संभवतः इन चिंताओं को दूर करने में संतुलन की तलाश करेंगे।
अधिकारी के अनुसार, इस क्षेत्र में अनुपालन बड़ी कंपनियों के लिए अधिक सरल साबित हो सकता है। इस अवलोकन ने उद्योग हितधारकों को डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम के तहत नियमों के कार्यान्वयन के समान दंड, प्रतिबंध और अनुपालन समयसीमा के लिए संभावित स्तरित दृष्टिकोण पर विचार करने के लिए प्रेरित किया है।
अधिकारी ने इस बात पर प्रकाश डाला कि बड़े बजट और मुख्य रूप से अंग्रेजी में सामग्री वाली वैश्विक कंपनियों को अनुपालन अधिक प्रबंधनीय लग सकता है। हालाँकि, वास्तविक चुनौती यह आकलन करने में है कि गैर-अंग्रेजी सामग्री की एक महत्वपूर्ण मात्रा वाले प्लेटफ़ॉर्म डीपफेक और गलत सूचनाओं को फ़िल्टर करने की जटिलताओं को प्रभावी ढंग से कैसे संबोधित कर सकते हैं, खासकर चुनावी जानकारी को संभालने के संदर्भ में।
पॉलिसी थिंक टैंक, द क्वांटम हब के संस्थापक भागीदार रोहित कुमार ने इस बात पर जोर दिया कि डीपफेक सामग्री को नियंत्रित करने वाले नियमों को संबंधित अनुपालन लागतों पर विचार करना चाहिए। उन्होंने सुझाव दिया कि उच्च शिकायत मात्रा के मामलों में, निष्कासन अनुरोधों की तुरंत समीक्षा करने का खर्च काफी हो सकता है। इसलिए, दायित्वों को रेखांकित करते समय, प्लेटफार्मों पर अनुपालन बोझ को कम करने के लिए एक श्रेणीबद्ध दृष्टिकोण फायदेमंद हो सकता है। कुमार ने ‘पौरुषता’ की सीमा को परिभाषित करने और तेजी से लोकप्रियता हासिल करने वाली सामग्री की समीक्षा और निष्कासन को प्राथमिकता देने के लिए प्लेटफार्मों की आवश्यकता का प्रस्ताव रखा।
उन्होंने इस बात पर जोर दिया कि सुरक्षित बंदरगाह सुरक्षा को पूरी तरह से कमजोर नहीं किया जाना चाहिए, लेकिन डीपफेक से होने वाले नुकसान की जिम्मेदारी प्लेटफॉर्म के बजाय वीडियो बनाने और पोस्ट करने वाले व्यक्ति की होनी चाहिए।
