हाल ही में, विभिन्न सोशल मीडिया प्लेटफार्मों पर कई प्रमुख हस्तियों वाले Deepfake Videos के प्रसार में वृद्धि हुई है। यहां तक कि प्रधान मंत्री नरेंद्र मोदी ने भी इस घटना के बारे में जागरूकता बढ़ाई, उन्होंने गरबा में शामिल होने के अपने एक Deepfake Videos का हवाला दिया, जो उनके सामने आया था।
कृत्रिम बुद्धिमत्ता और मशीन लर्निंग एल्गोरिदम का उपयोग करते हुए, Deepfake व्यक्तियों, घटनाओं या स्थितियों के यथार्थवादी लेकिन कपटपूर्ण चित्रण का उत्पादन करने के लिए छवियों, ध्वनियों और आवाज़ों में हेरफेर करते हैं। जबकि कुछ Deepfake हानिरहित या मनोरंजक हो सकते हैं, अन्य महत्वपूर्ण प्रतिकूल प्रभाव डालते हैं।
साइबर सुरक्षा फर्म वोयाजर इन्फोसेक के निदेशक जितेन जैन इस बात पर जोर देते हैं कि सभी Deepfake को दुष्प्रचार के रूप में लेबल नहीं किया जा सकता है यदि वे इसमें शामिल व्यक्तियों की सहमति से बनाए गए हैं। वह इन videos की प्रामाणिकता को सत्यापित करने में चुनौतियों को रेखांकित करते हैं, खासकर समाचार प्रसारित करने जैसे संवेदनशील संदर्भों में। जैन इस प्रौद्योगिकी के उपयोग को नियंत्रित करने वाले नियमों की अपर्याप्तता को एक प्रमुख कारक मानते हैं। वह Deepfake का उपयोग कौन कर सकता है, किस उद्देश्य के लिए कर सकता है, क्या लाइसेंस आवश्यक है, videos निर्माता और विषय की जिम्मेदारियां, और ऐसी सामग्री को चिह्नित करने या हटाने में मंच के दायित्वों पर स्पष्ट नियम स्थापित करने के लिए आईटी कानूनों में व्यापक बदलाव की वकालत करते हैं।
बढ़ती चिंताओं के जवाब में, आईटी मंत्री अश्विनी वैष्णव ने सोशल मीडिया प्लेटफार्मों के साथ चर्चा में शामिल होने की सरकार की मंशा व्यक्त की है। उन्होंने कहा, “हम यह सुनिश्चित करेंगे कि प्लेटफॉर्म इसे (Deepfake) रोकने और अपने सिस्टम को साफ करने के लिए पर्याप्त प्रयास करें।”
सॉफ्टवेयर कंपनी कॉन्सिरस के सीटीओ विनोद सिंह Deepfake से उत्पन्न गंभीर खतरे को स्वीकार करते हैं लेकिन एक चेतावनी नोट जारी करते हैं। उनकी रचनात्मक क्षमता को पहचानते हुए, वह सूचना अखंडता और विश्वास के जोखिमों पर प्रकाश डालते हैं। सिंह ने प्रौद्योगिकी की क्षमता का दोहन करने और संबंधित जोखिमों को कम करने के बीच संतुलन बनाने के महत्व पर जोर दिया, इस बात पर जोर दिया कि तकनीकी कंपनियां दुरुपयोग को रोकने की जिम्मेदारी निभाती हैं। उन्होंने त्वरित कार्रवाई का आग्रह करते हुए कहा, “यह हमें तय करना है कि हम इसका उपयोग कैसे करना चाहते हैं और हम इसे कैसे विनियमित करना चाहते हैं। हमें तेजी से कार्य करने की आवश्यकता है, इससे पहले कि बहुत देर हो जाए।”
