सरकार डीपफेक की मेजबानी के लिए नए नियमों की योजना बना रही है: आईटी मंत्री

सरकार नए नियमों की योजना बना रही है जो डीपफेक होस्ट करने वाले निर्माता और प्लेटफॉर्म दोनों पर जुर्माना लगा सकती है क्योंकि यह आईटी और दूरसंचार मंत्री अश्विनी वैश्य द्वारा “लोकतंत्र के लिए खतरा” बताए गए मामले पर नकेल कसना चाहती है।

कुछ मशहूर हस्तियों द्वारा अपने चेहरों के साथ किसी दूसरे वीडियो में हेरफेर किए जाने की शिकायत के बीच, नए सुरक्षा नियमों पर विचार किया जा रहा है, जिसमें एआई-जनित सामग्री को वॉटरमार्क करने, डीपफेक का पता लगाने, डेटा पूर्वाग्रह के लिए नियम, गोपनीयता और एकाग्रता के खिलाफ सुरक्षा जैसे उपायों पर गौर किया जाएगा।

वैष्णव ने सोशल मीडिया प्लेटफॉर्म, नैसकॉम और कृत्रिम बुद्धिमत्ता (एआई) के क्षेत्र के अन्य प्रोफेसरों सहित विभिन्न हितधारकों के साथ बैठक के बाद कहा, “डीपफेक लोकतंत्र के लिए एक नए खतरे के रूप में उभरे हैं। ये समाज और इसके संस्थानों में विश्वास को कमजोर कर सकते हैं।” .

उन्होंने कहा, “हम आज ही नियमों का मसौदा तैयार करना शुरू कर देंगे और बहुत ही कम समय सीमा के भीतर हमारे पास डीपफेक के लिए एक अलग विनियमन होगा।”

उन्होंने कहा कि सरकार 10 दिनों के भीतर चार स्तंभों पर कार्रवाई योग्य चीजें लेकर आएगी – डीपफेक का पता लगाना, ऐसी सामग्री के प्रसार को रोकना, रिपोर्टिंग तंत्र को मजबूत करना और मुद्दे पर जागरूकता फैलाना।

उन्होंने कहा, बैठक में मौजूद सभी हितधारकों ने डीपफेक के संबंध में समान चिंताएं साझा कीं। “सभी सोशल मीडिया प्लेटफॉर्म डीपफेक का पता लगाने के लिए व्यापक तकनीक रखने पर सहमत हुए।” भारत में 80 करोड़ से अधिक इंटरनेट उपयोगकर्ता हैं, जिनके दो वर्षों में 120 करोड़ से अधिक होने का अनुमान है। डीपफेक तकनीक का एक टुकड़ा है जो एआई का उपयोग करके किसी व्यक्ति की उपस्थिति, आवाज या कार्यों को इस तरह से बदल देता है जो प्रामाणिक, अपरिवर्तित सामग्री से यथार्थवादी और चुनौतीपूर्ण हो सकता है। हाल के डीपफेक ने नए डिजिटल इंडिया कानून में एआई के लिए एक नियामक ढांचे की तात्कालिकता को सामने ला दिया है।

वैष्णव ने कहा कि डीपफेक विज्ञापन या भ्रामक प्रचार एक खतरा है जिसका भारतीय समाज वर्तमान में सामना कर रहा है।

उन्होंने यहां संवाददाताओं से कहा, “सोशल मीडिया का उपयोग यह सुनिश्चित करता है कि डीपफेक बिना किसी रोक-टोक के अधिक महत्वपूर्ण तरीके से तेजी से फैल सकता है और वायरल हो सकता है। यही कारण है कि हमें समाज और हमारे लोकतंत्र में विश्वास को मजबूत करने के लिए तत्काल कदम उठाने की जरूरत है।”

इस महीने की शुरुआत में एक शर्मनाक वीडियो में अभिनेता रश्मिका मंदाना के चेहरे का इस्तेमाल पाए जाने के बाद डीपफेक प्रमुखता से सामने आया। कैटरीना कैफ और काजोल समेत कुछ अन्य सेलिब्रिटीज के भी डीपफेक का शिकार होने की खबर आई थी।

पिछले हफ्ते, प्रधान मंत्री नरेंद्र मोदी ने भी डीपफेक के खतरे के बारे में चेतावनी दी थी।

शनिवार को, वैष्णव ने चेतावनी दी कि यदि सोशल मीडिया प्लेटफॉर्म डीपफेक के खिलाफ कदम उठाने में विफल रहते हैं, तो वे सूचना और प्रौद्योगिकी अधिनियम में ‘सुरक्षित बंदरगाह’ खंड के तहत प्राप्त प्रतिरक्षा खो देंगे। क्लॉज में कहा गया है कि किसी ऑनलाइन प्लेटफॉर्म को उपयोगकर्ताओं द्वारा उस पर साझा की गई सामग्री के लिए जिम्मेदार नहीं ठहराया जा सकता है।

गुरुवार को हितधारकों के साथ बैठक के बाद, उन्होंने कहा कि डीपफेक वीडियो निर्माताओं ने लेबलिंग और वॉटरमार्क को भी क्रैक करने के तरीके ढूंढ लिए हैं। “इस प्रकार, कुछ ऐसा होना चाहिए जो इससे बाहर निकलने का रास्ता खोज सके।” इस विषय पर अगली बैठक दिसंबर के पहले सप्ताह में होगी.

अगले 10 दिनों के भीतर, सरकार चार स्तंभों पर स्पष्ट कार्रवाई योग्य आइटम लेकर आएगी – पता लगाना (डीपफेक, गलत सूचना का), गलत सूचना के प्रसार को कैसे रोका जाए, रिपोर्टिंग तंत्र को कैसे मजबूत किया जाए, (इन-ऐप रिपोर्टिंग तंत्र को मजबूत किया जाना है) ) और जागरूकता बढ़ाना, मंत्री ने कहा।

उन्होंने कहा, “सभी कंपनियों ने हमारी चिंता साझा की है। वे समझ गए हैं कि यह बोलने की आजादी नहीं है, यह बहुत हानिकारक है… उन्होंने बहुत सख्त विनियमन की आवश्यकता को समझा है।” “सोशल मीडिया का उपयोग यह सुनिश्चित कर रहा है कि डीपफेक बिना किसी जांच के काफी तेजी से फैल सकता है और वे अपलोड होने के कुछ ही मिनटों में वायरल हो रहे हैं।

मंत्री ने कहा कि समाज में विश्वास को मजबूत करने और हमारे लोकतंत्र की रक्षा के लिए बहुत जरूरी कदम उठाए जाने की जरूरत है। उन्होंने कहा, ”इस पर जल्द से जल्द कदम उठाने की जरूरत है, चाहे वह कानूनी, नियामक या तकनीकी कार्रवाई हो, हमें हर तरह के कदम उठाने की जरूरत है।

यह पूछे जाने पर कि क्या मौजूदा नियम में बदलाव होगा या नया कानून लाया जा सकता है, उन्होंने कहा, ”हम इसे मौजूदा नियमों में संशोधन के रूप में ला सकते हैं या हम नियमों का एक नया सेट ला सकते हैं।

उन्होंने कहा, “हमने वॉटरमार्किंग और लेबलिंग पर भी चर्चा की। सभी सहमत थे कि हमें यह करना होगा, यह बुनियादी न्यूनतम है जो सभी को करना होगा।” “जब हम विनियमन का मसौदा तैयार करेंगे तो हम उस व्यक्ति के दंड पर भी गौर करेंगे जिसने प्लेटफॉर्म को अपलोड किया है या बनाया है। हम कह रहे हैं कि सरकार पहचान, रोकथाम, रिपोर्टिंग तंत्र को मजबूत करने और जागरूकता पैदा करने के लिए विनियमन लाएगी। और डीपफेक और एआई-जनित सामग्री के लिए प्रौद्योगिकियों का उपयोग करना जो समाज के लिए हानिकारक हो सकता है।

विनियमन बनने तक, सोशल मीडिया प्लेटफॉर्म और कंपनियों ने डीपफेक के प्रसार को रोकने के लिए हर संभव उपाय करने का वादा किया। उन्होंने कहा, “उन सभी ने कहा कि वे आंतरिक रूप से कदम उठा रहे हैं और वे उन कदमों की तीव्रता बढ़ाना चाहेंगे।”

यह कहते हुए कि अभिव्यक्ति की स्वतंत्रता और गोपनीयता दोनों सरकार के लिए महत्वपूर्ण हैं, उन्होंने कहा कि इन दोनों संरचनाओं को डीपफेक के साथ कमजोर किया जा रहा है। “तो नया विनियमन डीप फेक के लिए है और एआई-जनित सामग्री समाज के लिए हानिकारक नहीं है।” मंत्री ने डीपफेक का उदाहरण देते हुए कहा कि मध्य प्रदेश में चुनाव प्रचार के दौरान एक वीडियो सामने आया था जिसमें मुख्यमंत्री विपरीत पार्टी को वोट देने की बात कह रहे थे।

“वह पूरी तरह से गलत सूचना, गहरी फर्जी और गहरी गलत सूचना थी। हमें इस पर ध्यान देना होगा, इसके अलावा हमें यह सुनिश्चित करना होगा कि जो लोग इसे बनाते हैं, उनकी पहचान की जाए और उनके पास दंड का अपना सेट हो, साथ ही प्लेटफ़ॉर्म जो उपकरण हैं जिनके माध्यम से यह सामग्री बनाई जाती है प्रसार करते हुए उन्हें इस बात की भी ज़िम्मेदारी लेनी होगी कि वे अपने प्लेटफ़ॉर्म पर क्या करने की अनुमति दे रहे हैं।

उन्होंने कहा, “डीपफेक का पता लगाना बहुत महत्वपूर्ण है। सिंथेटिक और डीपफेक सामग्री के बीच पहचान करना बहुत महत्वपूर्ण है।”


क्या iQoo Neo 7 Pro सबसे अच्छा स्मार्टफोन है जिसे आप रुपये से कम में खरीद सकते हैं। भारत में 40,000? हम कंपनी के हाल ही में लॉन्च किए गए हैंडसेट और ऑर्बिटल, गैजेट्स 360 पॉडकास्ट के नवीनतम एपिसोड में क्या पेशकश करते हैं, इस पर चर्चा करते हैं। ऑर्बिटल पर उपलब्ध है Spotify, गाना, जियोसावन, गूगल पॉडकास्ट, एप्पल पॉडकास्ट, अमेज़ॅन संगीत और जहां भी आपको अपना पॉडकास्ट मिलता है।
संबद्ध लिंक स्वचालित रूप से उत्पन्न हो सकते हैं – विवरण के लिए हमारा नैतिकता कथन देखें।

Leave a Comment