आर्टिफिशियल इंटेलिजेंस से बने डीपफेक और सिंथेटिक कंटेंट के बढ़ते खतरे पर केंद्र सरकार ने सख्त रुख अपनाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने मंगलवार (10 फरवरी)को सोशल मीडिया प्लेटफॉर्म्स के लिए संशोधित दिशानिर्देश जारी करते हुए अनुपालन नियमों को और कड़ा कर दिया है। ये नियम फेसबुक, इंस्टाग्राम, यूट्यूब जैसे बड़े सोशल मीडिया इंटरमीडियरीज़ पर सीधे तौर पर लागू होंगे।
नए ढांचे के तहत सोशल मीडिया कंपनियों को सभी ऐ-निर्मित या AI-संशोधित कंटेंट पर स्पष्ट लेबल लगाना अनिवार्य किया गया है। इसके साथ ही ऐसे कंटेंट में पहचान चिन्ह (embedded identifiers) भी होने चाहिए, ताकि उसकी उत्पत्ति और छेड़छाड़ की जानकारी बनी रहे। सबसे अहम प्रावधान यह है कि यदि किसी ऐनी-निर्मित या डीपफेक कंटेंट को सरकार द्वारा फ्लैग किया जाता है या अदालत का आदेश आता है, तो प्लेटफॉर्म्स को उसे अधिकतम तीन घंटे के भीतर हटाना होगा।
सरकार ने एक बड़ी तकनीकी खामी को भी बंद कर दिया है। अब कोई भी डिजिटल प्लेटफॉर्म AI लेबल या उससे जुड़े मेटाडेटा को हटाने, बदलने या दबाने की अनुमति नहीं दे सकेगा। इसका उद्देश्य सिंथेटिक कंटेंट की ट्रेल को सुरक्षित रखना है, ताकि यूज़र और जांच एजेंसियां यह पहचान सकें कि कोई वीडियो, तस्वीर या ऑडियो असली है या छेड़छाड़ किया गया है।
नियमों को लागू करने के लिए इंटरमीडियरीज़ को यह तकनीकी उपाय अपनाने होंगे। इसमें ऑटोमेटेड टूल्स की तैनाती शामिल है, जो अवैध, यौन शोषण से जुड़े या भ्रामक AI-जनित कंटेंट की पहचान कर सकें और उसके प्रसार को रोक सकें। आदेश में स्पष्ट रूप से भारतीय कानूनों का हवाला दिया गया है, जिनमें भारतीय न्याय संहिता, 2023, यौन अपराधों से बच्चों का संरक्षण अधिनियम (POCSO), 2012 और विस्फोटक पदार्थ अधिनियम, 1908 जैसे कानून शामिल हैं।
MeitY ने प्लेटफॉर्म्स पर संचार की जिम्मेदारी भी डाली है। दिशानिर्देशों के अनुसार, एक इंटरमीडियरी अपने यूज़र्स को कम से कम हर तीन महीने में एक बार, सरल और प्रभावी तरीके से AI के दुरुपयोग से जुड़े नियमों के उल्लंघन के परिणामों की जानकारी देगा। यह जानकारी प्लेटफॉर्म नियमों, प्राइवेसी पॉलिसी, यूज़र एग्रीमेंट या अन्य उपयुक्त माध्यमों से दी जा सकती है।
यदि किसी प्लेटफॉर्म को AI निर्मित जानकारी के निर्माण, संशोधन, होस्टिंग, प्रकाशन या साझा करने से जुड़े किसी भी उल्लंघन की जानकारी मिलती है, तो उसे कार्रवाई करना अनिवार्य होगा। सरकार का जोर तेज और सक्रिय कार्रवाई पर है, क्योंकि डीपफेक और फर्जी कंटेंट बेहद तेजी से वायरल होते हैं।
ड्राफ्ट नियमों में यूज़र्स की जिम्मेदारी भी तय की गई है। अब यूज़र को यह खुलासा करना होगा कि उनके द्वारा पोस्ट किया गया कंटेंट AI से बना या बदला गया है। इसके बदले में प्लेटफॉर्म्स को ऐसी तकनीक अपनानी होगी जो इन घोषणाओं की पुष्टि कर सके और दुरुपयोग को रोके।
हालांकि कई सोशल मीडिया कंपनियां पहले से ही AI कंटेंट को लेबल करने के फीचर दे रही हैं, लेकिन नए दिशानिर्देश इन स्वैच्छिक उपायों को बाध्यकारी बना देते हैं।
यह भी पढ़ें:
साइबर अपराध पर सख्त तंत्र जरूरी, एजेंसियां मिलकर काम कर रहीं: शाह!
भारत में बेरोजगारी दर अक्टूबर-दिसंबर तिमाही में घटी!
भारत और ब्रिटेन ने सामाजिक सुरक्षा योगदान समझौते पर लगाई मुहर!