बच्चों के यौन शोषण से जुड़े कंटेंट यानी CSAM को लेकर केंद्र सरकार ने Meta को सख्त संदेश दिया है। सरकारी सूत्रों के मुताबिक, ऐसे गैर-कानूनी कंटेंट से जुड़े उल्लंघनों में शामिल लोगों या संस्थाओं को ‘सेफ हार्बर’ के तहत मिलने वाली कानूनी सुरक्षा का लाभ नहीं दिया जाएगा। सरकार ने Meta से अपने कंटेंट मॉडरेशन सिस्टम को केवल वैश्विक मानकों तक सीमित न रखने और भारत की भाषाई, सांस्कृतिक व सामाजिक परिस्थितियों के अनुरूप अधिक संवेदनशील बनाने को भी कहा है।

सरकारी सूत्रों के अनुसार, Meta के अधिकारियों के साथ हुई बातचीत में कंपनी ने CSAM से जुड़े कंटेंट को लेकर अपनी निगरानी और कार्रवाई को अधिक सख्त करने के संकेत दिए हैं। कंपनी गैर-कानूनी सामग्री की पहचान कर उसे हटाने की दिशा में काम कर रही है। वहीं सरकार ने स्पष्ट किया है कि उसका उद्देश्य सोशल मीडिया प्लेटफॉर्म पर सामान्य कंटेंट को सेंसर करना नहीं, बल्कि यह सुनिश्चित करना है कि गैर-कानूनी सामग्री के कारण यूजर्स की सुरक्षा और सामाजिक व्यवस्था प्रभावित न हो।

केंद्र ने यह भी स्पष्ट किया है कि उसकी कार्रवाई मौजूदा कानूनी और वैधानिक प्रावधानों के तहत ही की जा रही है। सरकार का कहना है कि अलग-अलग देशों के सामाजिक और सांस्कृतिक संदर्भ अलग होते हैं, इसलिए डिजिटल प्लेटफॉर्म के कंटेंट मॉडरेशन में स्थानीय परिस्थितियों को ध्यान में रखना जरूरी है। भारत में अभिव्यक्ति की स्वतंत्रता के साथ संविधान और कानून के तहत उचित प्रतिबंध भी लागू हैं।

यह मामला ऐसे समय में सामने आया है जब भारत में सोशल मीडिया प्लेटफॉर्म पर गैर-कानूनी कंटेंट, यूजर्स की सुरक्षा और कंपनियों की जवाबदेही को लेकर निगरानी बढ़ाई जा रही है। दुनिया के कई अन्य लोकतांत्रिक देशों में भी डिजिटल प्लेटफॉर्म के नियमन और उनकी जवाबदेही को लेकर इसी तरह की चिंताएं उठती रही हैं।

जुलाई में केंद्र सरकार ने Instagram पर ऐसे विज्ञापनों को लेकर Meta को नोटिस जारी किया था, जिनसे कथित तौर पर CSAM को बढ़ावा मिलने या उस तक पहुंच आसान होने की बात सामने आई थी। सरकार ने Meta से संबंधित कंटेंट को हटाने और इस मामले में विस्तृत जानकारी उपलब्ध कराने को कहा था। इसके बाद केंद्र ने संकेत दिया था कि आगे की कार्रवाई तय करने से पहले कंपनी के जवाब की समीक्षा की जाएगी।

CSAM के मामले में केंद्र का मौजूदा रुख अक्टूबर 2023 में उठाए गए कदमों की भी याद दिलाता है। उस समय इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X, YouTube और Telegram को CSAM से जुड़े कंटेंट के खिलाफ कार्रवाई के लिए नोटिस जारी किए थे। साथ ही चेतावनी दी गई थी कि यदि मध्यस्थ कंपनियां कानून के मुताबिक तत्काल कार्रवाई नहीं करती हैं, तो IT Act की धारा 79 के तहत मिलने वाली ‘सेफ हार्बर’ सुरक्षा प्रभावित हो सकती है।

वहीं AI से तैयार किए गए सिंथेटिक कंटेंट को लेकर भी सरकार ने अपनी स्थिति स्पष्ट की है। सरकारी सूत्रों के मुताबिक, ऐसे कंटेंट पर स्पष्ट लेबल होना चाहिए, ताकि यूजर्स आसानी से समझ सकें कि उनके सामने मौजूद सामग्री वास्तविक है या कृत्रिम रूप से तैयार की गई है।

केंद्र ने संकेत दिया है कि वह गैर-कानूनी कंटेंट, प्लेटफॉर्म की जवाबदेही, यूजर सुरक्षा और AI जैसी नई तकनीकों से पैदा हो रही चुनौतियों पर लगातार नजर रखेगा। आने वाले समय में सोशल मीडिया कंपनियों के लिए भारतीय कानूनों और स्थानीय परिस्थितियों के अनुरूप कंटेंट मॉडरेशन और यूजर सेफ्टी को लेकर जवाबदेही और सख्त होने के संकेत हैं।