बच्चों की ऑनलाइन सुरक्षा: मेटा पर सरकार की सख्त कार्रवाई क्यों?

बच्चों की ऑनलाइन सुरक्षा पर सरकार का बड़ा कदम, Meta को 7 दिन का अल्टीमेटम क्यों मिला?

सोशल मीडिया आज करोड़ों लोगों की जिंदगी का हिस्सा बन चुका है। फेसबुक पर परिवार जुड़े हैं, इंस्टाग्राम पर युवा अपनी रचनात्मकता दिखाते हैं और व्हाट्सएप रोजमर्रा के संचार का सबसे बड़ा माध्यम बन गया है। लेकिन इन प्लेटफॉर्म्स के बढ़ते उपयोग के साथ एक गंभीर समस्या भी सामने आई है  बच्चों से जुड़े यौन शोषण (Child Sexual Exploitation) और उसके डिजिटल प्रसार की।

इसी खतरे को देखते हुए भारत सरकार के इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने Meta Platforms Inc. (Facebook, Instagram और WhatsApp की मूल कंपनी) को निर्देश दिया है कि उसके प्लेटफॉर्म पर उपलब्ध Child Sexual Exploitative and Abusive Material (CSEAM), उससे जुड़े विज्ञापनों और ऐसे नेटवर्क को तत्काल हटाया जाए। उपलब्ध जानकारी के अनुसार सरकार ने इस दिशा में त्वरित कार्रवाई करते हुए सीमित समय-सीमा में अनुपालन सुनिश्चित करने को कहा है। उपयोगकर्ता द्वारा उपलब्ध कराई गई सामग्री में भी इसी कार्रवाई, Meta की जिम्मेदारी और CSEAM को हटाने के निर्देश का उल्लेख किया गया है।

यह केवल Meta के खिलाफ कार्रवाई नहीं है, बल्कि भारत में डिजिटल प्लेटफॉर्म्स की जवाबदेही तय करने की दिशा में एक महत्वपूर्ण कदम माना जा रहा है।

आखिर CSEAM क्या है और इसका नाम क्यों बदला गया?

कुछ वर्ष पहले तक इस तरह की सामग्री के लिए सामान्य रूप से “Child Pornography” शब्द का प्रयोग किया जाता था। लेकिन अब अधिकांश अंतरराष्ट्रीय संस्थाएँ, संयुक्त राष्ट्र से जुड़े कई निकाय, बाल अधिकार संगठनों और कानून प्रवर्तन एजेंसियों ने इस शब्द के स्थान पर Child Sexual Exploitative and Abusive Material (CSEAM) या कई देशों में Child Sexual Abuse Material (CSAM) शब्द का प्रयोग शुरू किया है।

इस बदलाव का कारण केवल भाषा नहीं बल्कि सोच में परिवर्तन है।

“Pornography” शब्द कई बार सहमति (Consent) का आभास देता है, जबकि बच्चों से जुड़ा ऐसा कोई भी दृश्य, वीडियो, चित्र या डिजिटल सामग्री हमेशा अपराध, शोषण और हिंसा का परिणाम होती है। इसलिए विशेषज्ञों का मानना है कि CSEAM शब्द इस अपराध की वास्तविक गंभीरता को बेहतर तरीके से व्यक्त करता है।

इसमें शामिल हो सकते हैं

• किसी 18 वर्ष से कम आयु के बच्चे का यौन शोषण दर्शाने वाले फोटो।
• वीडियो।
• एनिमेशन या मॉर्फ्ड (Morphed) चित्र।
• AI द्वारा तैयार की गई नकली अश्लील सामग्री।
• ऑडियो, चैट या अन्य डिजिटल माध्यम जिनका उद्देश्य बच्चों का यौन शोषण या उसका प्रचार हो।
• ऐसे लिंक, विज्ञापन या पोस्ट जो उपयोगकर्ताओं को इस प्रकार की सामग्री उपलब्ध कराने वाले समूहों या वेबसाइटों तक ले जाएँ।

उपयोगकर्ता द्वारा उपलब्ध कराए गए ट्रांसक्रिप्ट में भी यही स्पष्ट किया गया है कि अब “Child Pornography” के स्थान पर CSEAM शब्द का उपयोग किया जा रहा है और Meta को इस तरह की सामग्री के प्रति Zero Tolerance नीति अपनाने के निर्देश दिए गए हैं।

Meta को नोटिस जारी करने की आवश्यकता क्यों पड़ी?

सरकार की कार्रवाई अचानक नहीं हुई। पिछले कुछ समय में यह देखा गया कि सोशल मीडिया प्लेटफॉर्म पर ऐसे विज्ञापन और पोस्ट दिखाई दे रहे थे जो उपयोगकर्ताओं को Telegram जैसे प्लेटफॉर्म पर मौजूद निजी समूहों से जुड़ने के लिए प्रेरित करते थे। इन समूहों में कथित रूप से बच्चों के यौन शोषण से जुड़ी अवैध सामग्री बेची या साझा की जा रही थी।

यह समस्या केवल एक देश तक सीमित नहीं है। अंतरराष्ट्रीय कानून प्रवर्तन एजेंसियाँ लंबे समय से चेतावनी देती रही हैं कि अपराधी अब खुले प्लेटफॉर्म पर सीधे सामग्री साझा करने के बजाय विज्ञापनों, लिंक, QR कोड, एन्क्रिप्टेड चैट और निजी समूहों का उपयोग करते हैं।

इसी कारण सरकार ने Meta से कहा कि केवल आपत्तिजनक पोस्ट हटाना पर्याप्त नहीं है, बल्कि ऐसे विज्ञापन और प्रचार तंत्र भी समाप्त किए जाएँ जो लोगों को इन अवैध नेटवर्क तक पहुँचाते हैं। यह तथ्य भी ट्रांसक्रिप्ट में विस्तार से बताया गया है।

समस्या कितनी बड़ी है? कुछ महत्वपूर्ण वैश्विक आँकड़े

यह केवल भारत की समस्या नहीं है, बल्कि पूरी दुनिया के लिए गंभीर चिंता का विषय है।

कुछ प्रमुख तथ्य

• National Center for Missing & Exploited Children (NCMEC), अमेरिका को वर्ष 2024 में तकनीकी कंपनियों से 3 करोड़ 60 लाख (36 मिलियन) से अधिक CyberTipline रिपोर्ट प्राप्त हुईं। इन रिपोर्टों में बच्चों के यौन शोषण से संबंधित संदिग्ध सामग्री या गतिविधियों की जानकारी शामिल थी।
• Internet Watch Foundation (IWF), ब्रिटेन ने अपनी हालिया वार्षिक रिपोर्ट में लाखों वेब पृष्ठों की पहचान की जिनमें बच्चों के यौन शोषण से जुड़ी सामग्री पाई गई। इनमें बड़ी संख्या स्वयं-निर्मित (Self-generated) सामग्री की भी थी, जो ऑनलाइन ग्रूमिंग (Online Grooming) की बढ़ती समस्या की ओर संकेत करती है।
• INTERPOL और Europol लगातार चेतावनी देते रहे हैं कि एन्क्रिप्टेड मैसेजिंग सेवाएँ, क्लाउड स्टोरेज और डार्क वेब ऐसे अपराधों के प्रसार में चुनौती बन रहे हैं।
• UNICEF के अनुसार इंटरनेट का उपयोग करने वाले बच्चों की संख्या लगातार बढ़ रही है। दुनिया भर में करोड़ों बच्चे प्रतिदिन ऑनलाइन सक्रिय रहते हैं, जिससे डिजिटल सुरक्षा पहले से कहीं अधिक महत्वपूर्ण हो गई है।

ये आँकड़े बताते हैं कि यह केवल कानून का विषय नहीं, बल्कि बाल संरक्षण, मानसिक स्वास्थ्य और साइबर सुरक्षा का भी प्रश्न है।

भारत में बच्चों की ऑनलाइन सुरक्षा क्यों बड़ी चिंता बन रही है?

भारत दुनिया के सबसे बड़े इंटरनेट बाज़ारों में से एक है।

कुछ महत्वपूर्ण तथ्य

• भारत में 90 करोड़ से अधिक इंटरनेट उपयोगकर्ता हैं।
• देश में 80 करोड़ से अधिक स्मार्टफोन कनेक्शन सक्रिय हैं।
• किशोरों और बच्चों में सोशल मीडिया का उपयोग लगातार बढ़ रहा है।
• कम कीमत वाले डेटा और स्मार्टफोन के कारण डिजिटल पहुँच तेजी से बढ़ी है।

जहाँ डिजिटल पहुँच बढ़ी है, वहीं ऑनलाइन अपराधों का जोखिम भी बढ़ा है। अपराधी बच्चों को गेम, चैट, सोशल मीडिया या नकली पहचान के माध्यम से निशाना बना सकते हैं।

Meta के प्लेटफॉर्म पर जिम्मेदारी क्यों बढ़ गई है?

Meta दुनिया के सबसे बड़े सोशल मीडिया समूहों में से एक है।

इसके प्रमुख प्लेटफॉर्म

• Facebook
• Instagram
• WhatsApp
• Messenger
• Threads

इन प्लेटफॉर्म्स का संयुक्त मासिक उपयोगकर्ता आधार अरबों में है। इतने बड़े नेटवर्क पर यदि अवैध सामग्री कुछ समय के लिए भी उपलब्ध रहती है, तो उसका प्रभाव बहुत व्यापक हो सकता है।

इसी कारण सरकारें अब केवल उपयोगकर्ताओं को नहीं, बल्कि प्लेटफॉर्म संचालित करने वाली कंपनियों को भी अधिक जवाबदेह बना रही हैं।

Meta पहले से क्या कदम उठाता रहा है?

Meta का कहना है कि वह बच्चों के यौन शोषण से संबंधित सामग्री की पहचान और रोकथाम के लिए कई स्तरों पर कार्य करता है।

इनमें प्रमुख हैं

• Artificial Intelligence (AI) आधारित पहचान प्रणाली।
• संदिग्ध तस्वीरों की पहचान के लिए Hash Matching Technology।
• प्रशिक्षित Human Review Teams।
• संदिग्ध खातों को निलंबित करना।
• कानून प्रवर्तन एजेंसियों के साथ सहयोग।
• बाल सुरक्षा संगठनों के साथ साझेदारी।

उपलब्ध ट्रांसक्रिप्ट में भी उल्लेख है कि Meta पहले से AI और मानव समीक्षा (Human Review) का उपयोग करता है, लेकिन सरकार ने इस प्रक्रिया को और अधिक कठोर बनाने पर जोर दिया है।

केवल कंटेंट हटाना ही समाधान नहीं

विशेषज्ञों का मानना है कि CSEAM से लड़ाई केवल पोस्ट हटाने तक सीमित नहीं रह सकती।

इसके लिए आवश्यक है

• संदिग्ध नेटवर्क की पहचान।
• दोबारा अपलोड होने से रोकना।
• AI आधारित स्वतः पहचान प्रणाली।
• तेज़ शिकायत निवारण।
• अंतरराष्ट्रीय एजेंसियों के साथ समन्वय।
• उपयोगकर्ताओं में जागरूकता।

यही कारण है कि सरकारें अब सोशल मीडिया कंपनियों से केवल प्रतिक्रिया (Reaction) नहीं, बल्कि सक्रिय रोकथाम (Proactive Prevention) की अपेक्षा कर रही हैं।

क्या यह केवल Meta का मामला है?

बिलकुल नहीं।

भारत के Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021 के तहत सभी प्रमुख सोशल मीडिया मध्यस्थ (Intermediaries)जैसे Facebook, Instagram, YouTube, X (पूर्व में Twitter) और अन्यपर अवैध सामग्री को हटाने, शिकायत अधिकारी नियुक्त करने और कानून प्रवर्तन एजेंसियों के साथ सहयोग करने जैसी जिम्मेदारियाँ लागू होती हैं।

इसलिए यह कार्रवाई डिजिटल प्लेटफॉर्म्स की व्यापक जवाबदेही से जुड़ा एक संकेत भी है।

IT Act, Safe Harbour और Meta की कानूनी जिम्मेदारी कितनी बड़ी है?

भारत सरकार द्वारा Meta को दिए गए निर्देश का सबसे महत्वपूर्ण पहलू केवल आपत्तिजनक सामग्री हटाना नहीं है, बल्कि यह स्पष्ट करना भी है कि सोशल मीडिया प्लेटफॉर्म अब केवल “मंच” (Platform) नहीं, बल्कि जिम्मेदार डिजिटल मध्यस्थ (Responsible Intermediary) भी हैं। यदि किसी प्लेटफॉर्म पर बच्चों के यौन शोषण से जुड़ी सामग्री, उसका प्रचार या उसके व्यापार से जुड़े विज्ञापन दिखाई देते हैं, तो कंपनी को केवल शिकायत का इंतजार करने के बजाय सक्रिय (Proactive) कदम उठाने होंगे।

यही कारण है कि इस पूरे मामले में IT Act, 2000, Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021, POCSO Act, 2012 तथा भारतीय न्याय संहिता (Bharatiya Nyaya Sanhita, 2023) जैसे कानून महत्वपूर्ण भूमिका निभाते हैं।

IT Act, 2000 क्या कहता है?

भारत में इंटरनेट और डिजिटल अपराधों से संबंधित मूल कानून सूचना प्रौद्योगिकी अधिनियम, 2000 (Information Technology Act, 2000) है।

समय-समय पर इसमें संशोधन किए गए ताकि बदलती तकनीक और साइबर अपराधों से निपटा जा सके।

बच्चों से संबंधित यौन शोषण वाली डिजिटल सामग्री के मामलों में विशेष रूप से धारा 67B अत्यंत महत्वपूर्ण है।

धारा 67B (Section 67B) क्या है?

यदि कोई व्यक्ति इलेक्ट्रॉनिक माध्यम से

• बच्चों से जुड़ी यौन शोषण सामग्री प्रकाशित करता है,
• उसका प्रसारण (Transmission) करता है,
• डाउनलोड करता है,
• ब्राउज़ करता है,
• संग्रहित (Store) करता है,
• विज्ञापन देता है,
• दूसरों को उपलब्ध कराता है,
• या ऐसे बच्चों को ऑनलाइन यौन गतिविधियों के लिए प्रेरित करता है,

तो यह एक दंडनीय अपराध माना जाता है।

यानी केवल वीडियो अपलोड करना ही अपराध नहीं है, बल्कि ऐसी सामग्री का प्रसार, प्रचार और वितरण भी कानून के दायरे में आता है।

उपयोगकर्ता द्वारा उपलब्ध कराए गए ट्रांसक्रिप्ट में भी IT Act के अंतर्गत इस प्रकार की सामग्री को दंडनीय अपराध बताया गया है।

क्या केवल वीडियो बनाना अपराध है?

बहुत से लोग यह गलतफहमी रखते हैं कि केवल वीडियो बनाने वाला ही दोषी होता है।

वास्तविकता यह है कि कानून कई प्रकार की गतिविधियों को अपराध मानता है

✔ वीडियो रिकॉर्ड करना

✔ फोटो लेना

✔ शेयर करना

✔ फॉरवर्ड करना

✔ डाउनलोड करना

✔ बेचने की कोशिश करना

✔ लिंक उपलब्ध कराना

✔ विज्ञापन देना

✔ दूसरे लोगों को ऐसे Telegram या अन्य समूहों तक पहुँचाना

इसलिए केवल “मैंने तो सिर्फ शेयर किया था” जैसी दलील कानूनी रूप से पर्याप्त नहीं होती।

POCSO Act की भूमिका क्या है?

यदि मामला किसी बच्चे के यौन शोषण से जुड़ा है, तो Protection of Children from Sexual Offences (POCSO) Act, 2012 भी लागू हो सकता है।

POCSO Act

• बच्चों के यौन शोषण को परिभाषित करता है।
• पीड़ित की पहचान की सुरक्षा सुनिश्चित करता है।
• विशेष अदालतों में सुनवाई का प्रावधान देता है।
• डिजिटल माध्यम से जुड़े अपराधों में भी महत्वपूर्ण भूमिका निभाता है।

यानी IT Act और POCSO कई मामलों में एक-दूसरे के पूरक बनकर काम करते हैं।

IT Rules, 2021 क्यों बनाए गए थे?

केवल IT Act पर्याप्त नहीं था।

सोशल मीडिया कंपनियों की जिम्मेदारियाँ स्पष्ट करने के लिए भारत सरकार ने Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021 लागू किए।

इन नियमों का उद्देश्य था

• सोशल मीडिया प्लेटफॉर्म की जवाबदेही बढ़ाना।
• शिकायतों का समयबद्ध समाधान।
• अवैध सामग्री को तेजी से हटाना।
• कानून प्रवर्तन एजेंसियों के साथ सहयोग सुनिश्चित करना।
• डिजिटल प्लेटफॉर्म पर पारदर्शिता बढ़ाना।

उपलब्ध ट्रांसक्रिप्ट में भी इन नियमों का विशेष उल्लेख किया गया है।

सोशल मीडिया कंपनियों को कौन–कौन सी जिम्मेदारियाँ निभानी होती हैं?

IT Rules, 2021 के अनुसार प्रमुख सोशल मीडिया प्लेटफॉर्म को कई महत्वपूर्ण दायित्व निभाने होते हैं

1. Grievance Officer नियुक्त करना

हर महत्वपूर्ण सोशल मीडिया मध्यस्थ (Significant Social Media Intermediary) को एक शिकायत अधिकारी नियुक्त करना होता है।

उसका कार्य

• उपयोगकर्ताओं की शिकायत सुनना।
• शिकायतों का रिकॉर्ड रखना।
• समय पर कार्रवाई करना।
• सरकारी एजेंसियों से समन्वय करना।

2. Nodal Contact Person

सरकारी एजेंसियों के साथ 24×7 समन्वय के लिए संपर्क अधिकारी।

3. Chief Compliance Officer

यह सुनिश्चित करता है कि कंपनी भारतीय कानूनों का पालन कर रही है।

4. Transparency Report

बड़ी कंपनियों को नियमित रूप से बताना होता है

• कितनी शिकायतें मिलीं।
• कितने अकाउंट हटाए गए।
• कितना कंटेंट हटाया गया।
• कितने सरकारी आदेश प्राप्त हुए।

इससे पारदर्शिता बढ़ती है।

Safe Harbour क्या होता है?

पूरे मामले का सबसे चर्चित कानूनी शब्द है

Safe Harbour

इसे सरल भाषा में समझते हैं।

मान लीज़िए

Facebook पर कोई व्यक्ति अवैध पोस्ट डाल देता है।

क्या उसके लिए Facebook स्वतः अपराधी माना जाएगा?

सामान्य परिस्थितियों में

नहीं।

यही सुरक्षा Safe Harbour कहलाती है।

IT Act की धारा 79 के तहत यदि सोशल मीडिया प्लेटफॉर्म केवल मध्यस्थ (Intermediary) की भूमिका निभा रहा है और कानून का पालन कर रहा है, तो उसे उपयोगकर्ताओं द्वारा डाली गई सामग्री के लिए स्वतः जिम्मेदार नहीं माना जाता।

इसी अवधारणा को ट्रांसक्रिप्ट में भी विस्तार से समझाया गया है।

लेकिन Safe Harbour हमेशा नहीं मिलता

यहीं सबसे महत्वपूर्ण कानूनी बिंदु है।

यदि कोई प्लेटफॉर्म

• जानबूझकर कार्रवाई नहीं करता,
• सरकारी आदेश की अनदेखी करता,
• अवैध सामग्री हटाने में विफल रहता,
• कानून का पालन नहीं करता,

तो वह Safe Harbour Protection खो सकता है।

ऐसी स्थिति में कंपनी पर कानूनी कार्रवाई की संभावना बढ़ जाती है।

इसी कारण MeitY ने Meta को स्पष्ट संदेश दिया कि बच्चों से जुड़े यौन शोषण वाली सामग्री के मामलों में “Safe Harbour” की आड़ लेकर निष्क्रिय नहीं रहा जा सकता।

24 घंटे में कंटेंट हटाने का नियम क्यों महत्वपूर्ण है?

डिजिटल दुनिया में एक वीडियो कुछ ही घंटों में लाखों लोगों तक पहुँच सकता है।

इसलिए IT Rules के तहत कुछ श्रेणियों की शिकायतों पर सोशल मीडिया प्लेटफॉर्म को अत्यंत तेजी से कार्रवाई करनी होती है।

विशेष रूप से यदि किसी व्यक्ति की गरिमा, निजता या बच्चों के यौन शोषण से जुड़ी सामग्री की शिकायत हो, तो उसे शीघ्र हटाने या उसकी पहुँच रोकने की अपेक्षा की जाती है। ट्रांसक्रिप्ट में 24 घंटे के भीतर कार्रवाई की आवश्यकता पर भी बल दिया गया है।

Meta के लिए सबसे बड़ी चुनौती क्या है?

Meta हर दिन संभालता है।

• अरबों पोस्ट,
• करोड़ों फोटो,
• लाखों वीडियो,
• असंख्य विज्ञापन,

इतनी विशाल मात्रा में हर सामग्री की मानवीय समीक्षा करना लगभग असंभव है।

इसी कारण कंपनी संयुक्त उपयोग करती है।

• Artificial Intelligence,
• Machine Learning,
• Image Hash Matching,
• Behaviour Detection,
• Human Moderation

लेकिन विशेषज्ञों का कहना है कि बच्चों से जुड़े अपराधों में केवल AI पर्याप्त नहीं है। मानव विशेषज्ञों, कानून प्रवर्तन एजेंसियों और अंतरराष्ट्रीय सहयोग की भी आवश्यकता होती है।

क्या केवल Meta पर जिम्मेदारी है?

जिम्मेदारी तीन स्तरों पर है

सरकार

• कानून बनाए।
• निगरानी करे।
• अपराधियों पर कार्रवाई करे।

सोशल मीडिया कंपनियाँ

• अवैध सामग्री हटाएँ।
• AI प्रणाली मजबूत करें।
• शिकायतों का समाधान करें।

उपयोगकर्ता

• ऐसी सामग्री शेयर न करें।
• तुरंत रिपोर्ट करें।
• बच्चों को डिजिटल सुरक्षा के बारे में जागरूक करें।

कानूनी कार्रवाई का उद्देश्य क्या है?

विशेषज्ञों के अनुसार सरकार का उद्देश्य केवल दंड देना नहीं है।

बल्कि

• प्लेटफॉर्म को जवाबदेह बनाना,
• बच्चों की सुरक्षा सुनिश्चित करना,
• डिजिटल अपराधों को रोकना,
• और इंटरनेट को अधिक सुरक्षित बनाना है।

इसीलिए आज दुनिया के अधिकांश लोकतांत्रिक देशों में सोशल मीडिया कंपनियों की जवाबदेही लगातार बढ़ाई जा रही है।

AI, एन्क्रिप्शन और सीमा-पार अपराध-बच्चों की ऑनलाइन सुरक्षा की सबसे बड़ी चुनौतियाँ

भारत सरकार द्वारा Meta को दिए गए निर्देश केवल एक सोशल मीडिया कंपनी तक सीमित नहीं हैं। यह पूरे डिजिटल इकोसिस्टम के लिए एक संदेश है कि बच्चों से जुड़े यौन शोषण (CSEAM) के मामलों में अब “पहले रिपोर्ट आए, फिर कार्रवाई करें” वाला मॉडल पर्याप्त नहीं माना जाएगा। भविष्य की दिशा ऐसी तकनीकों और नीतियों की होगी जो इस प्रकार की सामग्री को वायरल होने से पहले ही पहचानकर रोक सकें।

हालाँकि, यह काम जितना सुनने में आसान लगता है, व्यवहार में उतना ही कठिन है। AI, एन्क्रिप्शन, डीपफेक, सीमा-पार (Cross-border) डेटा और अरबों दैनिक पोस्ट इस चुनौती को कई गुना बढ़ा देते हैं।

हर दिन कितना कंटेंट अपलोड होता है?

आज दुनिया के बड़े सोशल मीडिया प्लेटफॉर्म पर प्रतिदिन अरबों डिजिटल गतिविधियाँ होती हैं।

अनुमानित रूप से

• करोड़ों नई तस्वीरें अपलोड होती हैं।
• लाखों घंटे के वीडियो साझा किए जाते हैं।
• अरबों संदेश भेजे जाते हैं।
• लाखों विज्ञापन प्रकाशित होते हैं।
• हजारों नए समूह और चैनल बनते हैं।

इतनी विशाल मात्रा में प्रत्येक पोस्ट की मानव द्वारा जाँच करना व्यावहारिक रूप से असंभव है।

यही कारण है कि Meta, Google, Microsoft सहित अधिकांश तकनीकी कंपनियाँ अब Artificial Intelligence (AI) आधारित कंटेंट मॉडरेशन का उपयोग करती हैं। उपयोगकर्ता द्वारा उपलब्ध कराए गए ट्रांसक्रिप्ट में भी बताया गया है कि कंटेंट की विशाल मात्रा के कारण AI की सहायता लेना आवश्यक हो गया है।

AI अपराध रोकने में मदद भी करता है और चुनौती भी बन रहा है

AI इस समय दोहरी भूमिका निभा रहा है।

AI के फायदे

AI की सहायता से

• संदिग्ध तस्वीरों की पहचान की जा सकती है।
• बार-बार अपलोड होने वाली प्रतिबंधित सामग्री को रोका जा सकता है।
• नकली खातों की पहचान संभव होती है।
• संदिग्ध विज्ञापनों को स्वतः ब्लॉक किया जा सकता है।
• संदिग्ध व्यवहार (Behaviour Pattern) का विश्लेषण किया जा सकता है।

लेकिन AI का दुरुपयोग भी बढ़ रहा है

अपराधी भी AI का उपयोग करने लगे हैं।

उदाहरण

• Deepfake वीडियो बनाना।
• नकली तस्वीरें तैयार करना।
• किसी बच्चे का चेहरा दूसरी तस्वीर पर लगाना।
• फर्जी पहचान बनाकर बच्चों से संपर्क करना।
• AI आधारित चैटबॉट से भरोसा जीतना।
• नकली दस्तावेज़ और प्रोफाइल तैयार करना।

ट्रांसक्रिप्ट में भी AI द्वारा नकली तस्वीरें और वीडियो बनाए जाने तथा उन्हें पहचानने की कठिनाई का उल्लेख किया गया है।

End-to-End Encryption सबसे बड़ी तकनीकी चुनौती क्यों है?

WhatsApp जैसी सेवाएँ End-to-End Encryption (E2EE) का उपयोग करती हैं।

इसका अर्थ है

• संदेश केवल भेजने वाला और प्राप्त करने वाला पढ़ सकता है।
• सेवा प्रदाता भी संदेश की सामग्री नहीं देख सकता।

यह तकनीक उपयोगकर्ताओं की निजता (Privacy) की रक्षा करती है।

लेकिन यही सुविधा अपराधियों द्वारा भी दुरुपयोग की जा सकती है।

यही संतुलन सबसे कठिन प्रश्न बन गया है

बच्चों की सुरक्षा कैसे सुनिश्चित की जाए और साथ ही आम नागरिकों की निजता भी सुरक्षित रहे?

उपलब्ध ट्रांसक्रिप्ट में भी एन्क्रिप्शन के कारण अवैध सामग्री का पता लगाने की कठिनाई बताई गई है।

Cross-Border Content क्यों बड़ी समस्या है?

डिजिटल दुनिया में अपराध किसी एक देश तक सीमित नहीं रहते।

मान लीजिए

• सामग्री किसी दूसरे देश में अपलोड हुई।
• सर्वर तीसरे देश में है।
• उपयोगकर्ता चौथे देश में है।
• पीड़ित भारत में है।

ऐसी स्थिति में

• किस देश का कानून लागू होगा?
• कौन-सी एजेंसी जांच करेगी?
• डेटा किस देश से मिलेगा?

यही कारण है कि साइबर अपराधों में अंतरराष्ट्रीय सहयोग अत्यंत आवश्यक हो गया है। ट्रांसक्रिप्ट में भी सीमा-पार (Cross-border) कंटेंट की चुनौती का उल्लेख किया गया है।

भारत में I4C की क्या भूमिका है?

भारत सरकार ने साइबर अपराधों से निपटने के लिए Indian Cyber Crime Coordination Centre (I4C) की स्थापना की है।

यह गृह मंत्रालय (Ministry of Home Affairs) के अंतर्गत कार्य करता है।

I4C के प्रमुख कार्य

• साइबर अपराधों का समन्वित विश्लेषण।
• राज्यों की पुलिस को तकनीकी सहायता।
• साइबर फॉरेंसिक सहयोग।
• प्रशिक्षण और क्षमता निर्माण।
• ऑनलाइन अपराधों की जांच में सहयोग।
• डिजिटल साक्ष्यों के विश्लेषण में सहायता।

उपलब्ध ट्रांसक्रिप्ट में भी I4C को गृह मंत्रालय के अंतर्गत कार्यरत संस्था बताया गया है।

National Cyber Crime Reporting Portal (NCRP) क्या है?

यदि किसी नागरिक को सोशल मीडिया पर

• बच्चों के यौन शोषण से जुड़ी सामग्री,
• साइबर ब्लैकमेल,
• ऑनलाइन धोखाधड़ी,
• या अन्य साइबर अपराध दिखाई देते हैं,

तो वह National Cyber Crime Reporting Portal पर शिकायत दर्ज करा सकता है।

यह पोर्टल नागरिकों और कानून प्रवर्तन एजेंसियों के बीच एक महत्वपूर्ण कड़ी है। ट्रांसक्रिप्ट में भी इस पोर्टल के माध्यम से शिकायत दर्ज कराने की जानकारी दी गई है।

माता–पिता और अभिभावकों को क्या करना चाहिए?

विशेषज्ञों के अनुसार बच्चों की ऑनलाइन सुरक्षा केवल सरकार या सोशल मीडिया कंपनियों की जिम्मेदारी नहीं है।

अभिभावक निम्नलिखित कदम उठा सकते हैं

✔ बच्चों से खुलकर बातचीत करें।

उन्हें इंटरनेट के लाभ और जोखिम दोनों समझाएँ।

✔ Privacy Settings का उपयोग करें।

सोशल मीडिया खातों को सुरक्षित रखें।

✔ Unknown Links से बचना सिखाएँ।

✔ Digital Footprint समझाएँ।

जो कुछ इंटरनेट पर साझा किया जाता है, वह लंबे समय तक उपलब्ध रह सकता है।

✔ स्क्रीन टाइम और ऑनलाइन गतिविधि पर संतुलित निगरानी रखें।

यदि ऐसा कंटेंट दिखाई दे तो क्या करें?

कभी भी

डाउनलोड न करें।

फॉरवर्ड न करें।

दूसरों को न भेजें।

इसके बजाय

संबंधित प्लेटफॉर्म पर तुरंत Report करें।

आवश्यक होने पर NCRP पर शिकायत दर्ज करें।

यदि बच्चा तत्काल खतरे में हो तो स्थानीय पुलिस या आपातकालीन सहायता से संपर्क करें।

विशेषज्ञ क्या कहते हैं?

साइबर सुरक्षा विशेषज्ञों का मानना है कि आने वाले वर्षों में CSEAM से मुकाबला केवल कानून बनाकर नहीं जीता जा सकता।

इसके लिए पाँच स्तंभ आवश्यक हैं

1. मजबूत कानून।
2. AI आधारित पहचान प्रणाली।
3. अंतरराष्ट्रीय सहयोग।
4. डिजिटल साक्षरता।
5. त्वरित कानून प्रवर्तन।

भारत के लिए आगे की राह

भारत तेजी से डिजिटल अर्थव्यवस्था की ओर बढ़ रहा है। ऐसे में बच्चों की ऑनलाइन सुरक्षा को डिजिटल विकास का अभिन्न हिस्सा बनाना होगा।

विशेषज्ञ निम्न कदमों की सिफारिश करते हैं

• AI आधारित CSEAM पहचान प्रणाली को और उन्नत करना।
• अंतरराष्ट्रीय एजेंसियों के साथ रियल-टाइम सूचना साझा करना।
• स्कूलों में साइबर सुरक्षा शिक्षा को बढ़ावा देना।
• अभिभावकों के लिए डिजिटल जागरूकता अभियान चलाना।
• सोशल मीडिया कंपनियों के साथ नियमित अनुपालन समीक्षा करना।
• AI से बने Deepfake और Synthetic Abuse Material पर स्पष्ट कानूनी ढाँचा विकसित करना।

सूचनिका 365 इनसाइट्स

Meta को जारी निर्देश केवल एक कंपनी के लिए चेतावनी नहीं हैं, बल्कि यह स्पष्ट संकेत हैं कि भारत बच्चों की डिजिटल सुरक्षा के मामले में अधिक कठोर और जवाबदेह व्यवस्था की ओर बढ़ रहा है। सोशल मीडिया कंपनियों के लिए यह संदेश है कि Safe Harbour का संरक्षण तभी तक प्रभावी है, जब तक वे कानून, न्यायालयों और नियामकीय निर्देशों का ईमानदारी से पालन करें।

दूसरी ओर, नागरिकों की भी महत्वपूर्ण भूमिका है। किसी भी संदिग्ध सामग्री को साझा करने के बजाय उसकी रिपोर्ट करना, बच्चों को सुरक्षित इंटरनेट उपयोग की शिक्षा देना और डिजिटल जागरूकता बढ़ाना उतना ही आवश्यक है जितना मजबूत कानून बनाना। आने वाले समय में AI, अंतरराष्ट्रीय सहयोग और प्रभावी नियमन ही बच्चों के लिए सुरक्षित डिजिटल वातावरण तैयार करने की सबसे बड़ी कुंजी होंगे।

अक्सर पूछे जाने वाले प्रश्न (FAQs)

1. CSEAM का पूरा नाम क्या है?

Child Sexual Exploitative and Abusive Material। यह बच्चों के यौन शोषण से जुड़ी किसी भी प्रकार की डिजिटल सामग्री को दर्शाता है।

2. Meta को भारत सरकार ने क्या निर्देश दिया है?

Meta को अपने प्लेटफॉर्म पर CSEAM, उससे जुड़े विज्ञापन और अवैध नेटवर्क के प्रचार को तत्काल हटाने तथा अधिक सख्त निगरानी सुनिश्चित करने के निर्देश दिए गए हैं।

3. Safe Harbour क्या है?

IT Act की धारा 79 के तहत मध्यस्थ (Intermediary) को सीमित कानूनी सुरक्षा मिलती है, लेकिन कानून का पालन न करने पर यह सुरक्षा समाप्त हो सकती है।

4. शिकायत कहाँ दर्ज की जा सकती है?

राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल (NCRP) पर ऑनलाइन शिकायत दर्ज की जा सकती है।

5. I4C क्या है?

Indian Cyber Crime Coordination Centre (I4C) गृह मंत्रालय के अधीन कार्यरत संस्था है, जो साइबर अपराधों की रोकथाम, समन्वय और जांच में सहायता करती है।

प्रामाणिक एवं विश्वसनीय स्रोत (Authentic Sources)

• भारत सरकार – Ministry of Electronics & Information Technology (MeitY)
• Ministry of Home Affairs (MHA)
• Information Technology Act, 2000
• Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021
• Protection of Children from Sexual Offences (POCSO) Act, 2012
• National Cyber Crime Reporting Portal (NCRP)
• Indian Cyber Crime Coordination Centre (I4C)
• National Center for Missing & Exploited Children (NCMEC), USA
• Internet Watch Foundation (IWF), UK
• INTERPOL
• UNICEF – Child Online Protection Resources