भारत सरकार के IT मंत्रालय ने Meta को Instagram पर चाइल्ड सेक्सुअल एब्यूज़ से जुड़े विज्ञापनों पर कड़ा नोटिस जारी किया है। IT सचिव एस कृष्णन ने बताया कि Meta का जवाब जाँच में है। सरकार ने ऐसे विज्ञापन तुरंत हटाने और 7 दिन में स्पष्टीकरण देने का आदेश दिया है।

सोचिए — एक कंपनी जो हर साल अरबों डॉलर 'AI सेफ्टी' पर ख़र्च करने का ढोल पीटती है, उसके प्लेटफ़ॉर्म पर बच्चों के यौन शोषण से जुड़े विज्ञापन न सिर्फ़ अपलोड हुए, बल्कि ऐड रिव्यू के तमाम फ़िल्टर पार करके लाखों लोगों की स्क्रीन तक पहुँच गए। यह Instagram है — भारत में 30 करोड़ से ज़्यादा यूज़र्स वाला प्लेटफ़ॉर्म — और यह Meta का एल्गोरिदमिक फ़ेल्योर नहीं, बल्कि एक बिज़नेस मॉडल का structural खोखलापन है।

Business Standard की रिपोर्ट के अनुसार, IT सचिव एस कृष्णन ने पुष्टि की है कि सरकार Meta का जवाब जाँच रही है। इससे पहले, The Hindu और The Times of India ने ख़बर दी थी कि MeitY ने Meta को 'कड़ा नोटिस' जारी किया, जिसमें Instagram पर चाइल्ड सेक्सुअल एब्यूज़ मटीरियल (CSAM) से जुड़े विज्ञापन तुरंत हटाने और 7 दिन के भीतर स्पष्टीकरण देने का आदेश दिया गया।

The Indian Express के अनुसार, ये विज्ञापन ऐसी सामग्री को प्रमोट कर रहे थे जो सीधे तौर पर POCSO एक्ट और IT एक्ट, 2000 की धारा 67B का उल्लंघन करती है। Firstpost की रिपोर्ट में Meta ने बाद में सफ़ाई दी कि कंपनी के 'ऐड रिव्यू स्टैंडर्ड्स' ऐसी सामग्री को प्रतिबंधित करते हैं — लेकिन यही तो सबसे बड़ा सवाल है: अगर स्टैंडर्ड्स हैं तो ये विज्ञापन चले कैसे?

Meta का ऐड रिव्यू सिस्टम — ₹अरबों का AI, पैसों का फ़िल्टर

Meta का ऐड रिव्यू सिस्टम समझना ज़रूरी है। कंपनी का दावा है कि हर विज्ञापन पब्लिश होने से पहले AI और ह्यूमन रिव्यू दोनों से गुज़रता है। लेकिन असलियत यह है कि Meta का AI मुख्य रूप से 'कमर्शियल वायबिलिटी' — यानी पैसा देने वाले एडवर्टाइज़र की पहचान — पर फ़ोकस करता है, न कि कंटेंट की नैतिकता पर। जब एक एडवर्टाइज़र पेमेंट करता है, तो सिस्टम उसे 'paying customer' की तरह ट्रीट करता है — और यहीं से ख़तरनाक ब्लाइंड स्पॉट बनता है।

Firstpost की रिपोर्ट के अनुसार, Meta ने स्वीकार किया कि कंपनी 'ऐड रिव्यू स्टैंडर्ड्स को लगातार अपडेट करती है।' लेकिन यह भाषा ग़ौर करने लायक है — 'लगातार अपडेट' का मतलब है कि मौजूदा सिस्टम अपर्याप्त था, और कंपनी यह जानती थी।

इनसाइड टॉक

टेक इंडस्ट्री के हलकों में चर्चा यह है कि Meta का असली कंटेंट मॉडरेशन बजट पिछले दो साल में घटा है, जबकि AI पर ख़र्च बढ़ा है। ट्रेड विश्लेषकों का मानना है कि मार्क ज़करबर्ग की 'efficiency drive' में सबसे पहली कटौती ट्रस्ट एंड सेफ्टी टीमों में हुई — 2023 में हज़ारों कंटेंट मॉडरेटर्स की छँटनी इसका सबूत है। सूत्रों के अनुसार, भारत के लिए Meta की सेफ्टी टीम में हिंदी और भारतीय भाषाओं के विशेषज्ञों की भारी कमी है — एल्गोरिदम अंग्रेज़ी कंटेंट को ज़्यादा बेहतर फ़िल्टर करता है, लेकिन भारतीय भाषाओं में कोडेड CSAM रेफ़रेंस उसकी पकड़ से बाहर रहते हैं।

(यह इंडस्ट्री चर्चा और अपुष्ट अटकलों पर आधारित है, पुष्ट तथ्य नहीं।)

IT एक्ट का वो हथियार जो सरकार अभी तक नहीं चला पाई

सरकार के पास कई कानूनी रास्ते हैं, लेकिन अब तक किसी का पूरा इस्तेमाल नहीं हुआ। IT एक्ट, 2000 की धारा 67B बाल यौन शोषण सामग्री के इलेक्ट्रॉनिक प्रकाशन पर 5 से 7 साल की सज़ा का प्रावधान करती है। IT Rules, 2021 के तहत सोशल मीडिया इंटरमीडियरीज़ को 'ड्यू डिलिजेंस' का पालन करना अनिवार्य है — और अगर कोई प्लेटफ़ॉर्म इसमें विफल रहता है, तो उसकी 'सेफ हार्बर' सुरक्षा ख़त्म हो सकती है।

The Times of India के अनुसार, सरकार ने Meta से 7 दिन में जवाब माँगा है। लेकिन इंडिया हेराल्ड का पॉलिसी रीड यह है कि असली दाँव इससे कहीं बड़ा है — अगर सरकार IT Rules के Rule 7 के तहत Meta की सेफ हार्बर प्रोटेक्शन पर सवाल उठाती है, तो इसका मतलब होगा कि Instagram भारत में हर उस कंटेंट के लिए सीधे ज़िम्मेदार बन जाएगा जो उसके प्लेटफ़ॉर्म पर है। यह Meta के पूरे भारत बिज़नेस मॉडल को हिला सकता है।

₹48,000 करोड़ का भारत बिज़नेस — और बच्चों की सुरक्षा का दाँव

Meta का भारत में सालाना ऐड रेवेन्यू अनुमानतः ₹48,000 करोड़ से ज़्यादा है — Deccan Herald के अनुसार, भारत Meta का सबसे बड़ा यूज़र बेस है। यह आँकड़ा समझना ज़रूरी है क्योंकि यही वह आर्थिक प्रोत्साहन है जो Meta को भारत में 'सॉफ्ट कम्प्लायंस' की नीति अपनाने के लिए प्रेरित करता है — जुर्माना भरो, माफ़ी माँगो, चलते रहो।

लेकिन इस बार बात अलग है। CSAM — चाइल्ड सेक्सुअल एब्यूज़ मटीरियल — दुनिया भर में 'ज़ीरो टॉलरेंस' कैटेगरी में आता है। यूरोपीय यूनियन का Digital Services Act और अमेरिका का EARN IT Act दोनों ही प्लेटफ़ॉर्म्स पर CSAM के मामले में भारी जुर्माने का प्रावधान करते हैं। भारत में अगर सरकार POCSO के साथ IT एक्ट की धारा 67B को मिलाकर कार्रवाई करती है, तो Meta के भारत के शीर्ष अधिकारियों पर व्यक्तिगत आपराधिक ज़िम्मेदारी भी आ सकती है।

अभिभावकों के लिए असली ख़तरा — और वो सवाल जो कोई नहीं पूछ रहा

30 करोड़ से ज़्यादा भारतीय Instagram यूज़र्स में एक बड़ा हिस्सा 13 से 17 साल के किशोरों का है। जब प्लेटफ़ॉर्म का ऐड सिस्टम ही CSAM को फ़िल्टर नहीं कर पा रहा, तो ऑर्गेनिक कंटेंट — जो ऐड रिव्यू से भी नहीं गुज़रता — में क्या हो रहा होगा? यह वह सवाल है जो हर भारतीय माता-पिता को रात की नींद उड़ा देने वाला है। Meta का 'पैरेंटल कंट्रोल' फ़ीचर — जिसे कंपनी 'Family Center' कहती है — असल में एक cosmetic टूल है जो बच्चे की फ़ीड को पूरी तरह फ़िल्टर नहीं करता।

आगे क्या होगा — सरकार के पास तीन रास्ते

पहला: जुर्माना — IT Rules के तहत Meta पर वित्तीय पेनल्टी लगाई जाए। दूसरा: सेफ हार्बर सस्पेंशन — Rule 7 के तहत Instagram की इंटरमीडियरी प्रोटेक्शन ख़त्म की जाए, जो Meta को हर कंटेंट के लिए सीधे ज़िम्मेदार बना देगा। तीसरा: POCSO और धारा 67B के तहत Meta के भारत प्रमुख के ख़िलाफ़ FIR — जो एक अभूतपूर्व क़दम होगा।

The Hindu के अनुसार, सरकार ने अभी Meta का जवाब 'जाँच में' बताया है। लेकिन अगर जवाब संतोषजनक नहीं मिला, तो IT सचिव एस कृष्णन के पास ऊपर बताए गए तीनों रास्ते खुले हैं। Meta के लिए सबसे बड़ा ख़तरा जुर्माना नहीं, बल्कि सेफ हार्बर का जाना है — क्योंकि उसके बिना Instagram का भारत में ऑपरेशन आर्थिक रूप से असंभव हो जाएगा।

Meta ने Firstpost को बताया कि कंपनी अपने ऐड रिव्यू स्टैंडर्ड्स 'में सुधार कर रही है' — लेकिन यही बात कंपनी कैम्ब्रिज एनालिटिका स्कैंडल के बाद भी कह चुकी है, म्यांमार में नरसंहार के बाद भी कह चुकी है, और अमेरिका में चुनावी हस्तक्षेप के बाद भी कह चुकी है। हर बार 'हम सुधार कर रहे हैं' — और हर बार अगला स्कैंडल उससे भी बड़ा।

असली सवाल यह नहीं है कि Meta का जवाब क्या है। असली सवाल यह है कि क्या भारत सरकार इस बार वह नज़ीर क़ायम करेगी जो दुनिया का कोई देश अभी तक नहीं कर पाया — एक ट्रिलियन-डॉलर टेक कंपनी को बच्चों की सुरक्षा के मामले में असली, दर्द देने वाली सज़ा? या फिर यह भी एक और नोटिस बनकर रह जाएगा — फ़ाइलों में दबा, भूला हुआ, जब तक अगला ऐसा विज्ञापन किसी बच्चे की स्क्रीन पर न चमके?

यहाँ रिपोर्ट किए गए आरोप नामित स्रोतों से लिए गए हैं और जब तक अदालत का फ़ैसला न आए, अप्रमाणित हैं; न्यायालय में लंबित मामलों की रिपोर्ट बिना पूर्वाग्रह के की गई है।

इंडिया हेराल्ड के संपादकीय मानकों के तहत AI सहायता से रिपोर्ट और लेखन; प्रकाशन का निर्णय मानव संपादक करते हैं।

मुख्य बातें

• Meta का AI ऐड रिव्यू सिस्टम Instagram पर CSAM-लिंक्ड विज्ञापनों को फ़िल्टर करने में विफल रहा — IT सचिव एस कृष्णन ने पुष्टि की कि Meta का जवाब जाँच में है (Business Standard)
• IT एक्ट की धारा 67B और POCSO के तहत Meta के भारत अधिकारियों पर व्यक्तिगत आपराधिक ज़िम्मेदारी आ सकती है — सेफ हार्बर प्रोटेक्शन ख़त्म होना Meta के ₹48,000 करोड़+ भारत बिज़नेस के लिए सबसे बड़ा ख़तरा
• Meta ने Firstpost को बताया कि 'ऐड रिव्यू स्टैंडर्ड्स में सुधार' किया जा रहा है — लेकिन 2023 में कंपनी ने हज़ारों कंटेंट मॉडरेटर्स की छँटनी की थी, जो सेफ्टी बजट में कटौती का संकेत है
• सरकार के पास तीन रास्ते: वित्तीय जुर्माना, सेफ हार्बर सस्पेंशन (Rule 7), या POCSO/67B के तहत FIR — अगर Meta का जवाब संतोषजनक नहीं मिला तो कोई भी क़दम उठ सकता है

अक्सर पूछे जाने वाले सवाल

Instagram पर चाइल्ड एब्यूज़ ऐड्स का मामला क्या है?

भारत सरकार के IT मंत्रालय (MeitY) को पता चला कि Instagram पर चाइल्ड सेक्सुअल एब्यूज़ मटीरियल (CSAM) से जुड़े विज्ञापन चल रहे थे। The Hindu और Times of India के अनुसार, सरकार ने Meta को कड़ा नोटिस जारी कर ऐसे विज्ञापन तुरंत हटाने और 7 दिन में जवाब देने का आदेश दिया।

Meta पर भारत सरकार क्या कार्रवाई कर सकती है?

सरकार के पास तीन प्रमुख रास्ते हैं: IT Rules के तहत वित्तीय जुर्माना, Rule 7 के तहत Instagram की सेफ हार्बर प्रोटेक्शन ख़त्म करना (जो Meta को हर कंटेंट के लिए सीधे ज़िम्मेदार बना देगा), या POCSO और IT एक्ट की धारा 67B के तहत Meta के भारत अधिकारियों पर FIR।

IT एक्ट की धारा 67B में क्या सज़ा है?

IT एक्ट, 2000 की धारा 67B बाल यौन शोषण सामग्री के इलेक्ट्रॉनिक प्रकाशन, ट्रांसमिशन या इसे facilitate करने पर पहली बार 5 साल तक और दूसरी बार 7 साल तक की सज़ा और जुर्माने का प्रावधान करती है।

Meta का जवाब क्या है?

Firstpost के अनुसार, Meta ने कहा कि कंपनी के ऐड रिव्यू स्टैंडर्ड्स ऐसी सामग्री को प्रतिबंधित करते हैं और इन स्टैंडर्ड्स को 'लगातार अपडेट' किया जा रहा है। IT सचिव एस कृष्णन ने Business Standard को बताया कि Meta का जवाब 'जाँच में' है।