AI से खेला जा रहा गंदा खेल… Twitter पर वहशियों के लिए ‘बचपन’ की सेल
आर्टिफिशियल इंटेलीजेंस का गलत इस्तेमाल अब इस कदर तक हो रहा है जिसकी कभी कल्पना भी नहीं की गई थी. यहां चाइल्ड पोर्नोग्राफी का कंटेंट ऑर्डर पर बनाया जा रहा है, शेयर हो रहा है और रेप पर बहस भी होती है. पढ़िए ये ख़ास रिपोर्ट…
AI यानी आर्टिफिशियल इंटेलीजेंस और VR यानी वर्चुअल रियालिटी. इनके बारे में हाल के समय से चर्चा तेज़ हो गई है. आज AI एंकर हूबहू असली एंकर की तरह खबर पढ़ते दिख रहे हैं तो कई लोग अकेलापन दूर करने के लिए VR का सहारा ले रहे हैं. वो वर्चुअल रियालिटी से अपनी पसंद की गर्लफ्रेंड या बॉयफ्रेंड बना रहे हैं. कुछ ने तो इन कैरेक्टर्स से शादी तक रचा ली.
दूसरी ओर कुछ कंपनियों ने बड़ी तादाद में छंटनी शुरू कर दी है. इन कंपनियों ने बाकायदा कहा भी है कि वो AI चैटबॉट की मदद से अपने काम को आसान कर रहे हैं, तो अब ज्यादा स्टाफ की जरूरत नहीं है.
मतलब AI हो या VR…इसके लोगों की जिंदगी पर असर दिखने लगे हैं और जैसा कि हर नई तकनीक के साथ होता है, जुर्म की काली दुनिया के खिलाड़ी भी इसके जरिए अपने काले कारनामों को अंजाम देने में जुट गए हैं. इसका एक उदाहरण ट्विटर पर फैल रहे वो सैकड़ों अकाउंट्स हैं जो चाइल्ड पोर्नोग्राफी को बढ़ावा देकर अपनी जेबें भरने में लगे हैं.
पिछले दिनों टाइमलाइन पर AI की मदद से तैयार एक वर्चुअल कैरेक्टर दिखाई दिया. हैरान करने वाली बात ये थी कि उस कैरेक्टर को 8-10 साल की बच्ची की तरह बनाया गया था. मगर कपड़े और शरीर एडल्ट वाले थे. तस्वीर अश्लील थी. बाकी चेहरा छोटी बच्ची जैसा. अंदर कॉमेंट्स देखे, तो दुनिया के अलग अलग कोने में बैठे लोग अपनी गंदी सोच का प्रमाण देते नज़र आए.
डराने वाली बात ये थी कि इन लोगों के बीच और ज़्यादा अश्लील तस्वीरों की मांग हो रही थी. इनके लिए तमाम अकाउंट्स के पास सब्सक्रिप्शन प्लांस भी हैं. जहां और ज्यादा अश्लील तस्वीरों के लिए लोग पैसे देने को तैयार दिखे. छोटी-छोटी बच्चियों की अश्लील तस्वीरें देखने की होड़ लोगों के बीच लगी है. सवाल है कि बच्चियों को इस तरह सेक्स ऑब्जेक्ट बनाने वाले ये लोग कौन हैं? कैसे ये ट्विटर जैसे प्लेटफॉर्म पर दुकान सजाकर बैठे हैं? सवाल ये भी कि क्या ये नया चलन मासूमों को शिकार बनाने की कुत्सित मानसिकता को और ज्यादा नहीं बढ़ाएगा?
पीडोफाइल्स यानी छोटे बच्चों के यौन शोषण करने वाले लोग आर्टिफिशियल इंटेलीजेंस और वर्चुअल रियालिटी का इस्तेमाल कर लगातार ऐसा कंटेंट तैयार कर ट्विटर के जरिए बेच रहे हैं. सब्सक्राइबर्स या मेंबरशिप लेने वाले लोग बाकायदा ऑर्डर देते हैं, कि वो कितनी अश्लील तस्वीर या वीडियो देखना चाहते हैं. अकाउंट होल्डर्ड ऐसा कंटेंट उपलब्ध कराने का दावा करते हैं.
इस तरह के कुछ और अकाउंट खंगाले गए तो कई नई जानकारियां सामने आईं. इस तरह के ट्विटर अकाउंट्स के बायो में साफतौर पर लिखा जाता है कि अगर तस्वीरों का पूरा सेट खरीदना है, तो दिए गए लिंक पर क्लिक करें. लिंक पर क्लिक करने के बाद तस्वीरों के रेट बताए जाते हैं. कुछ वेबसाइट खुलने से पहले पूछती हैं कि आप 18 साल से ऊपर के हैं या नहीं? मतलब ये कि अभी पोस्ट में जो तस्वीरें डाली गई हैं, वेबसाइट पर पैसा देने के बाद उससे भी ज्यादा अश्लील तस्वीरें देख सकते हैं. या चाहें तो ऑर्डर पर भी तस्वीरें बनवा सकते हैं.
छोटी बच्चियों की तस्वीरों को अश्लील बनाकर इन पर बेचा जा रहा है. उन्हें बिकिनी पहनाई जाती है. हमने कुछ अकाउंट्स को रिपोर्ट भी किया. ट्विटर ने इन पर एक्शन लिया और ये सस्पेंड भी हुए.
कुछ अकाउंट्स सस्पेंड हुए (तस्वीर- ट्विटर)
लेकिन ये लोग एक अकाउंट सस्पेंड हो जाने के बाद तुरंत दूसरा बना लेते हैं. कई अकाउंट्स को बैकअप के तौर पर रखा हुआ है. तस्वीरों में कैरेक्टर का चेहरा 8-10 साल की बच्ची जैसा होता है. कई में उससे भी कम उम्र का. जबकि शरीर पूरी तरह से अडल्ट. कुछ में स्कूल यूनिफॉर्म को अश्लील बनाकर पहनाया गया है.
अकाउंट देखने के बाद क्या क्या पता चला?
ऐसा ही एक अकाउंट @AI_nagisa_2023 मिला. इसमें जापानी भाषा में लिखा है कि ये तस्वीर AI से जनरेट करता है. अंदर अश्लील तस्वीरें पोस्ट की गई हैं. बायों में वेबसाइट का लिंक भी दिया गया है.
अकाउंट के बायो में वेबसाइट के लिंक (तस्वीर- सोशल मीडिया)
एक और अकाउंट @Sakura_AIart मिला. इसने अपने बायो में साफतौर पर लिखा है कि 18 साल से अधिक उम्र के लोगों के लिए लिंक के भीतर वो तस्वीरें हैं, जो ट्विटर पर पोस्ट नहीं की जा सकतीं.
कैरेक्टर्स का चेहरा छोटी बच्चियों के जैसा (तस्वीर- सोशल मीडिया)
लिंक पर क्लिक करने के बाद इसमें मेंबरशिप लेने की बात की गई है. जब इस लिंक पर क्लिक किया गया तो लिखा था कि अभी 29 मेंबर हैं और 8 पोस्ट हैं. मेंबरशिप ले लीजिए. पहली ही पोस्ट में 5 डॉलर मांगे गए हैं. जॉइन बटन पर क्लिक करने के बाद पेट्रियोन पर अकाउंट बनाना होता है. ये पैसा जुटाने वाला एक प्लेटफॉर्म है. यानी पेमेंट के लिए इस्तेमाल होता है. आगे भी तस्वीरों को देखने के लिए उन्हें अनलॉक करना होता है और पैसे देने होते हैं.
हमने पता लगाने की कोशिश की कि भला और कितने अकाउंट्स इसी तरह से बनाए गए हैं. एक अकाउंट ओपन करें तो चार और दिख जाते हैं. इनके फॉलोवर्स और फॉलोइंग की लिस्ट देखी तो कई और अकाउंट मिले. यानी ट्विटर पर इनकी बाढ़ आई हुई है. कई अकाउंट्स तो वेरिफाइड भी हैं. यानी ब्लू टिक वाले. सवाल लाजमी है कि ट्विटर ने क्या सोचकर इन्हें ये नीला बैज दिया होगा?
बायो में अश्लील वेबसाइट के लिंक (तस्वीर- ट्विटर)
अश्लील वेबसाइट के लिंक वाला एक और अकाउंट मिला. यहां भी जापानी भाषा में बायो लिखा हुआ था. लिखा है कि सपोर्ट करने के लिए इस लिंक पर क्लिक करें. क्लिक किया, तो उम्र पूछी गई. उम्र बताने के बाद आगे पैसे मांगकर अश्लील तस्वीरें ऑफर की गईं. लिंक पर क्लिक करने के बाद एक वेबसाइट खुली. इसमें पूछा गया कि क्या उम्र 18 साल से अधिक है? हां पर क्लिक किया, तो आगे तस्वीरों के रेट लिखे मिले. बदले में पैसे मांगे गए. आगे अश्लील तस्वीरों की बड़ी तादाद थी, इन पर लॉक लगा था. तस्वीरें हल्की हल्की दिख रही थीं, जिनमें कैरेक्टर्स को बिकिनी में देखा जा सकता है. अकाउंट्स पर ये भी लिखा गया है कि अगर आप अपनी पसंदीदा तस्वीर बनवाना चाहते हैं, तो वो भी यहां बनाई जाती हैं. ज्यादातर अकाउंट्स के बायो जापानी भाषा में लिखे गए हैं. ऐसा भी हो सकता है कि इसके पीछे चीन या किसी और देश के लोग भी शामिल हों और जापानी भाषा का महज़ इस्तेमाल हो रहा हो.
जब ऑनलाइन तस्वीरें ही इतनी अश्लील हैं, तो पेड सब्सक्रिप्शन में कितनी अश्लील होंगी? ये अंदाजा लगाया जा सकता है. अकाउंट रोज़ाना रिपोर्ट किए जाने के बाद सस्पेंड भी होते हैं, मगर तुरंत दूसरा अकाउंट बना लेते हैं. ट्विटर पर मुफ्त में तस्वीरें दिखाते हैं और लिंक पर पैसों में बेचते हैं. कई जगह तो 100 से अधिक तस्वीरों का पूरा सेट देने की बात की गई है. मतलब जितना अधिक पैसा उतनी अधिक तादाद में अश्लील तस्वीरें.
इस तरह ये गैर कानूनी धंधा मेन स्ट्रीम मीडिया पर हो रहा है. तस्वीरें बनाने वालों को लोग ऑर्डर देते हैं. बच्चों के पोर्न सीन बेचे जा रहे हैं. उनके 10-12 साल, और इससे भी कम उम्र के 3डी मॉडल तैयार हो रहे हैं. पीडोफाइल्स को ये सुविधा AI से मिल रही है. वो जैसे चाहें, जितनी चाहें अश्लील तस्वीरें बना सकते हैं.
ये लोग AI इमेज जनरेटर का इस्तेमाल कर रहे हैं. उन्हें बस इतना बताना होता है कि वो क्या चाहते हैं. फिर प्रोग्राम यानी सॉफ्टवेयर उनका सारा काम कर देता है. ये सब बहुत बड़े पैमाने पर होता है.
यहां केवल युवा लड़कियां नहीं बल्कि छोटी बच्चियों के बारे में भी रेप जैसे शब्द इस्तेमाल होते हैं. बच्चियों के यौन शोषण पर चर्चा होती है. एक यूजर स्कूल ड्रेस वाली लड़की की तस्वीर पर कमेंट करता है. इसमें ड्रेस को अश्लील ढंग से पहनाया गया है, जिसमें स्कर्ट काफी छोटी है. कमेंट करने वाला यूजर जापानी भाषा में लिखता है कि ‘मैं उम्मीद करता हूं कि मुझमें इतना साहस होता कि मैं स्कर्ट और पैंटी को उतार पाता.’
एक अन्य यूजर लिखता है, ‘तुम्हारा छोटा शरीर कितना खूबसूरत है.’ तीसरा यूजर लिखता है, ‘मेरी ड्रीम गर्ल.’ कमेंट करने वालों में अमेरिका, जापान, तुर्की, चीन समेत कई देशों के लोग शामिल हैं.
बॉट अकाउंट्स के ज़रिए हो रहा है खेल
इन के टेक एक्सपर्ट मुंजिर ने बताया, Twitter पर सेक्स बॉट्स का चलन नया नहीं है. दरअसल Elon Musk ट्विटर ख़रीदते ही कह चुके हैं कि सबसे पहले वो बॉट अकाउंट्स पर शिकंजा कसेंगे, लेकिन अब तक ऐसा नहीं हुआ है. हर दिन इस प्लेटफ़ॉर्म पर करोड़ों बॉट अकाउंट्स बैन किए जाते हैं और इतने ही नए क्रिएट भी किए जाते हैं.
Twitter बॉट अकाउंट्स को ऑटोमेटेड अकाउंट्स भी कह सकते हैं. इन्हें इस तरह से डिज़ाइन किया जाता है कि ये ख़ुद से अकाउंट्स लाइक, फ़ॉलो और रीट्वीट कर सकते हैं. ये बॉट अकाउंट AI द्वारा ट्रेन किए गए होते हैं और ये दूसरे अकाउंट्स के साथ मैसेज यानी DM के ज़रिए इंट्रैक्ट भी कर सकते हैं. अलग-अलग भाषा में बातचीत कर सकते हैं.
बॉट अकाउंट का मक़सद आम तौर पर रीच और फॉलोअर्स बढ़ाना होता है, लेकिन अब बैड एक्टर्स इसे पोर्नोग्राफी के लिए भी इस प्लेटफ़ॉर्म पर यूज कर रहे हैं.
AI चाइल्ड पोर्नोग्रफी को लेकर काफ़ी पहले से Twitter पर बहस छिड़ी हुई है. चूंकि Bot अकाउंट इतने सॉफेस्टिकेटेड होते हैं कि ट्विटर भी इसे पूरी तरह से नहीं ख़त्म कर पा रहा है.
एक साल के अंदर Midjourney जैसे टूल काफ़ी पॉपुलर हो गए हैं. कई डार्क टूल हैं जिसे यूज करके स्कैमर्स चाइल्ड पोर्नोग्राफी के कॉन्टेंट आसानी से तैयार कर लेते हैं. इसके बाद इन बॉट अकाउंट्स के जरिए इस तरह के कॉन्टेंट का डिस्ट्रिब्यूशन शुरू होता है.
डिस्ट्रिब्यूशन फ़्री नहीं होता, बल्कि इसके लिए पैसे लिए जाते हैं. बॉट अकाउंट्स यूज़र्स से इस तरह के कॉन्टेंट देखने के लिए पैसे मांगते हैं.
Twitter के पास इन बॉट्स को फिल्टर करने के लिए AI सिस्टम है, लेकिन बैड प्लेयर्स हर दिन अलग-अलग टूल यूज करके Twitter को चकमा देते हैं. क्योंकि जैसे ही इनके कुछ अकाउंट्स हटाए जाते हैं वो तुरंत दूसरे API के जरिए वापस आ जाते हैं.
Twitter इसलिए बंद नहीं करेगा Bot Account
Twitter अगर चाहे तो अपने प्लेटफॉर्म से बॉट अकाउंट का कॉन्सेप्ट ही खत्म कर दे. लेकिन कंपनी ऐसा नहीं करेगी. क्योंकि कई बिजनेस भी बॉट अकाउंट यूज करते हैं. ChatGPT के आने के बाद कई बड़ी कंपनियां सोशल मीडिया पर अपना कस्टमर सपोर्ट बॉट के जरिए ही दे रही हैं.
ऐसे में अगर कंपनी ने अपने प्लेटफॉर्म से बॉट अकाउंट का सिस्टम खत्म कर दिया तो रेवेन्यू में दिक्कत होगी. मस्क ने ट्विटर भारी-भरकम पैसे देकर खरीदा है और ऐसे में रेवेन्यू में कमी वो बर्दाश्त नहीं कर पाएंगे.
