या प्रकरणात हैदराबाद सायबर क्राइम पोलिसांनी मेटा (Meta) इंडिया प्रमुख अरुण श्रीनिवास यांच्यासह काही सोशल मीडिया अकाउंट ऑपरेटर्सविरुद्ध एफआयआर नोंदवला आहे. तपास यंत्रणांच्या मते, फेसबुक आणि इन्स्टाग्रामवर पंतप्रधान मोदी यांच्याबाबत दिशाभूल करणारे, आक्षेपार्ह आणि AI च्या मदतीने तयार केलेले व्हिडिओ प्रसारित करण्यात आले. (AI-Morphed)

या व्हिडिओंमध्ये पंतप्रधान मोदी यांनी कधीही न केलेली विधाने केल्याचा भास निर्माण करण्यात आल्याचा आरोप आहे. काही क्लिप्समध्ये मूळ भाषणातील दृश्यांचा वापर करून कृत्रिम आवाज (AI Voice) जोडण्यात आला, तर काही ठिकाणी चेहऱ्याचे आणि संवादांचे डिजिटल मॉर्फिंग करण्यात आल्याचा संशय आहे. यामुळे चुकीची माहिती पसरल्याचा दावा करण्यात आला आहे. यापूर्वीही केंद्र सरकारच्या PIB Fact Check विभागाने अशाच काही AI-निर्मित व्हिडिओंना बनावट ठरवत नागरिकांना त्यावर विश्वास न ठेवण्याचे आवाहन केले होते. (AI-Morphed)

पोलिसांनी नोंदवलेल्या एफआयआरमध्ये केवळ व्हिडिओ तयार करणाऱ्यांचाच नव्हे, तर ते सोशल मीडिया प्लॅटफॉर्मवर उपलब्ध राहिल्याबद्दल मेटाच्या स्थानिक व्यवस्थापनाची भूमिकाही तपासली जाणार असल्याचे सांगितले आहे. मात्र, अरुण श्रीनिवास यांना वैयक्तिकरित्या आरोपी का करण्यात आले, याबाबत अद्याप अधिकृतपणे सविस्तर स्पष्टीकरण देण्यात आलेले नाही. कायदेतज्ज्ञांच्या मते, अशा प्रकारच्या प्रकरणांमध्ये संबंधित अधिकाऱ्यांची थेट जबाबदारी सिद्ध करणे आवश्यक असते. (AI-Morphed)

हे प्रकरण अशा काळात समोर आले आहे, जेव्हा सोशल मीडिया प्लॅटफॉर्मवरील कंटेंट मॉडरेशनबाबत केंद्र सरकार आणि मेटा यांच्यातील तणाव वाढलेला दिसत आहे. काही दिवसांपूर्वी पंतप्रधान मोदी यांनी फेसबुकवर पोस्ट केलेला एक व्हिडिओ चुकून हटविण्यात आला होता. त्यानंतर इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने मेटाकडून स्पष्टीकरण मागवले. मेटाने हा व्हिडिओ “चुकून हटवला गेला होता” असे सांगत तो पुन्हा उपलब्ध करून दिला होता. (AI-Morphed)

त्यानंतर केंद्र सरकारने मेटाच्या जागतिक धोरण विभागातील अधिकाऱ्यांनाही समन्स बजावल्याची माहिती समोर आली. सरकारने कंटेंट मॉडरेशन, अल्गोरिदमिक निर्णयप्रक्रिया आणि राजकीय संवेदनशील सामग्री हाताळण्याबाबत स्पष्टीकरण मागितल्याचे वृत्त आहे. (AI-Morphed)

AI-आधारित डीपफेक तंत्रज्ञानामुळे अशा प्रकारची दिशाभूल करणारी सामग्री तयार करणे पूर्वीपेक्षा अधिक सोपे झाले आहे. फोटो, व्हिडिओ आणि आवाज यांचे कृत्रिम मिश्रण करून एखाद्या व्यक्तीने न केलेली विधाने केल्याचा भास निर्माण करता येतो. त्यामुळे निवडणुका, सामाजिक आंदोलन, आर्थिक घडामोडी किंवा सार्वजनिक सुव्यवस्थेवर परिणाम होण्याची शक्यता वाढते. म्हणूनच भारतासह अनेक देशांमध्ये डीपफेकविरोधी नियम अधिक कठोर करण्याची मागणी होत आहे. (AI-Morphed)

भारतातील माहिती तंत्रज्ञान नियमांनुसार, सोशल मीडिया मध्यस्थांनी (Intermediaries) बेकायदेशीर किंवा हानिकारक सामग्रीबाबत सक्षम अधिकाऱ्यांकडून सूचना मिळाल्यानंतर आवश्यक कारवाई करणे अपेक्षित असते. या प्रकरणात मेटाने नियमांचे पालन करण्यात कोणतीही त्रुटी केली का, याची चौकशी तपास यंत्रणा करणार आहेत. सध्या या प्रकरणातील तपास सुरू असून कोणतीही व्यक्ती न्यायालयात दोषी ठरलेली नाही. त्यामुळे मेटा इंडिया प्रमुख किंवा इतर संबंधितांवरील आरोप अद्याप तपासाच्या टप्प्यात आहेत. पुढील चौकशी, डिजिटल फॉरेन्सिक विश्लेषण आणि न्यायालयीन प्रक्रियेनंतरच या प्रकरणातील अंतिम जबाबदारी निश्चित होणार आहे. (AI-Morphed)