अध्ययन में भारत, अमेरिका और यूरोपीय संघ जैसे प्रमुख क्षेत्रों सहित 40 देशों में चुनाव-संबंधित पोस्टों की जांच की गई और पाया गया कि 2024 में प्रमुख चुनावों के दौरान गलत सूचना फैलाने में एआई ने छोटी भूमिका निभाई।
और पढ़ें
मेटा के एक हालिया विश्लेषण से पता चलता है कि जेनेरेटिव एआई ने 2024 में प्रमुख चुनावों के दौरान गलत सूचना फैलाने में एक छोटी भूमिका निभाई, इसके प्लेटफार्मों पर ध्वजांकित सामग्री में एक प्रतिशत से भी कम का योगदान दिया।
अध्ययन में भारत, अमेरिका और यूरोपीय संघ जैसे प्रमुख क्षेत्रों सहित 40 देशों में चुनाव संबंधी पोस्टों की जांच की गई। एआई द्वारा दुष्प्रचार अभियान चलाने की पहले की आशंकाओं के बावजूद, मेटा का दावा है कि उसके मौजूदा सुरक्षा उपायों ने एआई-जनित सामग्री के दुरुपयोग को प्रभावी ढंग से कम कर दिया है।
मेटा के वैश्विक मामलों के अध्यक्ष निक क्लेग ने कहा कि हालांकि एआई के दुर्भावनापूर्ण इस्तेमाल के कुछ उदाहरण हैं, लेकिन इसकी मात्रा कम है। उन्होंने कहा कि कंपनी की नीतियां और उपकरण फेसबुक, इंस्टाग्राम, व्हाट्सएप और थ्रेड्स जैसे प्लेटफार्मों पर एआई सामग्री से संबंधित जोखिमों के प्रबंधन के लिए पर्याप्त साबित हुए हैं।
चुनाव में हस्तक्षेप पर नकेल कसना
मेटा ने बताया कि एआई-जनित गलत सूचना को संबोधित करने से परे चुनावों में हस्तक्षेप करने के उद्देश्य से 20 से अधिक गुप्त प्रभाव अभियानों को ख़त्म करना. समन्वित अप्रामाणिक व्यवहार (सीआईबी) नेटवर्क के रूप में वर्गीकृत इन परिचालनों की जेनरेटरेटिव एआई के उपयोग के लिए निगरानी की गई थी। जबकि एआई ने कुछ सामग्री-निर्माण क्षमताएं प्रदान कीं, मेटा ने निष्कर्ष निकाला कि इसने इन अभियानों के पैमाने या प्रभाव को महत्वपूर्ण रूप से नहीं बढ़ाया।
मेटा ने अपने एआई छवि जनरेटर, इमेजिन का उपयोग करके राजनीतिक हस्तियों की डीपफेक छवियां बनाने के लगभग 600,000 उपयोगकर्ता प्रयासों को भी अवरुद्ध कर दिया। इनमें नवनिर्वाचित राष्ट्रपति ट्रम्प और राष्ट्रपति बिडेन जैसे प्रमुख नेताओं की मनगढ़ंत छवियों के अनुरोध शामिल थे, जो उच्च जोखिम वाले आयोजनों के दौरान एआई उपकरणों के आसपास सख्त नियंत्रण की मांग को रेखांकित करते थे।
अतीत से सबक
COVID-19 महामारी के दौरान सामग्री मॉडरेशन पर विचार करते हुए, क्लेग ने स्वीकार किया कि मेटा अपने दृष्टिकोण में अत्यधिक सख्त हो सकता है, अक्सर हानिरहित पोस्ट हटा देता है। उन्होंने इसके लिए समय की अनिश्चितता को जिम्मेदार ठहराया लेकिन स्वीकार किया कि कंपनी की त्रुटि दर में कमी समस्याग्रस्त बनी हुई है। उन्होंने कहा, ये गलतियाँ उपयोगकर्ताओं को अनुचित रूप से दंडित कर सकती हैं और मेटा द्वारा संरक्षित की जाने वाली स्वतंत्र अभिव्यक्ति में बाधा उत्पन्न कर सकती हैं।
जेनरेटिव एआई: अभी के लिए एक निहित खतरा
अध्ययन के निष्कर्षों से पता चलता है कि कम से कम अभी के लिए, एआई-जनित दुष्प्रचार से चुनावों में बाधा उत्पन्न होने की आशंकाओं को बढ़ा-चढ़ाकर पेश किया जा सकता है। ऐसा लगता है कि निगरानी और नीति प्रवर्तन सहित मेटा के सक्रिय उपायों ने एआई के दुरुपयोग को रोक रखा है।
हालाँकि, कंपनी स्वीकार करती है कि उपयोगकर्ता की स्वतंत्रता के साथ प्रभावी सामग्री मॉडरेशन को संतुलित करना एक चुनौती बनी हुई है। जैसे-जैसे एआई उपकरण अधिक उन्नत होते जा रहे हैं, अपने दृष्टिकोण को परिष्कृत करने के लिए मेटा के चल रहे प्रयास उसके प्लेटफार्मों पर विश्वास और अखंडता बनाए रखने में महत्वपूर्ण होंगे।
