AI-आधारित टूल्स के इस्तेमाल से बनाए जा रहे डीपफेक कंटेंट ने पब्लिक सेफ्टी को लेकर नई चिंता पैदा कर दी है।
जैसे-जैसे ये टेक्नोलॉजी ज्यादा एडवांस और आसानी से उपलब्ध हो रही है, वैसे-वैसे सेंट्रलाइज्ड एक्सचेंजेज़ में यूजर की विज़ुअल आइडेंटिटी वेरिफिकेशन सिस्टम की विश्वसनीयता पर भी सवाल उठने लगे हैं।
सरकारें Deepfakes पर लगाम लगाने की तैयारी में
भ्रामक वीडियो सोशल मीडिया प्लेटफॉर्म्स पर तेजी से फैल रहे हैं, जिससे डिसइन्फॉर्मेशन और फर्जी कंटेंट की नई लहर को लेकर चिंता बढ़ गई है। इस टेक्नोलॉजी का बढ़ता गलत इस्तेमाल लोगों की पब्लिक सेफ्टी और पर्सनल इंटेग्रिटी को खतरे में डाल रहा है।
यह मुद्दा इतना बड़ा हो गया है कि ग्लोबली कई सरकारें डीपफेक के इस्तेमाल को गैरकानूनी बनाने के लिए कानून ला रही हैं।
इस हफ्ते, Malaysia और Indonesia डीपफेक के गलत इस्तेमाल को लेकर Elon Musk की xAI द्वारा डेवलप किए गए आर्टिफिशियल इंटेलिजेंस चैटबोट Grok की एक्सेस पर रोक लगाने वाले पहले देश बने हैं। अधिकारियों ने कहा कि उसके दुरुपयोग को लेकर चिंता के चलते ये फैसला लिया गया है, जिसमें सेक्सुअली एक्सप्लिसिट और बिना सहमति के इमेजेस जनरेट की जा रही थीं।
California के अटॉर्नी जनरल Rob Bonta ने भी इसी तरह का कदम उठाया है। बुधवार को उन्होंने कंफर्म किया कि उनका दफ्तर कई ऐसी रिपोर्ट्स की जांच कर रहा है जिनमें असली लोगों की बिना सहमति के सेक्सुअल इमेजेस बनाई और शेयर की गई हैं।
“ये कंटेंट, जिसमें महिलाओं और बच्चों को न्यूड या सेक्सुअली एक्सप्लिसिट सिचुएशन में दिखाया गया है, इंटरनेट पर लोगों को परेशान करने के लिए इस्तेमाल किया गया है। मैं xAI से अपील करता हूं कि वे तुरंत एक्शन लेकर आगे ऐसी चीजें रुकवाएं,” Bonta ने अपने स्टेटमेंट में कहा।
पहले के डीपफेक कंटेंट की तुलना में, नए टूल्स प्रोम्प्ट मिलने पर डायनेमिक तरीके से रेस्पॉन्ड कर सकते हैं। ये नैचरल फेसियल मूवमेंट्स और बोलने के स्टाइल को भी काफ़ी अच्छे से कॉपी करते हैं।
इसी वजह से, जैसे किसी शख्स के पलकें झपकाना, स्माइल करना या सिर हिलाना जैसी बेसिक चीजें भी अब यूजर की आइडेंटिटी की कंफर्मेशन के लिए भरोसेमंद नहीं रहीं।
इन एडवांसमेंट्स का डायरेक्ट असर सेंट्रलाइज्ड एक्सचेंजेज पर पड़ा है जो यूजर ऑनबोर्डिंग के दौरान विज़ुअल वेरिफिकेशन पर निर्भर करते हैं।
Centralized exchanges पर दबाव
डीपफेक से जुड़े फ्रॉड का फाइनेंशियल असर अब थ्योरी तक सीमित नहीं रहा है।
इंडस्ट्री एक्सपर्ट्स और टेक्नोलॉजी रिसर्चर्स ने चेतावनी दी है कि AI-जेनरेटेड इमेजेस और वीडियो अब इंश्योरेंस क्लेम्स और लीगल डिस्प्यूट्स जैसी सिचुएशन्स में भी तेजी से दिखने लगे हैं।
क्रिप्टो प्लेटफॉर्म्स जो ग्लोबल लेवल पर ऑपरेट करते हैं और अक्सर ऑटोमेटेड ऑनबोर्डिंग पर डिपेंड रहते हैं, अगर सेफगार्ड्स टेक्नोलॉजी के साथ-साथ डेवलप नहीं हुए, तो ऐसे प्लेटफॉर्म्स इस तरह की एक्टिविटी के लिए आकर्षक टारगेट बन सकते हैं।
जैसे-जैसे AI से जेनरेट हुआ कंटेंट और भी ज्यादा आसान होता जा रहा है, सिर्फ विज़ुअल वेरीफिकेशन पर बेस्ड ट्रस्ट अब शायद काफी नहीं रहेगा।
क्रिप्टो प्लेटफॉर्म्स के लिए सबसे बड़ी चुनौती जल्दी एडॉप्ट करने की होगी, ताकि टेक्नोलॉजी यूज़र्स और सिस्टम्स को सिक्योर रखने के लिए बनाएं गए सेफगार्ड्स से आगे ना निकल जाए।
