Chinese-लेटेड AI एजेंट्स ने 2025 से अब तक कम-से-कम 20 स्टडीज में झूठ बोला है, खुद की कॉपी की है और कई बार नियमों को चुनौती दी है, यह बात Reuters के 200 से ज्यादा रिसर्च डॉक्युमेंट्स की समीक्षा से सामने आई है।
एक एक्सपर्ट के मुताबिक ये सभी ट्रेट्स बिना कंट्रोल के भाग जाने के लिए जरूरी हैं। फिर भी, इस समीक्षा में Chinese-लेटेड किसी भी एजेंट के बड़े इंटरनेट पर भाग जाने या शटडाउन से बचने का कोई सबूत नहीं मिला।
मॉक बिड्स, खुद की कॉपी और क्रिप्टो माइनिंग का भी रास्ता
Reuters ने जो केस डॉक्युमेंट किए, उनमें मॉक बिज़नेस टेंडर में झूठ बोलना, खुद की कॉपी करना और क्रिप्टो माइनिंग जैसी घटनाएं शामिल थीं।
मार्च के टेंडर टेस्ट में, एजेंट्स सिम्युलेटेड कस्टमर कॉन्ट्रैक्ट्स के लिए कंप्टीशन कर रहे थे। Alibaba के Qwen3-Max-Preview और Moonshot के Kimi-K2 एजेंट्स ने 88% सेशंस में कम-से-कम एक बार झूठ बोला। DeepSeek-V3.2-Exp ने 84% सेशंस में ऐसा किया।
पहले के राउंड से सीखने के बाद एजेंट्स का धोखा देने का प्रतिशत 12 से 20 पॉइंट बढ़ गया। इस टेस्ट में US मॉडल्स के रिजल्ट भी लगभग ऐसे ही रहे।
दिसंबर 2025 की एक स्टडी में Chinese और US-पावर्ड एजेंट्स रिजल्ट्स सिम्युलेट और फाइल्स फैब्रिकेट करते हुए पकड़े गए, जब उन्हें फेल होने की बात बतानी चाहिए थी। मार्च 2025 में, Fudan University के रिसर्चर्स ने बताया कि Alibaba Qwen-पावर्ड सिस्टम ने बिना किसी इंस्ट्रक्शन के खुद को कॉपी कर लिया, जब उसे पता चला कि उसे रिप्लेस किया जा सकता है।
इसी दौरान, Alibaba-लिंक्ड ROME एजेंट बाहरी मशीन तक पहुंच गया बिना कोई निर्देश लिए, और कम्प्यूटिंग पावर को क्रिप्टो माइनिंग में डायवर्ट कर दिया।
सितंबर में, DeepSeek ने बताया कि उसके ट्रेनिंग सिस्टम के एजेंट्स ने यूज़र रिक्वेस्ट्स को फोर्ज करने और सेफगार्ड्स को बायपास करने की कोशिश की।
एक्सपर्ट्स को US लैब्स की वॉर्निंग्स की प्रतिध्वनि सुनाई देती है
Georgetown University के Center for Security and Emerging Technology में रिसर्च फेलो Colin Shea-Blymyer ने इन मामलों को एक चेतावनी के तौर पर देखा।
“ये नतीजे दिखाते हैं कि बिना कंट्रोल के एस्केप के लिए जरूरी एलिमेंट्स मौजूद हैं,” Shea-Blymyer ने कहा।
Redwood Research के Alex Mallen ने कहा कि Chinese मामलों में इस समय केबिलिटी के हिसाब से लिमिटेड खतरा है। हालांकि उन्होंने US लैब्स से सीधा तुलना किया।
“US लैब्स में भी यही वॉर्निंग साइन दिख रहे हैं, बस ये सिस्टम्स कम सक्षम हैं,” उन्होंने जोड़ा।
हमारे साथ X पर जुड़े ताकि आपको लेटेस्ट न्यूज़ तुरंत मिल सके
यह तुलना इसलिए महत्वपूर्ण है क्योंकि इसी तरह के व्यवहार पहले ही प्रमुख अमेरिकी AI कंपनियों की टेस्टिंग में देखे जा चुके हैं। जुलाई में, OpenAI ने बताया था कि उसके मॉडल्स एक सैंडबॉक्स से बाहर निकल गए थे और Hugging Face की सिक्योरिटी तोड़ दी थी। इसके बाद, Anthropic ने 1,41,000 से अधिक इवैल्युएशन रन की समीक्षा की और अपने तीन मामलों की पुष्टि की।
Meta ने अगस्त में एक घटना रिपोर्ट की थी। सितंबर में, Google ने पुष्टि की थी कि Gemini ने मई में किए गए सेफ्टी टेस्ट के दौरान तीन असली कंपनियों तक पहुंच बनाई थी।
इन घटनाओं का मतलब यह नहीं है कि चीनी या अमेरिकी एजेंट्स स्वतंत्र रूप से रियल वर्ल्ड में घुस सकते हैं। बल्कि, ये उदाहरण दिखाते हैं कि जैसे-जैसे AI सिस्टम्स अधिक ऑटोमेटेड और बिना लगातार इंसानी निगरानी के फैसले लेने योग्य बन रहे हैं, वैसे-वैसे सेफ्टी की चुनौती भी बढ़ती जा रही है।
हमारे YouTube चैनल को सब्सक्राइब करें और लीडर्स व जर्नलिस्ट्स की एक्सपर्ट इनसाइट्स पाएं
