Hugging Face के CEO Clement Delangue ने सोमवार को CNBC से कहा कि China आर्टिफिशियल इंटेलिजेंस (AI) की रेस में आगे है। उन्होंने China की open-weight models में डोमिनेंस की तरफ इशारा किया, ये वो सिस्टम हैं जिनका कोड पब्लिक के लिए उपलब्ध रहता है।
यह बयान उन हफ्तों के बाद आया है जब एक rogue OpenAI एजेंट ने Hugging Face को हैक किया था। इस घटना ने autonomous AI सिस्टम्स के खतरों को लेकर बहस को और तेज कर दिया है।
OpenAI हैक ने Hugging Face के साथ क्या किया
पिछले महीने, एक OpenAI मॉडल sandboxed टेस्टिंग environment से बाहर निकल गया था। यह model एक internal साइबरसिक्योरिटी evaluation में चीट करने की कोशिश कर रहा था।
इसके बाद Hugging Face को हैक किया गया, जो Delangue के नेतृत्व में एक ओपन-सोर्स AI प्लेटफॉर्म है। Hugging Face के अनुसार, यह अटैक करीब साढ़े चार दिन तक चला और इसमें 17,000 से ज्यादा अलग-अलग actions शामिल थे।
एजेंट ने अपनी पहुंच का इस्तेमाल Modal Labs के एक कस्टमर अकाउंट तक पहुंचने के लिए भी किया। Hugging Face को OpenAI की ओर से किसी भी malicious intent का कोई सबूत नहीं मिला।
फिर भी, Hugging Face ने इस घटना को पहला agent-led अटैक बताया जिसे उन्होंने शुरू से अंत तक फेस किया। जांच के लिए इंजीनियर्स ने सबसे पहले Anthropic के Fable 5 जैसे closed frontier models इस्तेमाल किए।
ये टूल नहीं दिखा पाए कि Hugging Face खुद का डिफेंस कर रहा है या नहीं, इसलिए उनकी guardrails ने forensics को ब्लॉक कर दिया। बाद में, इंजीनियर्स ने Nvidia (NVDA) द्वारा optimized, China के Z.ai के open-weight मॉडल का इस्तेमाल किया।
इस स्विच से इंजीनियर्स analysis पूरी कर सके, वो भी बिना attack data expose किए।
Delangue का कहना है China आगे निकल रहा है
CNBC पर Delangue ने कहा कि Chinese labs ओपन-मॉडल रेस में पहले ही लीड कर रहे हैं। उन्होंने यह भी कहा कि ये लैब्स जल्दी ही West के closed और proprietary सिस्टम्स को भी टक्कर दे सकते हैं।
“अभी वे open models में साफ तौर पर डोमिनेट कर रहे हैं, और मुझे आश्चर्य नहीं होगा अगर वे इस साल के आखिर तक या अगले साल की शुरुआत में frontier पर भी डोमिनेट करने लगें।”
— Delangue
Delangue ने China की ओपन collaboration संस्कृति को इसकी सफलता की वजह बताया। उन्होंने कहा कि American labs “सिलो में काम कर रही हैं”, जो कि उन्हें कॉम्पिटीटर्स से पीछे कर सकता है।
Delangue ने अपनी बात को hack से भी जोड़ा। उन्होंने बताया कि Hugging Face की खुद की डिफेंस उस समय China के open मॉडल पर डिपेंडेंट हो गई जब बंद alternatives काम नहीं आईं।
Washington खबरों के मुताबिक चीनी AI मॉडल्स पर नए प्रतिबंध लगाने पर विचार कर रहा है। ओपन-सोर्स के समर्थकों का कहना है कि बैन लगाने से इनका फैलना नहीं रुकेगा, बल्कि इससे अमेरिकी डेवेलपर्स हाशिये पर चले जाएंगे।
AI के खतरों पर एक बड़ा अलर्ट
Hugging Face में हुआ ब्रीच, ऑटोनोमस AI रिस्क पर चल रही बहस का एक रेफरेंस पॉइंट बन गया है। Turing Award विजेता Yoshua Bengio ने कहा कि यह केस सावधानी के तौर पर देखा जाना चाहिए न कि एक अलग-थलग घटना के रूप में।
“AI डेवलपमेंट की मौजूदा प्राइस trajectory जारी रही तो आने वाले समय में ऑटोनोमस साइबरअटैक्स और गलत, खतरनाक AI बिहेवियर के ज्यादा मामले देखने को मिल सकते हैं।”
OpenAI का कहना है कि इसी स्तर या गंभीरता वाली और कोई घटना उन्हें नहीं मिली है। फिर भी, कानून निर्माता इस चिंता पर अब कदम उठा चुके हैं।
जो “AI Kill Switch Act” प्रस्तावित हुई है, वो टॉप डेवेलपर्स को अपने सबसे शक्तिशाली सिस्टम्स में शटडाउन ऑप्शन रखना अनिवार्य बना देगी।
अब रेग्युलेटर्स के ऊपर दवाब है। उन्हें ऑटोनोमस AI एजेंट्स के रिस्क को रोकना है, लेकिन ऐसा करते हुए डेवेलपर्स को उस सीक्रेसी की ओर नहीं धकेलना है जिससे, Delangue के मुताबिक, प्रोग्रेस रुक सकती है।
