एक प्रतिद्वंदी के खुद के AI मॉडल ने OpenAI के खिलाफ ब्रीच में असली काम किया। Hacktron AI के रिसर्चर्स ने Anthropic के Claude का इस्तेमाल करके काम करने वाला एक्सप्लॉइट कोड लिखा।
पूरा इंट्रूजन 72 घंटे से भी कम समय में हो गया। OpenAI ने आखिरकार $6,500 का इनाम तब दिया जब टीम ने यह साबित कर दिया कि वे प्राइवेट सोर्स कोड तक पहुंच चुके हैं।
कैसे एक इमेज अपलोड ने पूरा ब्रीच बना दिया
अटैक चेन शुरू हुई थी एक आम सी चीज से: OpenAI के कम्युनिटी हेल्प फोरम की इमेज अपलोड फीचर से, जो थर्ड पार्टी सॉफ्टवेयर Discourse पर चलता है।
एक सेफ्टी फ़िल्टर अपलोड की गई फाइल्स को स्क्रीन करने वाला था। लेकिन ये कुछ फोटो फॉर्मेट्स को पहचान ही नहीं सका, जिससे वे फाइल्स बिना चेक हुए अपलोड हो गईं। इसके बाद ये फाइल्स एक अलग इमेज-प्रोसेसिंग लाइब्रेरी में पहुंच गईं, जिसमें पहले से एक मेमोरी-करप्शन फ्लॉ था।
Hacktron की तीन लोगों की टीम — Harsh Jaiswal, Mohan Pedhapati और Rahul Maini — ने जुलाई के आखिर में उस खामी का गलत फायदा उठाने की कोशिश की।
Claude के पहले वाले मॉडल ने उस सिक्योरिटी सेफगार्ड के सामने संघर्ष किया, जिसमें मेमोरी लोकेशन को रैंडमाइज किया गया था।
कुछ घंटों बाद, नए मॉडल ने फंक्शनल अटैक कोड तैयार किया और उसे फोरम की सही सेटिंग्स के हिसाब से एडजस्ट भी कर दिया।
X पर हमें फॉलो करें ताकि आपको लेटेस्ट न्यूज़ तुरंत मिल सके।
इतना करने के बाद भी टीम को सिर्फ फोरम के सर्वर तक की ही एक्सेस मिली थी, OpenAI खुद तक नहीं। एक दूसरी, पर अलग खामी OpenAI की सिंगल साइन-ऑन सेटअप में मिली, जिसने सब बदल दिया।
क्योंकि फोरम का लॉगिन, ChatGPT और Codex अकाउंट की ऑथेंटिकेशन जैसा ही था, एक एम्प्लॉयी की एक सेशन को हैक करना, सीधा OpenAI के प्राइवेट कोड रिपॉजिटरी तक पहुंचने के लिए काफी था।
Discourse ने इमेज वाली बग को कुछ ही दिनों में पैच कर दिया और उसकी गंभीरता को 10 में से 8.8 रेट किया। OpenAI ने ऑथेंटिकेशन की इस कमी को बग बाउंटी प्रोग्राम में रिपोर्ट मिलने के करीब 14 घंटे में ही फिक्स कर दिया।
AI लैब्स को बार-बार अपनी खुद की creations के कारण क्यों फंसना पड़ता है?
यह घटना अलग-थलग नहीं हुई है। OpenAI ने पहले ही जुलाई में खुलासा किया था कि उनके इंटरनल मॉडल टेस्टिंग सैंडबॉक्स से बाहर निकलकर बाहरी सिस्टम्स तक पहुंच गए थे।
Anthropic ने भी माना कि Claude ने साइबरसिक्योरिटी evaluations के दौरान असली organizations को कंप्रोमाइज किया था, जिसमें अनजाने में लाइव इंटरनेट access था।
Microsoft के AI प्रमुख Mustafa Suleyman ने इसी हफ्ते इसी unauthorized agents के ग्रुप का जिक्र किया, और पब्लिकली चेतावनी दी कि अब ये ऑटोनोमस मॉडल्स को कंट्रोल करना पहले से ज्यादा मुश्किल होता जा रहा है।
“यह एक चेतावनी है… अब साफ है कि सभी labs को मिलकर coordinate करने का समय आ गया है, ताकि हम सुनिश्चित कर सकें कि हमारे पास इस technology का control है,” Suleyman ने Reuters को बताया।
Hacktron केस की खासियत इसकी नयापन नहीं, बल्कि इसका उदाहरण बनना है। सिक्योरिटी रिसर्चर्स ने सॉफ्टवेयर बग्स को जोड़ने का काम दशकों किया है।
जो बदलाव आया है वो है स्पीड: पहले जिस टास्क के लिए स्पेशलाइज्ड ह्यूमन एक्सपर्टीज और लंबा समय जरूरी था, अब वही काम जब किसी सक्षम मॉडल को involve किया गया तो कुछ घंटों में हो गया।
हमारे YouTube चैनल को सब्सक्राइब करें और जानें एक्सपर्ट्स और जर्नलिस्ट्स से खास insights.
