अब तक चार प्रमुख AI लैब्स ने पुष्टि की है कि उनके मॉडल ओपन इंटरनेट तक पहुंचे और असली कंपनियों के सिस्टम्स तक एक्सेस कर पाए। इस लिस्ट में शुक्रवार को Google भी जुड़ गया, जबकि उसकी खुद की घटनाएं लगभग चार महीने पहले हुई थीं।
Gemini ने मई में हुई एक इवेलुएशन के दौरान तीन असली कंपनियों के सिस्टम्स एक्सेस किए। खास बात ये है कि इन तीनों ही मामलों में मॉडल खुद ही रुक गया।
Google का Gemini टेस्ट के दौरान 3 कंपनियों के सिस्टम्स हैक करता है
यह घटना “capture-the-flag” सिक्योरिटी एक्सरसाइज़ के दौरान हुई थी, जिसे Irregular ने कंडक्ट किया। टेस्ट सेटअप में इंटरनेट एक्सेस जोड़ना शामिल नहीं था। लेकिन टेस्ट एनवायरनमेंट में एक एरर की वजह से मॉडल को इंटरनेट एक्सेस मिल गया।
एक उदाहरण में, इस मॉडल ने पासवर्ड्स गेस करते-करते एक प्रोटेक्टेड सिस्टम में एंट्री पा ली, The Wall Street Journal की रिपोर्ट के मुताबिक। बाकी दो केस में, उसने एक पब्लिक रिपॉजिटरी में खुले क्रेडेंशियल्स ढूंढ लिए और उनका यूज़ करके प्रोटेक्टेड सिस्टम्स में एक्सेस ले ली।
Google की वाइस प्रेसिडेंट ऑफ सिक्योरिटी इंजीनियरिंग Heather Adkins ने बताया कि जिन तीन कंपनियों पर असर पड़ा, उन्हें इस घटना के बारे में बता दिया गया है।
“हमने सुनिश्चित किया कि उन तीन कंपनियों को जानकारी दे दी गई है, और हमने अपने ट्रेनिंग पार्टनर के साथ मिलकर उनके टेस्टिंग प्रोसेस में किए गए चेंजेस पर काम किया,” Adkins ने कहा।
हमारे X अकाउंट पर जुड़ें ताज़ा न्यूज़ सबसे पहले पाने के लिए
चार लैब्स, एक पैटर्न
Google ने कहा कि एजेंट्स ने अपनी एक्टिविटी तभी रोक दी जब उन्हें पता चला कि उन्होंने असली कंपनी सिस्टम्स को टारगेट किया है, नकली नहीं।
“एक स्टैंडर्ड इवेलुएशन में, मॉडल ने ऑनलाइन पब्लिक इंफॉर्मेशन ढूंढी और टेस्ट का हिस्सा समझकर वेबसाइट्स एक्सेस करने के लिए क्रेडेंशियल्स गेस किए,” Adkins ने अपने बयान में बताया।
कंपनी ने यह भी कहा कि यह व्यवहार मॉडल मिसअलाइनमेंट का उदाहरण नहीं है और चूंकि Gemini की सेफ्टी मेजर्स ने सही तरह काम किया, इसलिए इसे पब्लिकली डिस्क्लोज़ करने की जरूरत नहीं पड़ी।
Irregular के प्रवक्ता ने बताया कि यही समस्या अन्य AI लैब्स को भी प्रभावित कर चुकी है। Irregular ने जुलाई के अंत में इसमें शामिल सभी लैब्स को नोटिफाई कर दिया था। प्रवक्ता ने आगे जोड़ा कि इनकी तरफ से जो इश्यूज़ थे, उन्हें कुछ हफ्ते पहले ही फिक्स कर दिया गया है।
इस डिस्क्लोज़र के साथ अब Google, OpenAI, Anthropic और Meta के साथ खड़ा है, जिन्होंने इस साल अपने मॉडल्स के टेस्ट एनवायरनमेंट से बाहर जाने की घटनाएं रिपोर्ट की हैं।
OpenAI ने जुलाई में बताया था कि उसके मॉडल्स ने सैंडबॉक्स से बाहर निकलकर Hugging Face को ब्रीच किया। इसके बाद Anthropic ने 1,41,000 से ज्यादा इवेलुएशन रन की जांच की, जिसमें उसे भी अपने तीन केस मिले। Meta ने अगस्त में एक घटना रिपोर्ट की।
हमारे YouTube चैनल को सब्सक्राइब करें और लीडर्स और जर्नलिस्ट्स से एक्सपर्ट insights पाएं
