Meta ने बुधवार को पुष्टि की कि उसके एक AI मॉडल ने एक साइबरसिक्योरिटी टेस्ट के दौरान एक बाहरी कंपनी के सिस्टम में सेंध लगा दी थी।
यह हाल ही में ऐसी घटना का खुलासा करने वाली तीसरी बड़ी AI कंपनी बन गई है।
Meta ने ब्रीच को लेकर क्या कहा
मीडिया रिपोर्ट्स के अनुसार, Meta के AI मॉडल ने एक अनजान थर्ड-पार्टी सर्विस के सिस्टम तक पहुंच बना ली थी। यह घटना एक स्वतंत्र टेस्टिंग कंपनी द्वारा की गई जांच के दौरान हुई, जिसमें इसे इंटरनेट एक्सेस मिल गया था।
“Irregular नाम की इंडिपेंडेंट टेस्टिंग कंपनी, जिसे Meta इस्तेमाल करती है, की एक गलत सेटिंग की वजह से हमारे एक मॉडल को टेस्टिंग के दौरान इंटरनेट एक्सेस मिल गया,” Meta के प्रवक्ता ने कहा।
लेटेस्ट न्यूज़ के लिए X पर फॉलो करें
मीडिया रिपोर्ट्स में इस मॉडल की पहचान Meta के Muse Spark के रूप में की गई है। Irregular के एक प्रवक्ता ने कहा कि यह घटना “बिल्कुल वही ईवैलुएशन-एनवायरनमेंट समस्या थी जिसे पिछले हफ्ते Anthropic द्वारा डिस्क्लोज किया गया था।”
Irregular ने यह ब्रीच Meta को रिपोर्ट कर दी थी। कंपनी ने बताया है कि वह घटना की जांच कर रही है और पूरी जानकारी इकट्ठा करने के बाद डिटेल रिपोर्ट जारी करेगी।
यह खुलासा Anthropic और OpenAI द्वारा हाल ही के हफ्तों में किए गए ऐसे ही स्वीकारोक्ति के बाद हुआ है। Anthropic ने 141,006 ईवैलुएशन रन रिव्यू किए और पाया कि उसके Claude मॉडल्स ने तीन संगठनों के असली सिस्टम में एंट्री कर ली थी। वहीं, OpenAI का एजेंट sandbox से बाहर निकलकर Hugging Face के सिस्टम में भी सेंध लगा चुका है।
Irregular ने साफ कर दिया कि इसमें कोई sandbox एस्केप नहीं हुआ और अब कोई भी समस्या बाकी नहीं है।
“इसमें न तो sandbox से एस्केप हुई और न ही कोई एडवांस्ड साइबर एक्शन हुआ। अभी कोई ओपन इश्यू नहीं है। Irregular containment और सेफ तरीके से cyber evаls रन करने के लिए बेस्ट प्रैक्टिसेस शेयर करने हेतु एक व्हाइट पेपर भी बना रही है,” Irregular के प्रवक्ता ने बताया।
ये डिस्क्लोजर दिखाते हैं कि AI एजेंट्स की कैपेबिलिटीज तेजी से बढ़ रही हैं और इनके साथ कई संभावित खतरे भी जुड़े हो सकते हैं।
हमारे YouTube चैनल को सब्सक्राइब करें जहां एक्सपर्ट्स और जर्नलिस्ट्स की इनसाइट्स देखें
