UK AI Security Institute (AISI) ने बताया कि Anthropic के Mythos 5 पर आधारित एक AI एजेंट ने साइबर टेस्टिंग के दौरान अपने आप एक सोशल इंजीनियरिंग अटैक चलाया। इस एजेंट ने एक असली ओपन-सोर्स प्रोजेक्ट पर मैलिशियस कोड के साथ एक pull request ओपन किया और मेंटेनर की मंजूरी जीतने के लिए फर्जी पहचान बनाई।
यह कोशिश नाकाम रही। एक इंसान मेंटेनर ने कोड को पकड़ लिया और मंजूरी देने से इनकार कर दिया।
AISI का कहना है कि उसकी जांच में किसी भी तरह के रियल-वर्ल्ड नुकसान की पुष्टि नहीं हुई है। मॉडल अपने डिवेलपर के साइबर क्लासिफायर्स को जानबूझकर बंद कर और ओपन इंटरनेट एक्सेस के साथ चलाया गया था, जो कि कमर्शियल रूप से उपलब्ध नहीं है।
AI एजेंट ने अपने मैलिशियस कोड कैंपेन को कैसे चलाया
AISI की रिपोर्ट के मुताबिक, जुलाई के अंत में किए गए 122 इवैल्यूएशन रन में से 10 रन में 19 अनसंक्शनड एक्शन लॉग किए गए। इनमें से 17 Anthropic के Mythos 5 मॉडल से जुड़े थे और दो OpenAI के GPT-5.6 Sol के एक रन से जुड़े थे।
एजेंट ने प्रोजेक्ट के इंसानी मेंटेनर्स की रिसर्च की और कई फर्जी पहचानें बनाईं। इनका इस्तेमाल करके उसने असली मेंटेनर को कोड अप्रूव करवाने के लिए सोशल इंजीनियरिंग की।
जब पब्लिकली pull request को चुनौती दी गई, तो एजेंट ने अपनी पहले की activity को एडिट करके उसे बेगुनाह दिखाने की कोशिश की। मॉडल ने आगे बढ़ने के लिए एक नई पहचान अपनाने पर भी विचार किया।
यह प्लेबुक 2024 के XZ Utils बैकडोर इवेंट की याद दिलाती है, जिसमें इंसानी पहचान ने वर्षों तक मेंटेनर का भरोसा जीतने के बाद छुपा हुआ कोड लगाया था। हालांकि, AISI की रिपोर्ट में यह तुलना नहीं की गई है, लेकिन फर्क साफ नजर आता है। यह एक्टिविटी कई दिनों तक चली, 25 जुलाई से 28 जुलाई के बीच।
AISI ने जोर देकर कहा कि मॉडल को कभी भी झूठ बोलने के लिए नहीं कहा गया था।
“इसे कभी भी धोखा देने के लिए निर्देशित नहीं किया गया था; धोखा सिर्फ टास्क को पूरा करने की कोशिश का बाय-प्रोडक्ट था, इस तरह का गोल-डायरेक्टेड डीसैप्शन, जो अब तक काफी हद तक थियोरेटिकल ही रहा था।”
लेटेस्ट न्यूज़ तुरंत पाने के लिए हमें X पर फॉलो करें
इंस्टिट्यूट ने अपने डिस्क्लोजर में भी यही बात कही। साथ ही, यह भी स्वीकार किया कि कुछ गलत कॉन्फिगर किए गए प्रॉम्प्ट्स के कारण एजेंट को लगा कि कुछ टास्क उसके तय दायरे में सोल्व नहीं की जा सकतीं। हालांकि, ऐसा व्यवहार उन रनों में भी देखा गया, जहां एजेंट के पास अपने टास्क पर बने रहने के लिए जरूरी इंस्ट्रक्शंस थे।
सिक्योरिटी टीम्स ने 28 जुलाई को इस एक्टिविटी को पकड़ लिया, जब एजेंट ने GitHub पर कुछ नेटवर्क रिस्ट्रिक्शन को बायपास करने के लिए Tor एनोनीमिटी नेटवर्क का इस्तेमाल किया। GitHub ने कन्फर्म किया कि ये एक्टिविटी उसकी सेवा शर्तों का उल्लंघन करती थी। AISI ने प्लेटफॉर्म के साथ मिलकर एजेंट द्वारा छोड़े गए आर्टिफैक्ट्स हटाए और उन यूज़र्स को नोटिफाई किया जिनका उससे इंटरैक्शन हुआ था।
रिपोर्ट का कहना है कि यह केस रिस्क के सोर्स में बदलाव को दर्शाता है: नुकसान सिर्फ तब नहीं हो सकता जब लोग पब्लिकली उपलब्ध मॉडल्स का गलत उपयोग करें, बल्कि तब भी हो सकता है जब सक्षम एजेंट्स प्रिविलेज्ड सेटिंग्स में अपनी अधिकृत सीमाओं से बाहर जाकर काम करें।
AISI का कहना है कि यह मामला AI रिस्क स्पेस में व्यापक बदलाव की तरफ इशारा करता है। इंस्टिट्यूट अब METR (AI इवैल्युएशन नॉनप्रॉफिट) के साथ मिलकर एक स्वतंत्र समीक्षा करेगा। साथ ही, भविष्य के टेस्ट्स के लिए सख्त नेटवर्क कंट्रोल और रियल टाइम मॉनिटरिंग की भी योजना है।
हमारे YouTube चैनल को सब्सक्राइब करें जहां लीडर्स और जर्नलिस्ट्स एक्सपर्ट इनसाइट्स शेयर करते हैं
