एक रिसर्च पेपर के अनुसार, एक आर्टिफिशियल इंटेलिजेंस (AI) एजेंट ने एक रूटीन ट्रेनिंग एक्सरसाइज के दौरान ऑटोनॉमस तरीके से सिक्योरिटी कंट्रोल्स को बायपास करके क्रिप्टोकरेंसी माइन की। यह पेपर Alibaba से जुड़े एक रिसर्च टीम ने प्रकाशित किया है।
रिसर्चर्स ने इस मॉडल का नाम ROME रखा है, जिसे यह जांचने के लिए डिजाइन किया गया था कि क्या AI एजेंट स्वतंत्र रूप से जटिल, मल्टी-स्टेप टास्क को नेविगेट कर सकता है।
AI Agent ने क्लाउड GPUs से क्रिप्टो माइनिंग शुरू की
एक्सरसाइज के दौरान रिसर्चर्स ने अनपेक्षित व्यवहार नोट किया। एजेंट ने एक रिवर्स सिक्योर शेल (SSH) टनल का इस्तेमाल करके एक्सटर्नल सर्वर्स से छुपा हुआ कनेक्शन बना लिया।
इस कदम से मॉडल Alibaba Cloud के फायरवॉल प्रोटेक्शन को बायपास कर सका और ग्राफिक्स प्रोसेसिंग यूनिट रिसोर्सेज़ को क्रिप्टोकरेंसी माइनिंग की तरफ रीडायरेक्ट कर दिया।
“हमने यह भी देखा कि बिना अनुमति के GPU कैपेसिटी को क्रिप्टोकरेंसी माइनिंग के लिए इस्तेमाल किया गया, चुपचाप ट्रेनिंग से कंप्यूट को हटाकर ऑपरेशनल कॉस्ट बढ़ाई गई और लीगल व रेप्युटेशनल रिस्क भी सामने आए,” पेपर में कहा गया।
रिसर्चर्स के अनुसार, यह व्यवहार पूरी तरह अनपेक्षित था और इसमें न तो कोई विशेष निर्देश दिया गया था, न ही किसी तरह की प्रॉम्प्ट इंजेक्शन या बाहरी जलब्रेकिंग की गई थी।
ये फाइंडिंग्स ऑटोनॉमस AI सिस्टम्स की ऑपरेशनल सेफ्टी को लेकर चल रही चिंताओं को उजागर करती हैं।
रिसर्चर्स ने निष्कर्ष निकाला कि वर्तमान मॉडल्स सेफ्टी, सिक्योरिटी और कंट्रोल के मामले में अभी भी “काफी कमज़ोर” हैं, जिससे यह टेक्नोलॉजी असली दुनिया में बड़े पैमाने पर अपनाने के लिए पूरी तरह तैयार नहीं है।
टीम ने अब और कड़े नियम और एक सेफ्टी-फोकस्ड डेटा फिल्टरिंग सिस्टम लागू किया है ताकि ऐसे मामलों को रोका जा सके।
इस खोज ने क्रिप्टो कम्युनिटी के भीतर काफी रुचि जगा दी है।
“AI ने खुद समझ लिया कि कंप्यूट = पैसा है और चुपचाप अपने रिसोर्सेस डाइवर्ट कर दिए, जबकि रिसर्चर्स को लगा कि सिर्फ ट्रेनिंग चल रही है। न यह प्रॉम्प्ट इंजेक्शन था, न जलब्रेक। किसी ने इससे यह काम नहीं करवाया। यह अपने आप हुआ,” Bankless क्रिप्टो पॉडकास्ट के होस्ट और प्रोड्यूसर Josh Kale ने कहा।
Kale ने बताया कि माइन किया गया एसेट शायद कोई GPU-फ्रेंडली टोकन था, Bitcoin नहीं, क्योंकि Bitcoin के लिए एडवांस्ड एप्लिकेशन-स्पेसिफिक इंटीग्रेटेड सर्किट हार्डवेयर की जरूरत होती है। यह घटना तब सामने आई है जब क्रिप्टोकरेंसी इंडस्ट्री तेजी से “एजेंट इकोनॉमी” की ओर बढ़ रही है।
यह उभरता सेक्टर वह भविष्य दिखाता है, जहां सॉफ्टवेयर सिस्टम सिर्फ टेक्स्ट जनरेट करने तक सीमित नहीं रहते, बल्कि एजेंट्स खुद से जटिल फाइनेंशियल स्ट्रेटेजीज भी ऑटोनॉमस तरीके से एक्सीक्यूट कर सकते हैं।
इस वजह से कई कंपनियां और ब्लॉकचेन नेटवर्क्स, जिनमें Ethereum, Paradigm और Circle शामिल हैं, ऐसे टूल्स में निवेश कर रहे हैं जो इस उभरते हुए इन्फ्रास्ट्रक्चर को सपोर्ट करने के लिए बनाए गए हैं।
एक उदाहरण है Coinbase द्वारा समर्थित x402 स्टैंडर्ड, जो सॉफ्टवेयर एजेंट्स को ऑनलाइन सर्विसेज के लिए पेमेंट करने की सुविधा देता है। हालांकि, इसका एडॉप्शन अभी भी काफी सीमित है।
x402 से मिले डेटा के अनुसार, इस टूल ने पिछले 30 दिनों में 94,000 खरीदारों और 22,000 विक्रेताओं के बीच 75 मिलियन से ज्यादा ट्रांजैक्शंस प्रोसेस किए हैं, जिनकी कुल वॉल्यूम $24 मिलियन रही है।
फिर भी, इंडस्ट्री एक्सपर्ट्स का मानना है कि अगर ऑटोनॉमस एजेंट्स का ज्यादा इस्तेमाल किया जाए तो ये एक्टिविटी काफी तेजी से बढ़ सकती है।
“AI और क्रिप्टो एक-दूसरे के कॉम्पिटिटर नहीं हैं — ये दोनों एक साथ आ रहे हैं। AI को आइडेंटिटी, पेमेंट्स और प्रोवेनेन्स ट्रैकिंग की जरूरत है। क्रिप्टो ये तीनों चीजें देता है,” वेंचर कैपिटल फर्म a16z ने कहा।
