एक पूर्व Google DeepMind रिसर्चर, जो AGI सेफ्टी पर काम करते थे, ने कहा है कि आर्टिफिशियल इंटेलिजेंस में सभी को मारने की क्षमता है। उन्होंने AI लैब्स छोड़ने वाले सेफ्टी एक्सपर्ट्स की लिस्ट में अपना नाम जोड़ दिया है।
Bilal Chughtai ने जुलाई में कंपनी छोड़ी थी और इस हफ्ते सार्वजनिक रूप से चेतावनी दी। हाल में दो अन्य रिसर्चर्स भी इस्तीफा दे चुके हैं।
AI को लेकर चेतावनियां क्यों बढ़ रही हैं?
Chughtai ने DeepMind में आर्टिफिशियल जनरल इंटेलिजेंस सेफ्टी और अलाइनमेंट पर रिसर्च इंजीनियर के रूप में काम किया। उन्होंने 2022 की शुरुआत में AI पर काम शुरू किया था, जब ये सिस्टम बहुत कम काम के थे।
चार साल बाद, वह OpenAI एजेंट स्वार्म्स का जिक्र करते हैं, जिन्होंने सौ साल पुराने मैथ प्रॉब्लम्स को सॉल्व कर लिया। इससे भी ज्यादा चिंता की बात है कि जुलाई में AI एजेंट्स अपने टेस्ट सैंडबॉक्स से बाहर निकल गए और Hugging Face को बिना किसी इंस्ट्रक्शन के हैक कर लिया।
“मुझे पूरी गंभीरता से लगता है कि AI हम सभी को मार सकती है, और इस नतीजे को रोकने के लिए हमारे पास बहुत कम समय बचा है,” उन्होंने लिखा।
Chughtai का कहना है कि AI कंपनियां अगले कुछ सालों में ऐसे सुपरइंटेलिजेंट सिस्टम बना सकती हैं, जो हर फील्ड में इंसान से बेहतर होंगे।
उन्होंने सवाल उठाया कि क्या डेवलपर्स ऐसे सिस्टम्स को इंसानी टारगेट्स पर चलने के लिए भरोसेमंद बना सकते हैं? उन्होंने चेतावनी दी कि गलत दिशा में गए सुपरइंटेलिजेंस, इंसानी कंट्रोल से बाहर जाकर ऐसे काम कर सकते हैं जो मानवीय अस्तित्व के लिए हमेशा के लिए खतरा बन जाएंगे।
Chughtai ने कहा कि AI अलाइनमेंट अब भी एक अनसुलझी चुनौती है। उनका मानना है कि रिसर्चर्स के पास अभी भी इतने एडवांस्ड सिस्टम्स को इंसानी लक्ष्यों के लिए ट्रेन करने की बेसिक समझ भी नहीं है। साथ ही, उन्होंने चेताया कि AI कैपेबिलिटीज अलाइनमेंट रिसर्च के मुकाबले बहुत तेजी से बढ़ रही हैं।
“अभी हमारी AI सिस्टम्स को ऐसी ट्रेनिंग देने की समझ बहुत ही शुरुआती स्तर की है, जिससे वे वही चाहें जो हम चाहते हैं। इससे भी बुरी बात ये है कि हम अलाइनमेंट की समस्या को समय पर सुलझाने की दिशा में नहीं बढ़ रहे हैं: फ्रंटियर AI की कैपेबिलिटी हमारी अलाइनमेंट की समझ से कहीं तेजी से बढ़ रही हैं,” Chughtai ने जोड़ा।
वे AI डेवलपमेंट पूरी तरह रोकने की मांग नहीं कर रहे हैं। वे AI कंपनियों की दौड़ को धीमा करने के लिए कोऑर्डिनेशन और नए सिस्टम्स को कैसे बनाया और टेस्ट किया जाता है, इस पर ज्यादा ट्रांसपेरेंसी चाहते हैं।
“कुल मिलाकर, हमें बहुत ज्यादा लोगों की जरूरत है जो गंभीरता से सोचें कि AI सही दिशा में कैसे जाए। मेरे अनुसार ये इस शताब्दी में मानवता की सबसे बड़ी समस्या है और दांव बहुत ऊंचे हैं,” पोस्ट में लिखा गया।
हमारे साथ X पर जुड़ें और ताजगी भरी क्रिप्टो न्यूज़ पाएं सबसे पहले
AI इंडस्ट्री में इस्तीफों का सिलसिला जारी
वह इस मैसेज के साथ बाहर निकलने वाले अकेले नहीं हैं। Anthropic के प्रीट्रेनींग रिसर्चर Jacob Coxon ने इसी महीने तीन साल तक Anthropic और OpenAI में काम करने के बाद इस्तीफा दे दिया। उन्होंने यह चेतावनी देते हुए छोड़ा कि “AI बनाने वाले लोग वास्तव में मानते हैं कि यह दशक के अंत तक हम सबको खत्म कर सकता है।”
Anthropic के alignment साइंस लीड Evan Hubinger ने खुद अगले दशक में इसके होने की संभावना 10% से ज्यादा बताई है। OpenAI के रिसर्चर्स ने भी अब स्लोडाउन की मांग का समर्थन किया है।
Josh Engels, जिन्होंने DeepMind सेफ्टी टीम में काम किया था, उन्होंने 12 सितंबर को ऐलान किया कि वह अब इवैल्यूएशन नॉन-प्रॉफिट METR में जुड़ गए हैं। उन्होंने Anthropic और OpenAI के ऑफर्स ठुकरा दिए।
Engels का कहना है कि AI सिस्टम्स से अगले पांच सालों में जबरदस्त नुकसान का डर है।
“अब मुझे लगता है कि अगल पांच साल में AI सिस्टम्स के कारण जबरदस्त नुकसान होने का डरावना मौका है। मुझे इसकी सही संभावना नहीं पता, लेकिन ये इतनी ज्यादा है कि यह दुनिया की सबसे इंपॉर्टेंट प्रॉब्लम बन गई है,” उन्होंने लिखा।
ये एक्सिट्स ऐसे समय में हुई हैं जब टॉप लेवल पर सहमति दिख रही है। Anthropic CEO Dario Amodei ने शनिवार को एक निबंध पब्लिश किया जिसमें कंपनियों से capability gains को धीमा करने का आग्रह किया गया। OpenAI के CEO Sam Altman ने भी इसका समर्थन किया।
अब एग्जीक्यूटिव्स और बाहर जाने वाले रिसर्चर्स, दोनों ही, एक जैसी भाषा में एक ही रिस्क का जिक्र कर रहे हैं। देखने वाली बात यह होगी कि अगली capability जंप से पहले इसका कोई हल निकलता है या नहीं।
हमारे YouTube चैनल को सब्सक्राइब करें और लीडर्स व जर्नलिस्ट्स से जानें एक्सपर्ट इनसाइट्स
