Anthropic के एक रिसर्चर, Jacob Coxon, ने कहा कि उन्होंने कंपनी से इस्तीफा दे दिया है। उन्होंने आरोप लगाया कि Anthropic और OpenAI खुद-को बेहतर करने वाली सुपरइंटेलिजेंस की तरफ दौड़ रहे हैं और इंसान की जिंदगी के साथ जुआ खेल रहे हैं।
रिसर्चर ने बताया कि उन्होंने पिछले तीन साल दोनों कंपनियों में प्री-ट्रेनिंग वर्क पर बिताए। उन्होंने X पर पोस्ट्स की एक सीरीज में ये दावे किए।
Anthropic रिसर्चर ने अंदर वालों के लिए दी गंभीर चेतावनी
Coxon ने तर्क दिया कि इस टेक्नोलॉजी की दिशा को लोग कम आंक रहे हैं। उन्होंने दावा किया कि आने वाले सिस्टम्स किसी भी चीज को हैक कर सकते हैं, किसी भी फील्ड को रातों-रात बदल सकते हैं और असली ताकत और रिसोर्सेज हासिल कर लेंगे।
उन्होंने यह भी आरोप लगाया कि इंडस्ट्री के अंदर प्राइवेट बातचीत, पब्लिक मेसेजिंग से बिलकुल अलग होती है। Coxon के मुताबिक, सीनियर लोग प्रेस के सामने सॉफ्ट लैंग्वेज यूज करते हैं लेकिन प्राइवेटली डर जाहिर करते हैं।
“AI बनाने वाले लोग सच में मानते हैं कि यह दशक के अंत तक हम सबको मार सकता है। यह कोई मार्केटिंग स्टंट नहीं है,” उन्होंने कहा। “किसी और इंसानी एक्टिविटी से इतना खतरा नहीं है।”
Coxon ने अपने दोनों पुराने एम्प्लॉयर्स के बीच फर्क बताया। उन्होंने कहा कि OpenAI में कई लोग उन सिविलाइज़ेशन इम्पैक्ट्स को समझते ही नहीं हैं, जिन्हें वे जरूरी मानते हैं, जबकि Anthropic इन्हें समझता है पर फिर भी रेस में पहले पहुंचने की जिद में है।
वो उन कई एम्प्लॉयीज़ में से एक हैं जिन्होंने इस साल इस्तीफा दिया है। Anthropic की Safeguards Lead, Mrinank Sharma, ने फरवरी में इस्तीफा दिया था।
OpenAI के पूर्व Chief Futurist, Joshua Achiam ने 1 सितंबर को लिखा कि गलत AI सिस्टम्स खुले में खुद को रिप्लिकेट करेंगे और पैसा और पावर हासिल करेंगे।
लेटेस्ट न्यूज़ के लिए X पर हमें फॉलो करें
कोऑर्डिनेशन की अपील
Coxon ने इसे “एंडगेम” में घुसना बताया और ऐसे फैसले को प्राइवेट कंपनी के Slack से लेने को ओवरकॉन्फिडेंस वाला जुआ कहा।
हालांकि, उन्होंने कोऑर्डिनेशन को लेकर उम्मीद जाहिर की है। उन्होंने कहा कि Hugging Face अटैक के बाद US लैब्स के बीच पेसिंग एग्रीमेंट्स अब ज्यादा मुमकिन लगते हैं।
दोनों कंपनियाँ पहले ही इस आइडिया के एक वर्ज़न को समर्थन दे चुकी हैं। जुलाई में 1,100 से ज़्यादा फ्रंटियर लैब स्टाफ, जिनमें Anthropic के CEO Dario Amodei और OpenAI के चीफ साइंटिस्ट Jakub Pachocki शामिल हैं, ने “Pacing the Frontier” लेटर पर साइन किए थे।
“हम U.S. सरकार से अनुरोध करते हैं कि वह एक इंटरनेशनल प्रयास का समर्थन करे, ताकि ऑटोमेटेड AI डेवलपमेंट के फ्रंटियर को ठीक से कंट्रोल करने के लिए ज़रूरी टेक्निकल और गवर्नेंस टूल्स विकसित किए जा सकें,” लेटर पढ़ता है।
इसके अलावा, दोनों कंपनियों ने साइबर डिफेंस पर एक जॉइंट ओपन लेटर भी साइन किया है, जिसमें Google, Microsoft और लगभग 150 दूसरी ऑर्गनाइजेशन भी शामिल हैं। लेटर में चेतावनी दी गई है कि AI-सक्षम हमले आने वाले महीनों में बहुत ज्यादा और ज्यादा एडवांस्ड होंगे।
Coxon की चेतावनी भी UN ह्यूमन राइट्स चीफ Volker Türk के Human Rights Council को संबोधित करने के बाद आई है, जिसमें उन्होंने कहा advanced AI अस्तित्व के लिए जोखिम बन सकती है।
Coxon ने आगे कहा कि ग्लोबल रेस को रोकने के लिए मॉडल की क्षमताओं को बेहतर बनाने के प्रयासों पर अस्थायी बैन लगाना पड़ सकता है। उन्होंने लैब रिसर्चर्स से यह सोचने के लिए कहा कि क्या वे सुपरइंटेलिजेंट रिइंफोर्समेंट-लर्निंग रन चालू करना चाहेंगे, बगैर उसकी परिणामस्वरूप बनने वाली सिस्टम को समझे।
BeInCrypto ने Anthropic और OpenAI से कमेंट के लिए संपर्क किया है।
हमारे YouTube चैनल को सब्सक्राइब करें जहां लीडर्स और पत्रकार एक्सपर्ट इनसाइट्स शेयर करते हैं
