David Robinson, जिन्होंने OpenAI के 12 सबसे बड़े लॉन्च के लिए सेफ्टी रिपोर्ट्स की निगरानी की थी, ने इस्तीफा दे दिया है। उनका कहना है कि कंपनी की ट्रायल-एंड-एरर कल्चर विफलताओं की गारंटी देती है, और जैसे-जैसे इसकी सिस्टम्स ज्यादा सक्षम होती जाती हैं, ये विफलताएं भी बढ़ती जाएंगी।
Atlantic की एक एस्से में उन्होंने AI लैब्स को न्यूक्लियर पावर प्लांट्स की तरह चलाने की सलाह दी है। उनके मुताबिक, इसमें परतदार सुरक्षा, अतिरिक्त तैयारियां और मानवीय गलती को कंट्रोल करने के लिए सावधानीपूर्वक प्लानिंग होनी चाहिए।
Robinson ने AI लैब्स छोड़ने वालों की लंबी लिस्ट में नाम जोड़ा
Robinson ने OpenAI में 3.5 साल काम किया और मौजूदा Preparedness Framework ड्राफ्ट करने में लीड किया। उन्होंने इस समर के Hugging Face incident की तरफ इशारा किया, जब OpenAI एजेंट्स ने Hugging Face के सिस्टम्स में सेंध लगाई थी।
Robinson ने बताया कि फिक्स के बाद भी, ट्रेनिंग में एक मॉडल इंटरनेट रिस्ट्रिक्शन से बचकर निकल गया, लेकिन ऑटोमैटिक शटडाउन नहीं हुआ।
“आज के रिस्क को देखते हुए, फ्रंटियर लैब्स को न्यूक्लियर-पावर प्लांट या बिजी एयरपोर्ट्स की तरह चलना चाहिए, जहां कई लेयर्स की सुरक्षा और समय लेने वाली गंभीर प्लानिंग हो, ताकि कभी-कभार होने वाली और अनिवार्य मानवीय गलती से बड़ा खतरा पैदा न हो जाए। फिलहाल, AI कंपनियां यह करना नहीं जानतीं—लेकिन बाकी लोग जानते हैं,” उन्होंने लिखा।
एस्से में यह भी लिखा है कि OpenAI अपनी सेफ्टी प्रैक्टिस पर कायम है और उन्हें काफी सुरक्षित मानता है। पिछले महीने कंपनी ने सार्वजनिक रूप से misaligned model बिहेवियर डिस्क्लोज करने के लिए फ्रेमवर्क भी लॉन्च किया।
“मेरे पुराने सहकर्मी स्मार्ट हैं, मेहनत करते हैं और अच्छी चॉइसेस लेने की कोशिश करते हैं। लेकिन जब कंपनी एक लॉन्च से दूसरी लॉन्च की ओर दौड़ रही है, वह वह केयर का स्तर हासिल नहीं कर पा रही जो मुझे चाहिए,” Robinson ने जोड़ा।
Robinson AI सेफ्टी से जुड़े उन ताजा लोगों में हैं, जिन्होंने सितंबर की शुरुआत के बाद से पब्लिकली बातें रखी हैं। यह सिलसिला तब शुरू हुआ, जब Anthropic के रिसर्चर Jacob Coxon ने रिजाइन किया और आरोप लगाया कि Anthropic और OpenAI दोनों इंसानी जानों के साथ जुआ खेल रहे हैं।
कुछ दिन बाद, 2 Google DeepMind के पूर्व रिसर्चर्स, Bilal Chughtai और Josh Engels ने भी AI रिस्क्स को लेकर चेतावनी दी। OpenAI सेफ्टी रिसर्चर Marcus Williams ने इंसानी समाप्ति की संभावना 70% तक अगले 3 साल में होने का अंदाजा जताया।
Anthropic के CEO Dario Amodei ने भी धीमी रफ्तार अपनाने की सलाह दी है, और OpenAI के Sam Altman ने प्लान को सपोर्ट किया है। हालांकि, रिलीज कैलेंडर धीमा नहीं हुआ है। Anthropic ने Claude Opus 5.5 लॉन्च किया, और OpenAI ने GPT-6 Sol और Luna 22 सितंबर को जारी किए।
Washington ने टास्क फोर्स बनाकर अलार्म का जवाब दिया
Robinson का मानना है कि अब मजबूत सुरक्षा प्रोत्साहन लैब्स के बाहर से आने चाहिए। फिलहाल, Washington ने इसकी समीक्षा करते हुए प्रतिक्रिया दी है।
Director of National Intelligence Jay Clayton, जो अब प्रशासन के AI czar की भूमिका में हैं, एक नई White House टास्क फोर्स का नेतृत्व करेंगे। इस टास्क फोर्स को 120 दिनों में AI के जोखिम, अवसर और Washington की जिम्मेदारी पर रिपोर्ट तैयार करनी है।
“राष्ट्रपति ने कहा कि एक ऐसी टीम बनाई जाए जो ये सुनिश्चित करे कि हम सुपरइंटेलिजेंस में आगे रहें और अमेरिकी लोगों के हितों को प्राथमिकता दी जाए,” Clayton ने कहा।
हालांकि, Trump ने AI डेवलपमेंट रोकने की अपील को अस्वीकार किया है और चीन से आगे रहने को प्राथमिकता दी है। उन्होंने बाहरी सुरक्षा ऑडिट्स और मजबूत आंतरिक नियंत्रण के साथ एक स्वैच्छिक एग्रीमेंट का समर्थन किया है। कुछ हफ्ते पहले ही उन्होंने Space Force के आधार पर एक AI Force की घोषणा की थी।
टास्क फोर्स का चार्टर ये भी बताता है कि सरकार AI में हुए उल्लंघनों और हैकिंग को कैसे ट्रैक करती है, जैसी समस्याएं Robinson ने OpenAI के अंदर बताईं थीं। Clayton की रिपोर्ट, जो 2027 की शुरुआत में आएगी, ये दिखाएगी कि क्या ये खामियां बाध्यकारी नियमों तक जाएंगी या केवल लैब्स तक ही सीमित रहेंगी।
हमारे YouTube चैनल को सब्सक्राइब करें और जानकार एग्सपर्ट्स और पत्रकारों से इनसाइट्स पाएं
