OpenAI की Safety Oversight टीम के एक टेक्निकल स्टाफ सदस्य ने कहा है कि अगर AI लैब्स धीमे नहीं हुए या रेग्युलेटर्स ने दखल नहीं दिया, तो अगले तीन साल में इंसानों के विलुप्त होने की संभावना 70% है।
Marcus Williams, जो मई 2025 में कंपनी से जुड़े थे, ने X (पहले Twitter) पर ये बात कही। उन्होंने सबसे पहले वार्निंग पोस्ट की, फिर जब एक अन्य यूज़र ने संख्या पूछी तो उन्होंने साफ-साफ नंबर बताया।
मानव विलुप्ति का अनुमान कैसे सामने आया?
Williams ने लिखा कि अगर AI रेग्युलेशन या लैब्स के बीच coordinated slowdown न हुआ, तो अगले कुछ सालों में मानव विलुप्ति की संभावना काफी प्रबल है।
एक अन्य यूज़र ने इस बहस को एक शर्त में बदल दिया, जिसमें $10,000 के Microsoft शेयर OpenAI के stock के खिलाफ पांच साल के लिए लगाए गए। Williams ने फिर इसका जवाब प्रतिशत में दिया।
“अगले 3 सालों में 70% अगर रेग्युलेशन/slowdown न हुआ, हालांकि मुझे लगता है रेग्युलेशन/slowdown संभव है।”
फिर भी, जहाँ Williams ने बड़ा नंबर दिया, वहीं उनका hedge भी उतना ही मायने रखता है। उन्होंने कहा कि रेग्युलेशन या slowdown संभव है, इसलिए वे इसे पक्की बात के तौर पर नहीं देख रहे।
Washington पहले से ही AI रिस्क पर काम कर रहा है
यह पोस्ट ऐसे हफ्ते में आई है, जब लैब सेफ्टी को मेनस्ट्रीम पॉलिटिक्स में ले जाया गया है। 9 सितंबर को, Anthropic के एक शोधकर्ता ने रिजाइन किया और Anthropic व OpenAI पर इंसानी जिंदगियों के साथ जुआ खेलने का आरोप लगाया।
US lawmakers ने एक दिन के अंदर ही जवाब दिया। इसके बाद AI को रोकने की नई पहल शुरू हुई, जिसमें एक Senate बिल ने superintelligence को सीधा बैन करने की बात कही।
लैब्स के बाहर भी लोग इसकी चिंता जता रहे हैं। UN human rights chief ने भी इस हफ्ते जेनेवा में एडवांस्ड AI को एक existential खतरा करार दिया।
इन सब के बीच, Williams का अनुमान काफी एक्सट्रीम है। Anthropic में alignment science के लीड Evan Hubinger के अनुसार यह संभावना इस दशक में 10% से ज्यादा है। Nobel laureate Geoffrey Hinton ने 10% से 20% तक का आंकड़ा बताया है।
इस समय, क्रिप्टो ट्रेडर्स भी इन चेतावनियों को सीधे फॉलो कर रहे हैं। Polymarket ने कुछ ही घंटों में Williams की पोस्ट अपने फॉलोअर्स तक पहुंचाई, और उसकी bettors पहले ही चुनावों और macro events को टोकन के odds के साथ प्राइस कर रहे हैं।
इसलिए, निकट भविष्य में असली टेस्ट टेक्निकल नहीं है, बल्कि पॉलिटिकल है। Williams के बताये तीन साल के विंडो में रेग्युलेटर्स कुछ एक्शन लेते हैं या नहीं, यह अब भी खुला सवाल है। खुद Williams का मानना है कि अभी भी वे कदम उठा सकते हैं।
