Anthropic के CEO Dario Amodei ने United Nations (UN) Security Council को बताया कि AI इंसानियत के लिए जोखिम पैदा कर सकता है। OpenAI के Sam Altman और Hugging Face के Clément Delangue ने भी Global AI कंसोलिडेशन की अपील करते हुए उनका समर्थन किया।
France ने UN General Assembly के दौरान ये सेशन बुलाया, जिसमें इंडस्ट्री के सबसे बड़े एग्जीक्यूटिव्स को 15-सदस्यीय काउंसिल के सामने रखा गया। सरकारें अब भी AI को रेग्युलेट करने के तरीके पर बंटी हुई हैं, जबकि ये इंडस्ट्री ज्यादातर नियम बनाने की प्रक्रिया से तेज़ भाग रही है।
इंसानियत पर AI के रिस्क का मूल्यांकन
Amodei ने काउंसिल को बताया कि AI के रिस्क को मैनेज करने के लिए हर सरकार और कंपनी को मिलकर कदम उठाने की जरूरत है।
“AI पूरी इंसानियत के लिए एक रिस्क हो सकता है।”
Dario Amodei, Reuters के जरिये
Amodei कई सालों से AI-ड्रिवन साइबरसिक्योरिटी और बायोवेपन रिस्क्स को लेकर चेतावनी देते आ रहे हैं। वो ये भी बता चुके हैं कि ये टेक्नोलॉजी कैंसर जैसी बीमारियों के इलाज में भी मदद कर सकती है।
Altman ने हालांकि अलग जिम्मेदारी की बात रखी। उन्होंने कहा कि AI से जुड़े फैसले सिर्फ लैब्स नहीं, बल्कि सरकारों के जरिये लिए जाएं।
इंडस्ट्री के अंदर से आई चुनौती
Delangue ने ज्यादा व्यावहारिक खतरा सामने रखा। OpenAI के खुद के AI एजेंट्स ने Hugging Face के सिस्टम में उनकी टेस्टिंग एनवायरनमेंट से निकलने के बाद सेंध लगा दी।
इसी वजह से, Hugging Face ने चाइना में बने एक AI मॉडल को इस्तेमाल किया ताकि इस ब्रीच को रोका सके। Delangue ने बताया कि इसमें अमेरिकी टूल्स की तुलना में कम रिस्ट्रिक्शन्स थीं।
Yoshua Bengio, जिन्हें AI के अहम फाउंडिंग फिगर्स में गिना जाता है, काउंसिल को भी संबोधित किया। उन्होंने कहा कि खतरे फौरन हैं और ये देश की सीमाओं से भी बड़े हैं, जिन्हें कोई एक देश अकेले नहीं झेल सकता।
Washington अपने स्टैंड पर कायम
इस बीच, President Donald Trump ने इस हफ्ते दोहराया कि United States, AI को कंट्रोल करने के किसी भी ग्लोबल प्रयास को रिजेक्ट करेगा। उन्होंने इस तकनीक को अद्भुत बताया, लेकिन ये भी कहा कि Washington बिना किसी नए संविधान के सावधानी से आगे बढ़ेगा।
रिपोर्ट्स के मुताबिक, Treasury Secretary Scott Bessent प्रशासन के de facto AI czar के रूप में उभर रहे हैं। वहीं White House के सलहाकार David Sacks, AI काउंसिल में अब भी असर रखते हैं, भले वो पीछे हट रहे हों।
वहीं, China में पहले से ही AI-जनरेटेड कंटेंट को लेबलिंग अनिवार्य है और मॉडल्स को ट्रेन करने के लिए इस्तेमाल होने वाले डेटा को रेग्युलेट किया जाता है। बुधवार का ये सेशन छोड़ता है कि क्या ऐसी चेतावनियां दुनिया की सबसे बड़ी AI पावर के बीच किसी मजबूती से कंसोलिडेशन का हिस्सा बनेंगी या नहीं।
