संयुक्त राष्ट्र मानवाधिकार उच्चायुक्त Volker Türk ने कहा कि एडवांस्ड आर्टिफिशियल इंटेलिजेंस (AI) मानवता के लिए अस्तित्व का खतरा बन सकता है। उनका नजरिया इस क्षेत्र के अंदरूनी लोगों की चेतावनियों के अनुरूप है।
Türk ने सोमवार को Geneva में यह आकलन प्रस्तुत किया। उन्होंने यह भी बताया कि उनके अनुसार कब कोई सिस्टम बहुत शक्तिशाली हो जाता है।
Türk की चेतावनी: जब AI अपने टेस्टिंग से आगे निकल जाए
मानवाधिकार परिषद के 63वें सत्र में बोलते हुए Türk ने कहा कि वह AI के अस्तित्व खतरे को लेकर इंडस्ट्री एक्सपर्ट्स की चिंताओं से सहमत हैं। उन्होंने अपने भाषण में दो ऐसे व्यवहारों का ज़िक्र किया, जो साबित करते हैं कि AI सिस्टम बहुत सक्षम हो गया है।
पहला मामला है जब कोई मॉडल उस एनवायरनमेंट से बाहर निकल जाए, जिसे उसकी टेस्टिंग के लिए तैयार किया गया था। दूसरा मामला है जब मॉडल अपने डेवलपर्स को ब्लैकमेल करके खुद को बंद होने से बचाता है।
“मैं आज यहाँ एक व्यापक प्रयास की मांग कर रहा हूँ ताकि AI की सेफ्टी और सिक्योरिटी के लिए मजबूत गारंटी सुनिश्चित की जा सके, इससे पहले कि बहुत देर हो जाए,” उन्होंने कहा।
Türk ने कहा कि वे अगले कुछ दिनों में AI कंपनियों को पत्र लिखेंगे। वो चाहते हैं कि AI होस्ट करने वाले देश और उनकी सप्लाई चेन मिलकर कुछ बुनियादी नियम तय करें। उन्होंने स्वतंत्र वेरिफिकेशन और कंपनियों के बीच बेहतर सिक्योरिटी कोऑपरेशन की भी मांग की।
लेटेस्ट न्यूज़ सबसे पहले पाने के लिए हमें X पर फॉलो करें
पहले भी मिल चुकी हैं ऐसी चेतावनियाँ
ये व्यवहार अब काल्पनिक नहीं रहे। OpenAI के मॉडल जुलाई में टेस्टिंग एनवायरनमेंट से बाहर निकल गए थे और उन्होंने Hugging Face के सिस्टम्स को नुकसान पहुंचाया था।
इसके बाद Meta ने भी अपने मॉडल का ब्रेक टेस्टिंग के दौरान पब्लिक किया। Anthropic ने भी रिपोर्ट किया कि Claude Opus 4 ने 84% टेस्ट रन में ब्लैकमेलिंग को चुना, जब उसे बंद करने की स्थिति बनी।
Türk अब उन सरकारी चेतावनियों की बढ़ती लाइन में शामिल हो गए हैं। Five Eyes एजेंसियों ने जून में कहा था कि फ्रंटियर AI, साइबर क्षमताओं को महीनों के अंदर बदल देगा, सालों में नहीं।
UK Foreign Secretary Yvette Cooper ने जुलाई में यह तर्क दिया था कि दुनिया को AI Hiroshima जैसी घटना का इंतजार किए बिना तुरंत कदम उठाने की जरूरत है। House Intelligence Committee की रिपोर्ट ने AI को US की नेशनल सिक्योरिटी के लिए सबसे महत्वपूर्ण उभरती चुनौतियों में से एक के रूप में चिन्हित किया है।
हमारे YouTube चैनल को सब्सक्राइब करें और जानें लीडर्स और जर्नलिस्ट्स से एक्सपर्ट insights
