Anthropic के CEO Dario Amodei ने बुधवार को फ्रंटियर AI मॉडल्स के लिए अनिवार्य थर्ड-पार्टी टेस्टिंग की बात कही है। साथ ही, वो चाहते हैं कि गवर्नमेंट्स को ऐसे सिस्टम्स को ब्लॉक करने की ताकत मिले जो सेफ्टी ऑडिट में फेल हो जाते हैं।
यह निबंध, Policy on the AI Exponential, Anthropic द्वारा Claude Fable 5 लॉन्च के एक दिन बाद आया। कंपनी ने इसके साथ मॉडल टेस्टिंग पर एक लीगल प्रस्ताव और जॉब डिस्प्लेसमेंट फ्रेमवर्क भी शेयर किया।
Dario Amodei: पारदर्शिता से बाइंडिंग रूल्स तक का सफर
Anthropic ने 2025 में डिस्क्लोजर-बेस्ड कानूनों का समर्थन किया था। कंपनी ने California के SB 53, New York के RAISE Act और Illinois के SB 315 को भी सपोर्ट किया। लेकिन अब Amodei ने कहा है कि ट्रांसपेरेंसी अकेले अब इन रिस्क्स को मैनेज करने के लिए काफी नहीं है।
उन्होंने Federal Aviation Administration (FAA) की तर्ज पर रूल्स का सुझाव दिया है। जिन मॉडल्स की कंप्यूट थ्रेशोल्ड ऊपरी स्तर की होगी, उन्हें चार खास कैटेगरी में थर्ड-पार्टी ऑडिट से गुजरना जरूरी होगा।
इनमें साइबरसिक्योरिटी, बायोलॉजिकल वेपन्स, लॉस ऑफ कंट्रोल और ऑटोमेटेड AI रिसर्च शामिल हैं।
“फ्रंटियर AI मॉडल्स को, जैसे कि हवाई जहाजों के लिए होता है, टेक्निकल टेस्टिंग और ऑडिटिंग से गुजरना चाहिए। अगर ये हाई सेफ्टी स्टैंडर्ड्स पर खरे नहीं उतरते, तो इनका रिलीज़ रोका या पलटा जाना चाहिए ताकि पब्लिक सेफ्टी को खतरे से बचाया जा सके,” Amodei ने इस निबंध में लिखा।
हमारे साथ X पर जुड़ें और पाएं सबसे ताज़ा न्यूज़ सबसे पहले
यह प्लान White House के जून के AI पर Executive Order से भी आगे जाता है, जिसे Amodei ने छोटे लेकिन पॉजिटिव कदम के रूप में देखा।
वो मॉडल वेट्स की सख्त सुरक्षा और सुरक्षा संबंधी घटनाओं के तुरंत रिपोर्टिंग की भी मांग करते हैं।
साइबर रिस्क्स से क्रिप्टो इंफ्रास्ट्रक्चर अलर्ट पर
Amodei ने साइबरसिक्योरिटी को पहली और पूरी तरह सामने आई रिस्क बताया। उन्होंने Claude Mythos Preview का उदाहरण दिया, जिसने 73% एक्सपर्ट-लेवल साइबर चैलेंजेस सॉल्व कर लिए, जिन्हें अभी तक कोई भी AI पास नहीं कर पाया था।
निबंध में चेताया गया है कि फ्रंटियर मॉडल्स फाइनेंशियल सेक्टर और जरूरी इंफ्रास्ट्रक्चर में बड़ा डिसरप्शन ला सकते हैं।
इसी तरह, BeInCrypto की एनालिसिस ने DeFi सिक्योरिटी रिस्क्स को हाइलाइट किया है, जो Mythos-क्लास मॉडल्स से जुड़े हैं, क्योंकि Decentralized Finance (DeFi) प्रोटोकॉल्स में ओपन और अटैकेबल वैल्यू होती है।
इसी बीच, Anthropic ने Claude Fable 5 मॉडल 9 जून को रिलीज़ किया, जिसमें हाई रिस्क साइबर और बायोलॉजी रिक्वेस्ट्स को ब्लॉक करने के लिए खास सेफगार्ड्स जोड़े गए हैं।
Amodei का कहना है कि ऐसे स्वैच्छिक सीमा नियम इंडस्ट्री में अनिवार्य और मजबूती से लागू होने वाले नियमों का विकल्प नहीं हो सकते।
उन्होंने यह भी चेतावनी दी कि स्वायत्तता से जुड़े जोखिम आगे बढ़ सकते हैं। Anthropic के अपने डेटा से भी यह साफ है कि AI, AI को और बेहतर बना रहा है, जहां Claude मेजर AI लैब्स में ज्यादातर कोड लिख रहा है।
नौकरी में कमी, नागरिक स्वतंत्रता और एक लोकतांत्रिक गठबंधन
इकनॉमिक लेवल पर, इस लेख में वेतन बीमा, रिटेंशन टैक्स प्रोत्साहन, और वर्कफोर्स ट्रेनिंग ग्रांट्स का प्रस्ताव दिया गया है।
अगर बदलाव लंबे समय तक बना रहता है, तो Amodei का कहना है कि यूनिवर्सल बेसिक इनकम कंपनी या कैपिटल गेंस टैक्स के द्वारा फंड हो सकती है।
नागरिक स्वतंत्रता का मुद्दा भी उतना ही अहम है। Amodei पूरी तरह से ऑटोनोमस वेपन्स को डोमेस्टिक लॉ एनफोर्समेंट से बैन करना चाहते हैं। वे यह भी चाहते हैं कि Congress उस डेटा ब्रोकर लूपहोल को बंद करे, जिससे बड़े पैमाने पर सर्विलांस डेटा खरीदा जा सकता है।
जियोपॉलिटिक्स के मामले में, वे डेमोक्रेसीज के एक ऐसे गठबंधन की मांग करते हैं, जो चिप्स और सेमीकंडक्टर मैन्युफैक्चरिंग इक्विपमेंट पर कंट्रोल रखे।
उनका कहना है कि पेंडिंग US बिल्स MATCH और OVERWATCH, सख्त और कोऑर्डिनेटेड एक्सपोर्ट कंट्रोल की दिशा में पहला कदम हो सकते हैं।
Amodei ने इस विचार को नकार दिया कि पब्लिक में AI को लेकर डर सिर्फ एक मार्केटिंग समस्या है, उनका कहना था कि यह डर वाजिब है। अब Congress, Anthropic की टेस्टिंग प्रपोजल को अपनाता है या नहीं, इसी से AI पॉलिसी का अगला फेज तय हो सकता है।
