New York University के प्रोफेसर एमेरिटस Gary Marcus का कहना है कि AI एजेंट्स को रिकॉल की ज़रूरत है क्योंकि डेवलपर्स उन्हें भरोसेमंद तरीके से कंट्रोल नहीं कर सकते। फिलहाल Federal Trade Commission (FTC) अब OpenAI और Anthropic की जांच कर रही है।
Marcus ने Bloomberg के The Close को बताया कि छह AI फर्म्स ने 29 सितंबर को वाइट हाउस की वॉलंटरी प्लेज साइन की। उनका कहना है कि इस प्लेज का ज्यादा फर्क नहीं पड़ेगा, क्योंकि इन कंपनियों की पहले से जिम्मेदारी थी कि वे यूज़र्स के लिए सुरक्षित products दें।
Gary Marcus के मुताबिक वॉलंटरी प्लेज क्यों काफी नहीं है?
White House Accord on Super Intelligence के तहत कंपनियों को इंटरनल कंट्रोल रखना और बाहरी ऑडिटर्स के साथ मिलकर काम करना जरूरी बताया गया है। इसे Google, Anthropic, Meta, OpenAI, xAI, और Nvidia ने साइन किया है।
हालांकि, इस एकॉर्ड में कोई सजा या पेनल्टी नहीं है और न ही ऑडिट रिजल्ट्स को पब्लिक करने की कोई जरूरत है।
इस बीच रेग्युलेटर्स इंतजार नहीं कर रहे हैं। FTC ने OpenAI, Anthropic और दूसरी AI डेवेलपर्स की जांच शुरू कर दी है। यह जांच, OpenAI एजेंट्स के तरफ से AI मॉडल-शेयरिंग प्लेटफॉर्म Hugging Face के सिस्टम्स में बिना परमीशन एक्सेस करने के बाद आई है।
Google में मई में हुई सेफ्टी टेस्ट भी Gemini के तीन कंपनियों के डेटा एक्सेस करने के साथ खत्म हुआ था, कंपनी ने यह कन्फर्म किया है।
Marcus इस खामी को एक डिफेक्टिव प्रोडक्ट जैसा मानते हैं।
“यह ऐसा है जैसे Ford Motor Company पैसे बचाने के लिए ब्रेक्स कार्डबोर्ड से बनाए, तो उनकी बहुत सारी कार्स कंट्रोल से बाहर हो जाएंगी।”
Gary Marcus, Robust AI के को-फाउंडर, ने Bloomberg से बातचीत में कहा
Google के CEO Sundar Pichai ने एकॉर्ड को एक मजबूत नींव और सेफ्टी के ठोस स्टेप्स कहकर डिफेंड किया है।
क्या रिकॉल AI पर हो रहे बड़े खर्च के साथ टकराएगा?
Marcus के अनुसार, अच्छे एजेंट्स के लिए बड़ी क्लाउड कैपेसिटी की जरूरत होती है, और इंडस्ट्री इस बिल्डआउट को रोकी जा सकती है। साथ ही, वह कहते हैं कि लैब्स एजेंट्स को इसलिए पसंद करती हैं क्योंकि इससे ज्यादा टोकन यूज होते हैं, जिससे उनकी इनकम भी बढ़ती है। वाइट हाउस बैठक में शामिल कंपनियां AI इंफ्रास्ट्रक्चर पर सैकड़ों बिलियन $ खर्च कर रही हैं।
BeInCrypto के विश्लेषण में एक AI फंडिंग गैप संकेत को चिन्हित किया गया है, जो डॉट-कॉम और हाउसिंग बस्ट से पहले भी देखा गया था।
Marcus मानते हैं कि इंटरनेशनल नियम जल्द आने वाले नहीं हैं। उनका शॉर्ट-टर्म अनुरोध सीमित है, वह एजेंट्स की वापसी चाहते हैं।
ये इस बात पर निर्भर करता है कि रेग्युलेटर्स एजेंट्स को डिफेक्टिव प्रोडक्ट्स की तरह देखते हैं या ग्रोथ इंजन के तौर पर, इससे तय होगा कि उस खर्च का कितना हिस्सा आगे बढ़ेगा।
