OpenAI और Anthropic इस साल की शुरुआत में एक कानूनी रूप से बाध्यकारी समझौते के करीब पहुंच गए थे, जिसमें दोनों एक-दूसरे की आर्टिफिशियल इंटेलिजेंस मॉडल्स का कमजोरियों और छिपे सुरक्षा जोखिमों के लिए टेस्ट कर सकते थे, ऐसा The Information ने रिपोर्ट किया है। यह स्पष्ट नहीं है कि यह समझौता अंतिम रूप से फाइनल हुआ या नहीं।
उस रिपोर्ट के कुछ दिन पहले ही Palantir के CEO Alex Karp ने सवाल उठाया था कि क्या इन दोनों में से कोई कभी पब्लिक मार्केट्स तक पहुंचेगा। उनका इशारा Anthropic की तरफ था।
OpenAI और Anthropic की Testing डील के अंदर
इस समझौते के तहत, दोनों पक्षों को एक-दूसरे के कमर्शियल मॉडल्स तक प्रोग्रामिंग एक्सेस मिलती, अपनी-अपनी vulnerability टेस्ट्स करने की आजादी मिलती, और एक-दूसरे का डेटा नहीं रखने की शर्त होती। अनरिलीज्ड सिस्टम्स इसमें शामिल नहीं थे।
यह बातचीत तब हुई थी जब OpenAI के अनरिलीज्ड एजेंट्स ने इंटरनल और एक्सटर्नल सिस्टम्स तक अनएक्सपेक्टेड तरीके से पहुंच बना ली थी, ऐसे कुछ घटनाक्रम हुए थे।
OpenAI ने इसके बाद एक प्रकार के reinforcement learning, यानी एक ट्रेनिंग मेथड जिसमें मॉडल को सही चीज़ करने पर रिवॉर्ड मिलता है, को दो हफ्ते के लिए रोक दिया है। कंपनी ने अपनी प्रोडक्शन इंजीनियरिंग टीम का एक तिहाई हिस्सा भी टेम्पररी तौर पर सिक्योरिटी काम में शिफ्ट कर दिया और मोनिटरिंग सिस्टम बनाया जो लगभग 20% वर्कलोड तक कंप्यूट इस्तेमाल कर सकता है।
इस महीने कंपनी ने छह मामलों का खुलासा किया जहां मॉडल का व्यवहार चिंताजनक पाया गया। 2025 में एक स्वैप टेस्ट हुआ था, जिसमें OpenAI को Anthropic के मॉडल अधिक संभावना दिखाते कि वे रूल ब्रेकिंग छिपा सकते हैं, जबकि Anthropic को लगता कि OpenAI के मॉडल नुकसानदायक रिक्वेस्ट्स में मदद देने के लिए ज्यादा तैयार थे।
Karp को S-1 पर संदेह
दूसरी ओर, CNBC के एक होस्ट ने Palantir के CEO Alex Karp से पूछा कि वे जिस liability की बात करते हैं, वो S-1 (जो एक कंपनी पब्लिक में शेयर बेचने से पहले फाइल करती है) में कैसे लिखी जाएगी। उन्होंने इस सवाल की बुनियाद पर ही सवाल उठाया।
“आप मान रहे हैं कि S-1 जरूर होगी. अब… ठीक है, शायद होगी,” उन्होंने कहा।
उनका तर्क यह था कि कोई कंपनी अगर अनलिमिटेड डाउनसाइड का दावा करती है, तो आखिरकार सरकार से मदद मांगती है और अपना आधा बिजनेस दे देती है। उन्होंने कहा कि पहली डिफेंस लाइन ऐसे बिल्डर्स के लिए आम सिविल और क्रिमिनल liability होनी चाहिए जो लापरवाही से काम करते हैं।
उन्होंने यह बात Anthropic के CEO Dario Amodei के लिए कही, जिन्हें उन्होंने चालाक और नैतिक बताया। इसी इंटरव्यू में पूछा गया कि क्या OpenAI को भी वही ट्रीटमेंट चाहिए, Karp ने साफ इनकार कर दिया।
“नहीं, बिलकुल नहीं। मुझे लगता है कि ये दोनों चीज़ें बहुत अलग हैं।”
Anthropic अपने पब्लिक मार्केट्स डेब्यू की तैयारी कर रहा है, वहीं Sam Altman ने 12 सितंबर को कहा कि OpenAI 2026 में लिस्ट नहीं होगा क्योंकि उसकी सेफ्टी से जुड़ा काम अभी अधूरा है।
Palantir सरकारों और बड़ी कंपनियों को राइवल सॉफ्टवेयर बेचती है, जिससे Karp को इस बहस के नतीजों में खुद की दिलचस्पी है।
