Modal ने 19 अक्टूबर, 2026 को बताया कि शुरुआती Nvidia Vera CPU परीक्षणों में उसके AI-एजेंट सैंडबॉक्स वर्कलोड का थ्रूपुट दोगुना रहा। क्लाउड-कंप्यूटिंग स्टार्टअप को अपना पहला Vera सर्वर मिल चुका है, लेकिन व्यापक उपयोग के लिए केवल x86 प्रोसेसर के आधार पर बने इन्फ्रास्ट्रक्चर में बदलाव करना होगा।

मुख्य बातें

  • Modal के आंतरिक बेंचमार्क में एक साथ चलने वाले सैंडबॉक्स वर्कलोड के थ्रूपुट में दो गुना सुधार दिखा।
  • अन्यथा निष्क्रिय सर्वर पर अलग-अलग कार्यों में लाभ कम और कम सुसंगत रहा।
  • Arm-संगत प्रोसेसर को समर्थन देने के लिए इन्फ्रास्ट्रक्चर और इमेज-बिल्डिंग में बदलाव करने होंगे।

विषय-सूची

Nvidia Vera CPU के नतीजे व्यस्त सैंडबॉक्स सर्वरों के पक्ष में

Modal की Vera सैंडबॉक्स बेंचमार्क घोषणा में सैन फ्रांसिस्को स्थित उसके कार्यालय में पहले से चल रहे सर्वर और Modal Sandboxes में प्रोसेसर जोड़ने के शुरुआती प्रदर्शन-तर्क का वर्णन है। यह शुरुआती परीक्षणों को दर्शाता है, Intel और AMD प्रोसेसर से पूरी तरह हटने की प्रक्रिया पूरी होने को नहीं।

थ्रूपुट और किसी कार्य की गति के बीच का अंतर महत्वपूर्ण है। थ्रूपुट बताता है कि कोई सिस्टम एक निश्चित अवधि में कितने कार्य पूरे करता है; लेटेंसी बताती है कि किसी एक कार्य में कितना समय लगता है। Modal ने पाया कि उसके बेंचमार्क सूट में क्रमिक परीक्षणों के दौरान Vera ने अक्सर बेहतर प्रदर्शन किया, लेकिन हर बार नहीं और अंतर भी बहुत बड़ा नहीं था।

अधिक उल्लेखनीय लाभ तब सामने आया जब अनेक कंटेनर कंप्यूटिंग संसाधनों के लिए प्रतिस्पर्धा कर रहे थे। Modal ने थ्रूपुट में दो गुना वृद्धि की जानकारी दी। यह नतीजा घनी साझा सैंडबॉक्स सर्वर व्यवस्था के लिए प्रासंगिक है, न कि इस बात का प्रमाण कि हर एप्लिकेशन दोगुनी तेज चलेगा।

मदविवरण
बेंचमार्क सूट50 Terminal-Bench oracle समाधान और वेरिफ़ायर।
कंटेनर की तैयारीवर्कलोड को एक साथ चलने वाले Docker कंटेनरों में पहले से तैयार किया गया था।
थ्रूपुट मापने की प्रक्रियाएक निश्चित अवधि में पूरे किए गए कार्यों की गिनती करते हुए कंटेनरों की समकालिकता बढ़ाई गई।
क्रमिक परीक्षण की स्थितियाँबिना लोड वाली मशीन पर एक समय में एक कार्य चलाया गया।

एक साथ चलने वाले वर्कलोड तुलना को क्यों बदलते हैं

Modal के अनुसार, सैंडबॉक्स होस्ट एक साथ सैकड़ों कंटेनर और वर्चुअल मशीन चला सकते हैं। उनकी मांग का अनुमान लगाना कठिन है: कोई AI एजेंट भाषा मॉडल की प्रतीक्षा में समय बिता सकता है, और फिर सॉफ्टवेयर इंस्टॉल करने या फ़ाइलें खोजने के लिए अचानक कहीं अधिक CPU क्षमता की जरूरत पड़ सकती है।

इस उतार-चढ़ाव से संसाधनों के लिए प्रतिस्पर्धा पैदा हो सकती है, जिसमें एक ग्राहक का वर्कलोड दूसरे के प्रदर्शन को प्रभावित करे। Modal वर्कलोड को आरक्षित क्षमता से अधिक संसाधन लेने की अनुमति देता है, इसलिए भारी साझा उपयोग के दौरान प्रदर्शन उसके हार्डवेयर मूल्यांकन का एक महत्वपूर्ण हिस्सा है।

उसका Agentless Agent Bench CPU-केंद्रित काम को अलग से मापता है, जैसे कंपाइलेशन, फ़ाइल खोज, Git संचालन और डिवाइस इम्यूलेशन। नेटवर्क कॉल हटाकर यह परीक्षण AI एजेंट के वास्तविक दुनिया का काम पूरा करने में लगने वाले कुल समय के बजाय प्रोसेसर पर होने वाले निष्पादन पर ध्यान केंद्रित करता है।

Arm समर्थन के लिए अब भी इंटीग्रेशन का काम बाकी

Vera, Nvidia के Vera Rubin GPU प्लेटफॉर्म के लिए बनाया गया Arm-संगत CPU है और इसे स्टैंडअलोन CPU सर्वर के रूप में भी पेश किया जाता है। Modal के लिए इसका उपयोग करने का अर्थ होगा कि अब तक केवल x86 मशीनें चलाने के बाद एक अलग प्रोसेसर आर्किटेक्चर अपनाना।

Modal का कहना है कि Arm समर्थन के लिए उसके इन्फ्रास्ट्रक्चर और इमेज-बिल्ड सिस्टम में बदलाव करने होंगे। इसलिए यह बेंचमार्क संभावित परिचालन लाभ दिखाता है, न कि प्लेटफॉर्म का पूरा हो चुका बदलाव या मापा गया वित्तीय प्रतिफल।

निष्कर्ष

अगला कार्यान्वयन चरण Modal के इन्फ्रास्ट्रक्चर और इमेज-बिल्डिंग सिस्टम को Arm के अनुरूप ढालना है। शुरुआती नतीजे इस काम के पक्ष में तर्क देते हैं, जबकि व्यापक तैनाती और वास्तविक सेवा में मिलने वाले लाभों का प्रदर्शन अभी बाकी है।

और खबरें पढ़ें

FinanceVelix की और खबरें

अस्वीकरण

FinanceVelix का यह लेख सामान्य जानकारी प्रदान करता है, व्यक्तिगत वित्तीय, निवेश, कानूनी या कर संबंधी सलाह नहीं। बाजार भाव, ब्याज दरें और आर्थिक स्थितियाँ बदल सकती हैं; निवेश में नुकसान का जोखिम होता है। तथ्य प्रकाशन के समय उपलब्ध सामग्री पर आधारित हैं और बदल सकते हैं। महत्वपूर्ण जानकारी की स्वतंत्र रूप से पुष्टि करें और आवश्यकता पड़ने पर किसी योग्य विशेषज्ञ से सलाह लें। किसी परिसंपत्ति, कंपनी या सेवा का उल्लेख समर्थन नहीं है।