Pada 19 Oktober 2026, Modal melaporkan bahwa pengujian awal CPU Nvidia Vera menghasilkan throughput dua kali lipat untuk beban kerja sandbox agen AI-nya. Startup komputasi awan tersebut telah menerima server Vera pertamanya, tetapi adopsi yang lebih luas akan memerlukan perubahan pada infrastruktur yang dibangun secara eksklusif untuk prosesor x86.
Hal-Hal Utama
- Benchmark internal Modal menunjukkan peningkatan throughput dua kali lipat untuk beban kerja sandbox konkuren.
- Tugas individual pada server yang tidak sedang dibebani menunjukkan keunggulan yang lebih kecil dan kurang konsisten.
- Dukungan untuk prosesor yang kompatibel dengan Arm akan memerlukan perubahan pada infrastruktur dan proses pembuatan image.
Daftar Isi
- Hasil CPU Nvidia Vera mengunggulkan server sandbox dengan beban tinggi
- Mengapa beban kerja konkuren mengubah perbandingan
- Dukungan Arm masih memerlukan integrasi
- Kesimpulan
Hasil CPU Nvidia Vera mengunggulkan server sandbox dengan beban tinggi
Pengumuman benchmark sandbox Vera dari Modal menjelaskan server yang sudah beroperasi di kantor perusahaan itu di San Francisco serta kasus awal untuk menambahkan prosesor tersebut ke Modal Sandboxes. Pengumuman itu menunjukkan tahap pengujian awal, bukan migrasi yang telah rampung dari prosesor Intel dan AMD.
Perbedaan antara throughput dan kecepatan tugas penting untuk diperhatikan. Throughput mengukur jumlah tugas yang diselesaikan sistem dalam periode tertentu; latensi mengukur waktu yang diperlukan untuk menyelesaikan satu tugas. Modal menemukan bahwa Vera kerap berkinerja lebih baik dalam pengujian serial di seluruh rangkaian benchmark-nya, tetapi tidak selalu dan keunggulannya pun tidak terlalu besar.
Keunggulan yang lebih signifikan terlihat ketika banyak kontainer bersaing untuk mendapatkan sumber daya komputasi. Modal melaporkan peningkatan throughput dua kali lipat, sehingga hasil ini relevan bagi server sandbox yang digunakan bersama secara padat, bukan bukti bahwa setiap aplikasi akan berjalan dua kali lebih cepat.
| Item | Rincian |
|---|---|
| Rangkaian benchmark | 50 solusi dan verifier oracle Terminal-Bench. |
| Persiapan kontainer | Beban kerja dipanaskan terlebih dahulu dalam kontainer Docker konkuren. |
| Prosedur pengukuran throughput | Konkurensi kontainer ditingkatkan sementara penyelesaian tugas dihitung dalam interval waktu tetap. |
| Kondisi pengujian serial | Tugas dijalankan satu per satu pada mesin tanpa beban. |
Mengapa beban kerja konkuren mengubah perbandingan
Modal menyatakan bahwa host sandbox dapat menjalankan ratusan kontainer dan mesin virtual secara bersamaan. Kebutuhannya tidak dapat diprediksi: agen AI mungkin menghabiskan waktu menunggu model bahasa, lalu tiba-tiba membutuhkan kapasitas CPU yang jauh lebih besar untuk memasang perangkat lunak atau mencari berkas.
Variasi tersebut dapat menimbulkan perebutan sumber daya, sehingga beban kerja satu pelanggan memengaruhi kinerja pelanggan lain. Modal memungkinkan beban kerja melampaui kapasitas yang dicadangkan, menjadikan kinerja saat penggunaan bersama sedang tinggi sebagai bagian penting dalam evaluasi perangkat kerasnya.
Agentless Agent Bench miliknya mengisolasi pekerjaan CPU seperti kompilasi, pencarian berkas, operasi Git, dan emulasi perangkat. Dengan menghilangkan panggilan jaringan, pengujian ini berfokus pada eksekusi di sisi prosesor, bukan keseluruhan waktu yang diperlukan agen AI untuk menyelesaikan tugas di dunia nyata.
Dukungan Arm masih memerlukan integrasi
Vera adalah CPU yang kompatibel dengan Arm, dibuat untuk platform GPU Nvidia Vera Rubin dan juga ditawarkan sebagai server CPU mandiri. Bagi Modal, penggunaannya akan memperkenalkan arsitektur prosesor yang berbeda setelah perusahaan tersebut secara eksklusif mengoperasikan mesin x86.
Modal menyatakan bahwa dukungan Arm akan memerlukan perubahan pada infrastruktur dan sistem pembuatan image-nya. Karena itu, benchmark ini menunjukkan potensi manfaat operasional, bukan transisi platform yang telah selesai atau imbal hasil finansial yang telah diukur.
Kesimpulan
Langkah implementasi berikutnya adalah menyesuaikan infrastruktur dan sistem pembuatan image Modal untuk Arm. Hasil awal ini mendukung perlunya pekerjaan tersebut, sementara penerapan yang lebih luas dan peningkatan layanan di dunia nyata masih perlu dibuktikan.
Baca Berita Lainnya
Penafian
Artikel FinanceVelix ini menyediakan informasi umum, bukan nasihat keuangan, investasi, hukum, atau pajak yang dipersonalisasi. Harga pasar, suku bunga, dan kondisi ekonomi dapat berubah; investasi mengandung risiko kerugian. Fakta mencerminkan materi yang tersedia saat diterbitkan dan dapat berubah. Periksa informasi penting secara mandiri dan konsultasikan dengan profesional berkualifikasi bila diperlukan. Penyebutan aset, perusahaan, atau layanan bukan merupakan dukungan.
