Cloud AI Eropa memperluas infrastruktur komputasi regional sekaligus menambahkan layanan model khusus dan kontrol atas cara agen AI menggunakan perangkat serta sistem bisnis. Pembaruan mitra NVIDIA menjelaskan beragam pengujian yang telah diselesaikan, layanan yang sudah digunakan, dan penerapan yang direncanakan, termasuk pengujian inferensi Nscale yang dibatasi daya, rencana pengiriman Vera Rubin kepada Mistral pada 2027, serta dukungan ekosistem untuk OpenShell Reference Architecture.
Intisari
- Nscale melaporkan pengujian yang memungkinkan penggunaan GPU 37% lebih banyak dan throughput inferensi agregat hampir 50% lebih tinggi dalam anggaran daya yang disediakan tetap sama.
- Para mitra menggabungkan infrastruktur regional dengan layanan khusus, termasuk model perutean tinjauan kode dari CodeRabbit dan platform robotika Nebius.
- Pendukung OpenShell bertujuan menetapkan batas akses agen di berbagai perangkat lunak dan perangkat keras; dukungan mitra berbeda dari penerapan pelanggan yang telah rampung.
Daftar Isi
- Cloud AI Eropa menghadapi kendala daya
- Apa yang sudah tersedia, diuji, atau masih direncanakan?
- Layanan khusus memanfaatkan kapasitas regional
- Kontrol agen mencakup perangkat lunak dan perangkat keras
- Kesimpulan
Cloud AI Eropa menghadapi kendala daya
Ekspansi ini bukan sekadar memasang lebih banyak peralatan komputasi. NVIDIA menyebut daya sebagai kendala seiring berkembangnya pabrik AI, sehingga jumlah pekerjaan berguna yang dapat dilakukan dengan alokasi listrik yang tersedia menjadi bagian penting dalam perencanaan kapasitas.
Pengujian yang dilaporkan Nscale memberikan contoh konkret. Dengan menggunakan sistem NVIDIA GB300 NVL72, perusahaan menunjukkan bahwa DSX MaxLPS memungkinkan penggunaan GPU 37% lebih banyak dan throughput inferensi agregat hampir 50% lebih tinggi dalam anggaran daya yang disediakan tetap sama. Hasil tersebut menggambarkan konfigurasi pengujian, bukan peningkatan terukur di setiap fasilitas Nscale.
Nscale juga berencana menerapkan infrastruktur Vera Rubin untuk pelatihan model frontier dan beban kerja produksi, serta melakukan ekspansi di lima pasar Eropa. Sementara itu, Crusoe sedang mengembangkan Spark, desain pabrik AI modular berpendingin cair untuk platform Vera Rubin yang ditujukan untuk mendekatkan kapasitas inferensi kepada pengguna.
Cakupan geografisnya melampaui Eropa. NVIDIA juga menyebut pengembangan dan ekspansi infrastruktur di kawasan Nordik, Afrika, serta Asia Tengah oleh mitra, termasuk Aleria, Cassava Technologies, Firebird, G42, Radiant, SWI Compute, dan Vultr.
| Butir | Rincian |
|---|---|
| Pengujian efisiensi daya Nscale | Melaporkan penggunaan GPU 37% lebih banyak dan throughput inferensi agregat hampir 50% lebih tinggi dalam anggaran daya yang disediakan tetap sama dengan DSX MaxLPS. |
| Infrastruktur Mistral | Pengiriman Vera Rubin direncanakan pada 2027; Mistral Large 4 dilatih menggunakan 3.800 GPU Grace Blackwell di pusat data Eropa yang dioperasikan Mistral. |
| Model perutean CodeRabbit | Tingkat kesesuaian perutean naik dari 75,8% menjadi 80,7%, dengan estimasi biaya inferensi turun 50% untuk beban kerja yang dievaluasi. |
| Agen ritel Nebius | Blueprint yang mencakup inventaris, operasional toko, dan penyempurnaan model telah diluncurkan dalam akses awal. |
| OpenShell Reference Architecture | Diumumkan di GTC Berlin dengan dukungan mitra; dirancang untuk mengoordinasikan batas agen di seluruh perangkat lunak runtime, CPU, dan DPU. |
Apa yang sudah tersedia, diuji, atau masih direncanakan?
Laporan NVIDIA mengenai mitra cloud regional dan kontrol agen menggabungkan beberapa tahap aktivitas yang berbeda. Membedakan tahap-tahap tersebut penting: model yang sudah berjalan dalam produksi, layanan akses awal, dan pengiriman perangkat keras pada masa mendatang tidak menawarkan ketersediaan langsung yang sama kepada pelanggan.
Ekspansi Mistral menggambarkan perbedaan tersebut. Infrastruktur Vera Rubin-nya direncanakan untuk dikirim pada 2027. Secara terpisah, NVIDIA menyatakan bahwa Mistral Large 4 dilatih menggunakan 3.800 GPU Grace Blackwell di pusat data Eropa yang dioperasikan Mistral. Pengerjaan model tersebut disebut telah selesai, sementara pengiriman infrastruktur berikutnya masih akan dilakukan.
Verda juga berencana menerapkan Vera Rubin, tetapi saat ini telah menggunakan model open-weight NVIDIA Nemotron dan Cosmos dalam produksi. Verda juga menggunakan kerangka kerja sumber terbuka Dynamo untuk optimasi inferensi.
Layanan khusus memanfaatkan kapasitas regional
Bagi pengembang, pertanyaan praktisnya adalah apa yang didukung oleh infrastruktur tambahan tersebut. Pembaruan mitra menyoroti tinjauan kode, robotika, agen ritel, dan layanan model perusahaan, alih-alih menyajikan kapasitas komputasi saja sebagai produk akhir.
Baseten mengembangkan model perutean khusus untuk tinjauan kode menggunakan Nemotron 3.5 Lightning bagi CodeRabbit. Setelah penyempurnaan terawasi dan pembelajaran penguatan, tingkat kesesuaian perutean meningkat dari 75,8% menjadi 80,7%, sedangkan estimasi biaya inferensi turun 50% untuk beban kerja yang dievaluasi. Angka biaya tersebut merupakan estimasi yang terkait dengan beban kerja itu, bukan penurunan umum untuk semua penggunaan model.
Nebius mengadopsi NVIDIA Groq 3 LPX, dengan menggunakan jaringan Ethernet Spectrum-X untuk mengintegrasikannya dengan Vera Rubin NVL72 pada platform Token Factory miliknya. NVIDIA menyatakan bahwa kombinasi ini akan mempercepat pembuatan token untuk aplikasi yang sensitif terhadap latensi dan sistem agentik melalui endpoint terkelola tanpa server serta endpoint khusus.
Nebius juga menawarkan Physical AI Workbench yang digunakan oleh perusahaan robotika, termasuk Rhoda AI, RoboForce, dan Sereact. Blueprint agen ritel NVIDIA untuk inventaris, operasional toko, dan penyempurnaan model telah memasuki tahap akses awal.
Fireworks dan Era4 memilih pendekatan lain: menggabungkan layanan pelatihan dan inferensi model dengan kapasitas Blackwell Ultra berpendingin cair langsung di fasilitas Era4 di Chesterfield. Kemitraan mereka mendukung rencana aplikasi perusahaan di bidang jasa keuangan, asuransi, dan ilmu hayati.
Kontrol agen mencakup perangkat lunak dan perangkat keras
Menghubungkan model AI dengan perangkat bisnis menimbulkan kebutuhan tersendiri selain menyediakan daya komputasi yang memadai: organisasi perlu menetapkan dan menegakkan batas akses serta tindakan yang boleh dilakukan agen. OpenShell Reference Architecture, yang diumumkan di GTC Berlin, dirancang untuk menangani batas-batas tersebut di seluruh tumpukan penerapan.
Arsitektur ini menetapkan fungsi yang berbeda bagi setiap komponennya. Vera Rubin NVL72 menangani inferensi model; Vera CPU dengan dukungan OpenShell menopang kerangka kerja agen dan penggunaan perangkat; sementara DPU BlueField-4 yang menjalankan NVIDIA Sentry menyediakan penegakan langsung di dalam silikon. Perangkat lunak runtime aman OpenShell menjadi landasan arsitektur ini.
Pendukungnya mencakup penyedia cloud dan layanan model seperti Baseten, CoreWeave, Crusoe, DigitalOcean, Fireworks, Nebius, Nscale, dan Vultr. Laporan tersebut menjelaskan dukungan ekosistem yang ditujukan untuk memungkinkan penerapan agen yang aman, bukan mendokumentasikan peluncuran yang telah rampung bagi setiap mitra yang disebutkan.
Kesimpulan
Pembaruan ini menghubungkan investasi komputasi regional dengan beban kerja tertentu dan kontrol akses agen. Bukti terkuatnya berasal dari pengujian terukur dan layanan yang sudah digunakan; penerapan Vera Rubin yang direncanakan dan adopsi OpenShell yang lebih luas merupakan tahap berikutnya, bukan kapasitas yang sudah terealisasi.
Baca Berita Lainnya
Penafian
Artikel FinanceVelix ini menyediakan informasi umum, bukan nasihat keuangan, investasi, hukum, atau pajak yang dipersonalisasi. Harga pasar, suku bunga, dan kondisi ekonomi dapat berubah; investasi mengandung risiko kerugian. Fakta mencerminkan materi yang tersedia saat diterbitkan dan dapat berubah. Periksa informasi penting secara mandiri dan konsultasikan dengan profesional yang berkualifikasi bila diperlukan. Penyebutan aset, perusahaan, atau layanan bukan merupakan bentuk dukungan.
