AWS TorchNeuron diluncurkan dalam beta publik pada 20 Oktober 2026, memberi pengembang cara untuk menjalankan model AI PyTorch secara native pada chip Trainium milik Amazon. Perangkat lunak sumber terbuka ini bertujuan mengurangi pekerjaan yang diperlukan untuk memindahkan kode AI yang sudah ada ke perangkat keras AWS, sekaligus mempertahankan alat pengembangan yang sudah dikenal.
Hal-Hal Penting
- TorchNeuron tersedia dalam beta publik untuk instans Amazon EC2 Trainium2 dan Trainium3.
- AWS menyatakan bahwa pengembang dapat mengaktifkan eksekusi di Trainium dengan sedikit perubahan, sambil mempertahankan kompatibilitas PyTorch standar.
- Dukungan operator kustom memberi pengembang jalur untuk menyempurnakan kinerja di luar migrasi awal.
Daftar Isi
- AWS TorchNeuron mengurangi hambatan migrasi perangkat lunak
- Rilis sumber terbuka mencakup alat penyetelan kinerja
- Kesimpulan
AWS TorchNeuron mengurangi hambatan migrasi perangkat lunak
Memindahkan beban kerja AI ke chip lain dapat memerlukan perubahan pada perangkat lunak maupun perangkat keras. TorchNeuron mengatasi hambatan tersebut dengan berfungsi sebagai backend PyTorch native untuk Trainium, keluarga chip Amazon untuk pelatihan dan inferensi AI.
Menurut pengumuman beta publik AWS, pengembang dapat mengarahkan kode PyTorch mereka ke Trainium dengan beralih ke .to('neuron'). Perusahaan menyatakan backend tersebut mempertahankan kompatibilitas dengan antarmuka pemrograman PyTorch standar, eksekusi eager, dan torch.compile, sehingga pengembang dapat tetap menggunakan cara yang sudah dikenal untuk membangun dan menjalankan model.
Perbedaan praktisnya terletak pada penggunaan perangkat keras baru versus penulisan ulang aplikasi untuk perangkat tersebut. Pengurangan perubahan perangkat lunak yang diperlukan dapat mempermudah evaluasi Trainium, meskipun pengumuman itu tidak mengukur penghematan waktu migrasi atau pengurangan biaya bagi pelanggan.
| Item | Detail |
|---|---|
| Tanggal peluncuran | 20 Oktober 2026 |
| Status rilis | Beta publik |
| Instans yang didukung | Amazon EC2 Trainium2 dan Trainium3 |
| Kompatibilitas eksekusi | Eksekusi eager, torch.compile, dan API PyTorch standar |
| Optimisasi lanjutan | Integrasi Neuron Kernel Interface untuk operator kustom |
Rilis sumber terbuka mencakup alat penyetelan kinerja
TorchNeuron juga terintegrasi dengan Neuron Kernel Interface, yang dikenal sebagai NKI. Fitur ini menyediakan alat bagi pengembang untuk membuat operator kustom dan mengoptimalkan kinerja bagi perangkat keras Trainium, bukan sekadar berhenti pada kompatibilitas dasar.
Dengan demikian, rilis ini menawarkan dua tingkat penggunaan: jalur yang lebih sederhana bagi ilmuwan dan peneliti yang bereksperimen dengan model PyTorch yang sudah ada, serta jalur tingkat rendah bagi tim yang menginginkan optimisasi khusus perangkat keras.
AWS menyediakan perangkat lunak ini sebagai sumber terbuka untuk instans Amazon EC2 Trainium2 dan Trainium3. Peluncuran ini secara tegas merupakan beta publik, bukan pengumuman ketersediaan umum, dan rilis tersebut tidak memberikan jadwal untuk tahap selanjutnya itu.
Kesimpulan
Langkah berikutnya dalam waktu dekat adalah evaluasi beta publik yang tersedia oleh para pengembang. Rilis ini menghadirkan jalur yang lebih sederhana untuk menggunakan Trainium; namun, rilis ini belum membuktikan adanya penghematan terukur atau menetapkan tanggal ketersediaan umum.
Baca Berita Lainnya
Penafian
Artikel FinanceVelix ini menyediakan informasi umum, bukan saran keuangan, investasi, hukum, atau pajak yang dipersonalisasi. Harga pasar, suku bunga, dan kondisi ekonomi dapat berubah; investasi mengandung risiko kerugian. Fakta mencerminkan materi yang tersedia saat diterbitkan dan dapat berubah. Periksa informasi penting secara mandiri dan konsultasikan dengan profesional berkualifikasi bila diperlukan. Penyebutan aset, perusahaan, atau layanan bukan merupakan dukungan.
