Amazon TorchNeuron hướng đến việc giúp các chip AI của công ty dễ được sử dụng hơn bằng cách cho phép các ứng dụng PyTorch hiện có chạy trên AWS Trainium chỉ với một thay đổi cấu hình. Trong thông báo ngày 20 tháng 10 năm 2026, Amazon cho biết phần mềm này sẽ được phát hành dưới dạng dự án mã nguồn mở, nhằm xử lý rào cản phần mềm có thể khiến nhà phát triển tốn kém chi phí khi chuyển đổi nền tảng chip.
Điểm chính
- Amazon cho biết mã PyTorch hiện có có thể chạy trên Trainium mà không cần viết lại.
- Kế hoạch phát hành mã nguồn mở hỗ trợ chip Trainium2 và Trainium3.
- Việc chuyển đổi dễ dàng hơn có thể củng cố thách thức của Amazon đối với Nvidia, nhưng thông báo này không xác lập lợi thế rộng hơn về chi phí hay hiệu năng.
Mục lục
- Amazon TorchNeuron tập trung vào khả năng chuyển đổi phần mềm
- Chi phí chuyển đổi của nhà phát triển định hình thách thức đối với Nvidia
- Phát hành mã nguồn mở là cột mốc tiếp theo đã được nêu
- Kết luận
Amazon TorchNeuron tập trung vào khả năng chuyển đổi phần mềm
Thông báo về TorchNeuron của Amazon mô tả một backend PyTorch gốc, kết nối khuôn khổ AI được sử dụng rộng rãi này với Trainium. Thay vì xây dựng lại ứng dụng cho phần cứng khác, nhà phát triển chỉ cần thay đổi một thiết lập để xác định chip mà mã sẽ sử dụng.
Amazon cho biết TorchNeuron sử dụng cơ chế hiện có của PyTorch để đăng ký phần cứng mới, cho phép các công cụ kiểm thử, gỡ lỗi và mở rộng quy mô quen thuộc hoạt động trên Trainium mà không cần chỉnh sửa. Trong một buổi trình diễn của công ty, cùng một tập lệnh huấn luyện đã chạy trên một chip thông thường và trên Trainium; Amazon cho biết mô hình học được những điều giống nhau với cùng tốc độ.
Buổi trình diễn đó hỗ trợ tuyên bố về khả năng chuyển đổi của Amazon đối với khối lượng công việc được trình bày. Tuy nhiên, kết quả này không chứng minh hiệu năng tương đương trên mọi ứng dụng hoặc định lượng khoản tiết kiệm cho khách hàng.
| Hạng mục | Chi tiết |
|---|---|
| Bộ xử lý được hỗ trợ | AWS Trainium2 và Trainium3 |
| Giấy phép dự kiến | Apache 2.0 |
| Huấn luyện phân tán | Tích hợp với TorchTitan và Fully Sharded Data Parallelism |
| Hỗ trợ công cụ phát triển | Amazon cho biết Hugging Face đã kích hoạt hỗ trợ Trainium gốc |
Chi phí chuyển đổi của nhà phát triển định hình thách thức đối với Nvidia
Vấn đề cạnh tranh không chỉ nằm ở thông số kỹ thuật của chip. Phần mềm CUDA của Nvidia giúp nhà phát triển tối ưu hóa khối lượng công việc AI cho bộ xử lý đồ họa của hãng, khiến hệ sinh thái phần mềm liên quan trở thành một yếu tố quan trọng trong việc ứng dụng phần cứng.
Giảm khối lượng công việc kỹ thuật cần thiết để chuyển một ứng dụng có thể giúp khách hàng điện toán đám mây linh hoạt hơn khi lựa chọn hạ tầng điện toán. Điều này cũng có thể giúp các bộ xử lý của Amazon dễ tiếp cận hơn với những nhóm vốn đã làm việc với PyTorch nhưng không muốn duy trì một nền tảng mã khác biệt đáng kể.
Amazon nêu tên những người dùng ban đầu trong các lĩnh vực AI giọng nói, khám phá thuốc và một số ứng dụng khác. Công ty cho biết Cartesia đã chạy quy trình suy luận tiêu chuẩn với những thay đổi tối thiểu đối với mã PyTorch, trong khi Lieber Institute for Brain Development đang nghiên cứu các khối lượng công việc nghiên cứu dựa trên AI trên Trainium. Những ví dụ này cho thấy việc sử dụng ở giai đoạn đầu, chứ không phải mức độ ứng dụng trên toàn ngành.
Phát hành mã nguồn mở là cột mốc tiếp theo đã được nêu
Amazon dự kiến phát hành TorchNeuron theo giấy phép Apache 2.0 tại PyTorch Conference North America vào ngày 20 tháng 10. Thông báo được cung cấp mô tả đợt phát hành này là kế hoạch dự kiến, chứ không xác nhận rằng việc phát hành đã hoàn tất.
Công ty cũng đang đóng góp các thay đổi cho PyTorch nhằm giảm sự phụ thuộc vào phần cứng cụ thể. Công việc này mở rộng nỗ lực vượt ra ngoài khả năng tương thích với Trainium, hướng tới việc giảm mức độ phụ thuộc của khuôn khổ vào từng nền tảng chip riêng lẻ.
Kết luận
Amazon đang tập trung vào khối lượng công việc kỹ thuật liên quan đến việc thay đổi phần cứng AI, thay vì công bố một lợi thế hiệu năng đã được chứng minh so với Nvidia. Cột mốc tiếp theo mà công ty đã nêu là đợt phát hành mã nguồn mở vào ngày 20 tháng 10, qua đó giúp nhà phát triển có thể xem xét và thử nghiệm phần mềm rộng rãi hơn.
Đọc thêm tin tức
Tuyên bố miễn trừ trách nhiệm
Bài viết FinanceVelix này cung cấp thông tin chung, không phải lời khuyên cá nhân hóa về tài chính, đầu tư, pháp lý hoặc thuế. Giá thị trường, lãi suất và điều kiện kinh tế có thể thay đổi; các khoản đầu tư luôn tiềm ẩn rủi ro thua lỗ. Các dữ kiện phản ánh tài liệu có tại thời điểm xuất bản và có thể thay đổi. Hãy tự kiểm chứng thông tin quan trọng và tham khảo ý kiến chuyên gia đủ năng lực khi cần. Việc đề cập đến một tài sản, công ty hoặc dịch vụ không đồng nghĩa với sự chứng thực.
