Ngày 19 tháng 10 năm 2026, Modal cho biết các thử nghiệm ban đầu với CPU Nvidia Vera mang lại thông lượng cao gấp đôi cho những khối lượng công việc sandbox của tác nhân AI. Công ty khởi nghiệp điện toán đám mây này đã nhận được máy chủ Vera đầu tiên, nhưng để áp dụng rộng rãi hơn sẽ cần điều chỉnh hạ tầng hiện chỉ được xây dựng cho bộ xử lý x86.
Điểm chính
- Các bài kiểm tra nội bộ của Modal cho thấy thông lượng tăng gấp đôi đối với khối lượng công việc sandbox chạy đồng thời.
- Các tác vụ riêng lẻ trên máy chủ không chịu tải cho thấy lợi thế nhỏ hơn và kém nhất quán hơn.
- Việc hỗ trợ bộ xử lý tương thích với Arm sẽ đòi hỏi thay đổi về hạ tầng và quy trình xây dựng image.
Mục lục
- Kết quả CPU Nvidia Vera có lợi thế trên các máy chủ sandbox chịu tải cao
- Vì sao khối lượng công việc đồng thời làm thay đổi phép so sánh
- Hỗ trợ Arm vẫn cần được tích hợp
- Kết luận
Kết quả CPU Nvidia Vera có lợi thế trên các máy chủ sandbox chịu tải cao
Thông báo của Modal về bài kiểm tra hiệu năng sandbox trên Vera mô tả một máy chủ đang hoạt động tại văn phòng của công ty ở San Francisco và trường hợp hiệu năng ban đầu cho việc bổ sung bộ xử lý này vào Modal Sandboxes. Thông tin cho thấy quá trình thử nghiệm ban đầu, chứ không phải việc chuyển đổi hoàn tất khỏi bộ xử lý Intel và AMD.
Cần phân biệt giữa thông lượng và tốc độ xử lý tác vụ. Thông lượng đo số lượng tác vụ mà hệ thống hoàn thành trong một khoảng thời gian nhất định; độ trễ đo thời gian cần thiết để hoàn thành một tác vụ riêng lẻ. Modal nhận thấy Vera thường đạt kết quả tốt hơn trong các bài kiểm tra tuần tự thuộc bộ tiêu chuẩn của công ty, nhưng không phải lúc nào cũng vậy và mức chênh lệch cũng không đặc biệt lớn.
Lợi thế đáng kể hơn xuất hiện khi nhiều container cùng cạnh tranh tài nguyên điện toán. Modal báo cáo thông lượng tăng gấp đôi, khiến kết quả này có ý nghĩa với các máy chủ sandbox được chia sẻ ở mật độ cao, chứ không phải bằng chứng cho thấy mọi ứng dụng đều chạy nhanh gấp đôi.
| Hạng mục | Chi tiết |
|---|---|
| Bộ tiêu chuẩn kiểm tra | 50 lời giải và bộ xác minh oracle của Terminal-Bench. |
| Chuẩn bị container | Các khối lượng công việc được làm nóng trước trong những container Docker chạy đồng thời. |
| Quy trình đo thông lượng | Mức độ đồng thời của container được tăng dần trong khi số tác vụ hoàn thành được ghi nhận trong một khoảng thời gian cố định. |
| Điều kiện kiểm tra tuần tự | Các tác vụ chạy lần lượt trên máy không chịu tải. |
Vì sao khối lượng công việc đồng thời làm thay đổi phép so sánh
Modal cho biết các máy chủ sandbox có thể chạy đồng thời hàng trăm container và máy ảo. Nhu cầu của chúng khó dự đoán: một tác nhân AI có thể mất thời gian chờ mô hình ngôn ngữ, rồi đột ngột cần nhiều năng lực CPU hơn để cài đặt phần mềm hoặc tìm kiếm tệp.
Sự biến động đó có thể gây tranh chấp tài nguyên, khiến khối lượng công việc của một khách hàng ảnh hưởng đến hiệu năng của khách hàng khác. Modal cho phép khối lượng công việc tăng vượt mức công suất đã đặt trước, vì vậy hiệu năng trong điều kiện sử dụng chung ở mức cao là yếu tố quan trọng khi công ty đánh giá phần cứng.
Agentless Agent Bench của công ty tách riêng các tác vụ CPU như biên dịch, tìm kiếm tệp, thao tác Git và mô phỏng thiết bị. Bằng cách loại bỏ các lệnh gọi mạng, bài kiểm tra tập trung vào quá trình thực thi ở phía bộ xử lý thay vì tổng thời gian cần để một tác nhân AI hoàn thành nhiệm vụ trong thực tế.
Hỗ trợ Arm vẫn cần được tích hợp
Vera là CPU tương thích với Arm, được thiết kế cho nền tảng GPU Vera Rubin của Nvidia và cũng được cung cấp dưới dạng máy chủ CPU độc lập. Với Modal, việc sử dụng bộ xử lý này sẽ đưa vào một kiến trúc bộ xử lý khác, sau nhiều năm chỉ vận hành máy chạy x86.
Modal cho biết hỗ trợ Arm sẽ đòi hỏi thay đổi trên toàn bộ hạ tầng và hệ thống xây dựng image. Vì vậy, bài kiểm tra hiệu năng cho thấy một lợi ích vận hành tiềm năng, chứ không phải quá trình chuyển đổi nền tảng đã hoàn tất hay mức lợi nhuận tài chính đã được đo lường.
Kết luận
Bước tiếp theo trong quá trình triển khai là điều chỉnh hạ tầng và hệ thống xây dựng image của Modal để hỗ trợ Arm. Kết quả ban đầu tạo cơ sở cho công việc này, trong khi việc triển khai rộng hơn và những cải thiện thực tế đối với dịch vụ vẫn cần được chứng minh.
Đọc thêm tin tức
Tuyên bố miễn trừ trách nhiệm
Bài viết này của FinanceVelix cung cấp thông tin chung, không phải tư vấn tài chính, đầu tư, pháp lý hoặc thuế dành riêng cho từng cá nhân. Giá thị trường, lãi suất và điều kiện kinh tế có thể thay đổi; các khoản đầu tư tiềm ẩn rủi ro thua lỗ. Thông tin phản ánh tài liệu có tại thời điểm bài viết được xuất bản và có thể thay đổi. Hãy tự kiểm tra những thông tin quan trọng và tham khảo ý kiến chuyên gia đủ tiêu chuẩn khi cần. Việc đề cập đến một tài sản, công ty hoặc dịch vụ không đồng nghĩa với sự chứng thực.
