Các tác nhân AI của Navan đang sử dụng NVIDIA Nemotron 3.5 Super VL trong môi trường sản xuất, sau khi công ty phần mềm du lịch công tác tinh chỉnh và triển khai mô hình trong vòng ba tuần kể từ khi được cấp quyền truy cập sớm. Trong thông báo ngày 16 tháng 10 năm 2026, Navan cho biết mô hình này đang xử lý tương tác với khách hàng với chi phí thấp hơn.
Điểm chính
- Việc triển khai đã hoàn tất, không phải là một thử nghiệm với mô hình của NVIDIA được lên kế hoạch trước.
- Navan báo cáo hiệu suất xử lý tác vụ du lịch tốt hơn trong các đánh giá nội bộ, nhưng không định lượng khoản tiết kiệm chi phí trong môi trường sản xuất.
- Việc tự lưu trữ cho phép Navan tùy chỉnh và thay thế mô hình, đồng thời kiểm soát quá trình triển khai.
Mục lục
- Các tác nhân AI của Navan vượt ra ngoài việc trả lời câu hỏi
- Thử nghiệm nội bộ so sánh chất lượng với hiệu quả phản hồi
- Tự lưu trữ giúp duy trì sự linh hoạt trong lựa chọn mô hình
- Kết luận
Các tác nhân AI của Navan vượt ra ngoài việc trả lời câu hỏi
Thông báo kỹ thuật của Navan mô tả một hệ thống được thiết kế để thực hiện các tác vụ du lịch, chứ không chỉ tạo ra câu trả lời hội thoại. Một chuyến bay bị hủy có thể đòi hỏi tìm kiếm chỗ còn trống theo thời gian thực, giải thích các phương án thay thế, kiểm tra chính sách của công ty và phối hợp thay đổi đặt phòng khách sạn hoặc thuê xe.
Trong bài viết về việc triển khai Nemotron trong môi trường sản xuất, Navan cho biết công ty đã điều chỉnh một mô hình dựa trên kinh nghiệm tổng hợp của năm tác nhân: một tác nhân điều phối và các tác nhân chuyên trách khách sạn, chuyến bay, ô tô và tàu hỏa. Mỗi tác nhân vẫn chịu trách nhiệm về các công cụ và quyết định của riêng mình, đồng thời chia sẻ thông tin trong suốt chuyến đi.
Với thiết kế đó, khả năng hoàn thành tác vụ là thước đo thực tế của việc tích hợp. Phản hồi nhanh là chưa đủ nếu hệ thống không thể sử dụng chính xác các công cụ đặt dịch vụ hoặc tuân thủ các giới hạn của khách du lịch.
| Hạng mục | Chi tiết |
|---|---|
| Dung lượng mô hình | Khoảng 120 tỷ tham số, trong đó khoảng 12 tỷ tham số được kích hoạt ở mỗi bước. |
| Phương pháp tinh chỉnh | Tinh chỉnh LoRA bằng thư viện mã nguồn mở NVIDIA NeMo AutoModel. |
| Thông tin huấn luyện cuối cùng | Khoảng 10 triệu token. |
| Thẩm định | Gần 2.000 bài kiểm tra thẩm định trong tập dữ liệu huấn luyện cuối cùng. |
Thử nghiệm nội bộ so sánh chất lượng với hiệu quả phản hồi
Navan sử dụng Qwen 3.8-27B, mô hình cơ sở hiện đang được tự lưu trữ trong môi trường sản xuất, làm đối tượng so sánh chính. Công ty kiểm tra các mô hình bằng cùng câu lệnh, công cụ, tình huống du lịch và hệ thống chấm điểm.
Mô hình Nemotron đã tinh chỉnh vượt trội hoặc ngang bằng với các mô hình cạnh tranh ở sáu trong bảy thước đo trong đánh giá của Navan. Công ty nhấn mạnh việc sử dụng công cụ, hoàn thành tác vụ, khả năng bám sát thông tin thực tế và chất lượng hội thoại là những điểm mạnh.
Đây là kết quả thử nghiệm do công ty báo cáo, không phải kết quả đánh giá hiệu suất được xác minh độc lập. Đánh giá tập trung vào các tác vụ du lịch dựa trên văn bản, dù mô hình cũng hỗ trợ các loại dữ liệu đầu vào khác. Navan cho biết mô hình được triển khai giúp giảm chi phí, nhưng không công bố tỷ lệ tiết kiệm hay số tiền cụ thể.
Tự lưu trữ giúp duy trì sự linh hoạt trong lựa chọn mô hình
Navan cho biết việc tự lưu trữ giúp công ty kiểm soát tốt hơn tốc độ, chi phí và độ tin cậy, vì công ty quản lý cách các mô hình được tùy chỉnh, kiểm thử, triển khai và cập nhật. Cách này cũng cho phép công ty thay thế một mô hình mà không cần xây dựng lại toàn bộ hệ thống xung quanh mô hình đó.
Vì vậy, việc tích hợp này mở rộng danh mục mô hình của Navan thay vì xác lập một mô hình cố định lâu dài cho mọi quy trình công việc. Cách tiếp cận mà công ty nêu ra là đánh giá các mô hình theo yêu cầu chuyên biệt của ngành du lịch và kiểm thử toàn bộ trợ lý bằng các công cụ thực tế, bao gồm cả khả năng khắc phục khi xảy ra sự cố.
Kết luận
Cột mốc đã được xác nhận là mô hình đang hoạt động và phục vụ các tương tác với khách hàng. Thông báo của Navan cung cấp bằng chứng nội bộ về hiệu suất xử lý tác vụ được cải thiện, trong khi không công bố quy mô khoản tiết kiệm chi phí trong môi trường sản xuất.
Đọc thêm tin tức
Miễn trừ trách nhiệm
Bài viết này của FinanceVelix cung cấp thông tin chung, không phải lời khuyên tài chính, đầu tư, pháp lý hoặc thuế dành riêng cho từng cá nhân. Giá thị trường, lãi suất và điều kiện kinh tế có thể thay đổi; các khoản đầu tư tiềm ẩn rủi ro thua lỗ. Thông tin phản ánh tài liệu có tại thời điểm xuất bản và có thể thay đổi. Hãy tự xác minh các thông tin quan trọng và tham khảo ý kiến chuyên gia đủ năng lực khi cần. Việc đề cập đến một tài sản, công ty hoặc dịch vụ không đồng nghĩa với sự chứng thực.
