NVIDIA công bố NVIDIA DSX POD tại GTC Berlin vào ngày 21 tháng 10, giới thiệu phương thức tiếp cận mô-đun cho các nhà máy AI mà theo công ty có thể rút ngắn thời gian triển khai tại chỗ từ sáu tháng xuống còn 14 ngày sau khi các tiện ích tại địa điểm sẵn sàng. Thiết kế tham chiếu này đóng gói các hệ thống Vera Rubin hoàn chỉnh trong những container được các đối tác chế tạo, tích hợp và xác thực trước khi bàn giao, chuyển phần lớn công việc lắp đặt ra khỏi địa điểm của khách hàng.
Điểm chính
- DSX POD là thiết kế tham chiếu do đối tác xây dựng cho các nhà máy AI Vera Rubin dạng mô-đun; thời gian triển khai rút ngắn phụ thuộc vào việc các tiện ích tại địa điểm đã sẵn sàng.
- NVIDIA kết hợp các thông báo về hạ tầng với những thiết kế mới về bảo mật tác tử và công cụ kết nối tác tử với tri thức doanh nghiệp.
- Huang đặt các sản phẩm ra mắt trong bối cảnh NVIDIA mở rộng hoạt động tại châu Âu, dẫn con số gần 10 tỷ USD cam kết dành cho hệ sinh thái công nghệ của khu vực.
Mục lục
- NVIDIA DSX POD chuyển khâu tích hợp lên trước khi giao hàng
- Thúc đẩy AI tại châu Âu gắn kết vốn với hiệu quả vận hành
- Bảo mật tác tử trở thành một phần của hạ tầng
- Tri thức doanh nghiệp là lớp triển khai tiếp theo
- Các ví dụ công nghiệp cho thấy những giai đoạn ứng dụng khác nhau
- Kết luận
NVIDIA DSX POD chuyển khâu tích hợp lên trước khi giao hàng
Thay đổi cốt lõi nằm ở nơi nhà máy AI được lắp ráp. Thay vì chờ thiết bị đến đích mới tích hợp và xác thực, DSX POD yêu cầu các đối tác hoàn tất những bước đó bên trong các container mô-đun trước khi vận chuyển. NVIDIA trình bày đây là thay đổi trong chuỗi cung ứng xây dựng trung tâm dữ liệu, chứ không đơn thuần là một sản phẩm phần cứng quy mô tủ rack khác.
Sự khác biệt này rất quan trọng khi diễn giải tuyên bố về thời gian triển khai. Khoảng thời gian 14 ngày áp dụng cho việc triển khai tại chỗ sau khi các tiện ích sẵn sàng; đây không phải là mốc thời gian được nêu cho toàn bộ dự án. Báo cáo không xác định tổng tiến độ xây dựng cũng như không công bố giá DSX POD hay ngày giao hàng cho khách hàng.
Huang cho biết Vera Rubin đang được sản xuất hàng loạt và mở rộng nền tảng điện toán của NVIDIA vượt ra ngoài từng mô hình riêng lẻ và các mô hình ngôn ngữ lớn để xử lý toàn bộ tác tử AI. Ông mô tả nền tảng nhà máy AI rộng hơn là sự kết hợp giữa phần cứng, phần mềm hệ thống, thư viện CUDA-X và mô hình.
| Hạng mục | Chi tiết |
|---|---|
| DSX POD | Thiết kế tham chiếu mới dành cho các nhà máy AI Vera Rubin hoàn chỉnh, được đối tác lắp ráp, tích hợp và xác thực trong các container mô-đun. |
| Tiến độ triển khai | NVIDIA cho biết thời gian triển khai tại chỗ có thể rút ngắn từ sáu tháng xuống còn 14 ngày sau khi các tiện ích tại địa điểm sẵn sàng. |
| Các tuyên bố về hiệu quả DSX | Theo NVIDIA, nền tảng rộng hơn có thể giảm tới 100% lượng nước dùng để làm mát và sử dụng ít hơn tới 30% điện năng để tạo ra cùng một lượng đầu ra AI. |
| Kiến trúc tham chiếu OpenShell | Thiết kế bảo mật mới kết hợp các biện pháp kiểm soát chính sách, cô lập ở cấp nhân hệ điều hành và giám sát giữa tác tử với các hệ thống chịu ảnh hưởng. |
| Agent Knowledge Foundation | Các mô hình và thư viện mới kết nối tác tử với tài liệu doanh nghiệp và thông tin cơ sở dữ liệu có cấu trúc. |
| Xạ trị thích ứng | NVIDIA và Siemens Healthineers đang phát triển một hệ thống hỗ trợ AI; báo cáo không mô tả đây là một triển khai đã hoàn tất. |
Thúc đẩy AI tại châu Âu gắn kết vốn với hiệu quả vận hành
Bài phát biểu chính tại Berlin diễn ra sau các chuyến thăm của NVIDIA tới Paris, London, Stockholm và Dublin. Theo thông tin do công ty cung cấp, NVIDIA cam kết gần 10 tỷ USD cho hệ sinh thái công nghệ châu Âu và hợp tác với hơn 12.000 đối tác. Đây là con số cam kết, không phải tuyên bố rằng toàn bộ số tiền đã được chi.
Huang lập luận rằng các công ty châu Âu nên sản xuất AI, chứ không chỉ sử dụng AI. Ông nêu tên các doanh nghiệp như L’Oréal, Revolut, Spotify, Merck, Vodafone, Porsche và HSBC trong số các công ty châu Âu đang hợp tác với NVIDIA về AI, đặt các thông báo về hạ tầng bên cạnh một nhóm khách hàng doanh nghiệp hiện hữu.
NVIDIA cũng cho biết Nền tảng Nhà máy AI DSX có thể giảm tới 100% lượng nước dùng để làm mát và tạo ra cùng một lượng đầu ra AI với mức tiêu thụ điện ít hơn tới 30%. Đây là những năng lực được công bố cho nền tảng rộng hơn, tách biệt với tuyên bố về thời gian triển khai DSX POD. Báo cáo về bài phát biểu chính không cung cấp kết quả vận hành cụ thể của dự án đối với các mức tiết kiệm này.
Bảo mật tác tử trở thành một phần của hạ tầng
Triển khai hạ tầng nhanh hơn chỉ là một phần trong đề xuất của NVIDIA. Huang mô tả tác tử là các hệ thống kết hợp một mô hình với bộ điều phối, bộ nhớ, môi trường cách ly, tri thức và công cụ. Vì chúng có thể truy cập tệp, mạng và các tài nguyên khác, tính hữu ích của chúng cũng làm phát sinh nhu cầu kiểm soát những gì chúng được phép thực hiện.
NVIDIA giới thiệu Kiến trúc tham chiếu OpenShell dành cho các tác tử AI an toàn nhằm xử lý vấn đề đó. Đây là thiết kế toàn ngăn xếp được xây dựng trên OpenShell, một môi trường chạy mã nguồn mở có kiểm soát theo chính sách, với cơ chế cô lập ở cấp nhân hệ điều hành nằm giữa tác tử và các hệ thống mà tác tử có thể tác động.
Huang cho biết cần giới hạn đặc quyền của tác tử ở mức tối thiểu và giám sát hoạt động, đồng thời điều chỉnh linh hoạt quyền và việc thực thi chính sách. Khác biệt thực tế nằm giữa việc cấp cho tác tử quyền truy cập một công cụ và cho phép tác tử truy cập không hạn chế vào hệ thống xung quanh. NVIDIA trình bày bảo mật như một yêu cầu kỹ thuật để triển khai tác tử, chứ không chỉ là thuộc tính của riêng mô hình nền tảng.
Tri thức doanh nghiệp là lớp triển khai tiếp theo
Agent Knowledge Foundation của NVIDIA giải quyết một trở ngại riêng: kết nối tác tử với thông tin mà doanh nghiệp đã có. Bộ mô hình và thư viện mới được giới thiệu bao gồm cả tài liệu phi cấu trúc lẫn thông tin cơ sở dữ liệu có cấu trúc.
Các công cụ được nhấn mạnh gồm những khả năng của Nemotron để phân tích tài liệu, tạo embedding cho truy vấn và xếp hạng lại thông tin phù hợp, cùng với các mô hình Kumo mới để đưa ra dự đoán từ dữ liệu có cấu trúc. Những chức năng này kết nối quá trình suy luận của tác tử với tài liệu riêng của công ty, thay vì chỉ dựa vào kiến thức có trong một mô hình tổng quát.
Huang cũng định vị các mô hình mở của NVIDIA là điểm khởi đầu để doanh nghiệp tiếp tục huấn luyện sau trên dữ liệu độc quyền cho những mục đích cụ thể. Thư viện CUDA-X là một cấu phần khác: các trình mô phỏng, bộ giải và công cụ xử lý dữ liệu được tăng tốc mà tác tử có thể sử dụng như công cụ. Nhìn chung, các thông báo mô tả một ngăn xếp vận hành bao trùm quyền truy cập, tri thức và thực thi.
Các ví dụ công nghiệp cho thấy những giai đoạn ứng dụng khác nhau
Một video trong bài phát biểu chính minh họa cách các cấu phần này có thể phối hợp với nhau. Tại Lila Sciences, các tác tử hỗ trợ thiết kế một liệu pháp tiềm năng điều trị ung thư hạch tế bào B thông qua những thí nghiệm ảo định hướng cho một phòng thí nghiệm tự động. Tại nhà máy Erlangen của Siemens, các tác tử hỗ trợ chuẩn bị sản phẩm đưa vào sản xuất bằng cách thử nghiệm kế hoạch trong bản sao số. Một ví dụ của Dassault Systèmes cho thấy các tác tử kỹ thuật sử dụng mô phỏng để xác định vấn đề trong thiết kế xe và hoàn thiện thiết kế.
Cần phân biệt các minh họa đó với những dự án vẫn đang được phát triển. NVIDIA và Siemens Healthineers đang phát triển công nghệ xạ trị hỗ trợ AI, kết hợp các tác tử lập kế hoạch điều trị, bản sao số, hình ảnh trực tiếp và dữ liệu cảm biến. Hệ thống được mô tả sẽ điều chỉnh mục tiêu điều trị khi cơ thể và khối u của bệnh nhân thay đổi trong quá trình điều trị.
Các ví dụ này cho thấy mục đích cụ thể của chiến lược hạ tầng: các tác tử có thể làm việc với dữ liệu và công cụ chuyên biệt trong phòng thí nghiệm, nhà máy và môi trường kỹ thuật. Tuy nhiên, tự thân chúng không chứng minh rằng mọi công nghệ được công bố đã được triển khai thương mại hoặc mức tiết kiệm hạ tầng được tuyên bố đã đạt được tại những địa điểm đó.
Kết luận
DSX POD đưa ra một đề xuất hạ tầng cụ thể cho nỗ lực phát triển AI tại châu Âu của NVIDIA: chuyển khâu tích hợp ra khỏi địa điểm và rút ngắn thời gian triển khai sau khi các tiện ích sẵn sàng. Các công cụ bảo mật và tri thức đi kèm giải quyết cách doanh nghiệp sẽ vận hành tác tử trên hạ tầng đó, trong khi giá cả, tiến độ giao hàng và kết quả hiệu quả ở cấp dự án vẫn chưa được công bố trong báo cáo về bài phát biểu chính.
Đọc thêm tin tức
Miễn trừ trách nhiệm
Bài viết này của FinanceVelix cung cấp thông tin chung, không phải lời khuyên tài chính, đầu tư, pháp lý hoặc thuế được cá nhân hóa. Giá thị trường, lãi suất và điều kiện kinh tế có thể thay đổi; đầu tư tiềm ẩn rủi ro thua lỗ. Các thông tin phản ánh tài liệu hiện có tại thời điểm xuất bản và có thể thay đổi. Hãy tự kiểm tra những thông tin quan trọng và tham vấn chuyên gia đủ năng lực khi cần. Việc đề cập đến một tài sản, công ty hoặc dịch vụ không phải là sự xác nhận hay khuyến nghị.
