Các đám mây AI châu Âu đang mở rộng hạ tầng điện toán trong khu vực, đồng thời bổ sung các dịch vụ mô hình chuyên biệt và cơ chế kiểm soát cách tác tử AI sử dụng công cụ cũng như hệ thống doanh nghiệp. Bản cập nhật đối tác của NVIDIA mô tả nhiều hoạt động ở các giai đoạn khác nhau, gồm các thử nghiệm suy luận trong điều kiện hạn chế nguồn điện của Nscale, kế hoạch Mistral tiếp nhận Vera Rubin vào năm 2027 và sự hỗ trợ trong hệ sinh thái dành cho Kiến trúc tham chiếu OpenShell.
Điểm chính
- Nscale cho biết các thử nghiệm giúp triển khai nhiều GPU hơn 37% và nâng thông lượng suy luận tổng hợp gần 50% trong cùng hạn mức công suất được cấp.
- Các đối tác đang kết hợp hạ tầng trong khu vực với dịch vụ chuyên biệt, gồm mô hình định tuyến rà soát mã của CodeRabbit và nền tảng robot của Nebius.
- Các bên ủng hộ OpenShell hướng tới thiết lập ranh giới truy cập của tác tử trên cả phần mềm lẫn phần cứng; sự hỗ trợ của đối tác không đồng nghĩa với việc khách hàng đã triển khai hoàn tất.
Mục lục
- Các đám mây AI châu Âu đối mặt với giới hạn về nguồn điện
- Những gì đã sẵn sàng, được thử nghiệm hay vẫn đang lên kế hoạch?
- Dịch vụ chuyên biệt khai thác năng lực trong khu vực
- Cơ chế kiểm soát tác tử bao trùm phần mềm và phần cứng
- Kết luận
Các đám mây AI châu Âu đối mặt với giới hạn về nguồn điện
Việc mở rộng không chỉ đơn thuần là lắp đặt thêm thiết bị điện toán. NVIDIA xác định nguồn điện là một yếu tố giới hạn khi các nhà máy AI phát triển, khiến lượng công việc hữu ích có thể thực hiện trong phạm vi phân bổ điện hiện có trở thành một phần quan trọng trong kế hoạch năng lực.
Các thử nghiệm Nscale công bố là một ví dụ cụ thể. Sử dụng hệ thống NVIDIA GB300 NVL72, công ty chứng minh DSX MaxLPS giúp triển khai nhiều GPU hơn 37% và nâng thông lượng suy luận tổng hợp gần 50% trong cùng hạn mức công suất được cấp. Những kết quả này phản ánh một cấu hình thử nghiệm, chứ không phải mức cải thiện đã được đo lường tại mọi cơ sở của Nscale.
Nscale cũng có kế hoạch triển khai hạ tầng Vera Rubin cho việc huấn luyện mô hình tiên tiến và các khối lượng công việc sản xuất, đồng thời mở rộng tại năm thị trường châu Âu. Trong khi đó, Crusoe đang phát triển Spark, một thiết kế nhà máy AI mô-đun làm mát bằng chất lỏng cho nền tảng Vera Rubin, với mục tiêu đưa năng lực suy luận đến gần người dùng hơn.
Phạm vi địa lý không chỉ giới hạn ở châu Âu. NVIDIA cũng nêu các hoạt động phát triển và mở rộng hạ tầng tại khu vực Bắc Âu, châu Phi và Trung Á của những đối tác như Aleria, Cassava Technologies, Firebird, G42, Radiant, SWI Compute và Vultr.
| Hạng mục | Chi tiết |
|---|---|
| Thử nghiệm hiệu quả năng lượng của Nscale | Cho biết DSX MaxLPS giúp triển khai nhiều GPU hơn 37% và nâng thông lượng suy luận tổng hợp gần 50% trong cùng hạn mức công suất được cấp. |
| Hạ tầng của Mistral | Dự kiến tiếp nhận Vera Rubin vào năm 2027; Mistral Large 4 được huấn luyện trên 3.800 GPU Grace Blackwell tại các trung tâm dữ liệu ở châu Âu do Mistral vận hành. |
| Mô hình định tuyến của CodeRabbit | Tỷ lệ đồng thuận định tuyến tăng từ 75,8% lên 80,7%, trong khi chi phí suy luận ước tính giảm 50% đối với khối lượng công việc được đánh giá. |
| Tác tử bán lẻ của Nebius | Các bản thiết kế về hàng tồn kho, vận hành cửa hàng và tinh chỉnh mô hình đã được đưa vào giai đoạn truy cập sớm. |
| Kiến trúc tham chiếu OpenShell | Được công bố tại GTC Berlin với sự hỗ trợ của các đối tác; thiết kế này nhằm phối hợp ranh giới hoạt động của tác tử giữa phần mềm thời gian chạy, CPU và DPU. |
Những gì đã sẵn sàng, được thử nghiệm hay vẫn đang lên kế hoạch?
Báo cáo của NVIDIA về các đối tác đám mây trong khu vực và cơ chế kiểm soát tác tử gộp nhiều hoạt động ở các giai đoạn khác nhau. Việc phân biệt các giai đoạn này rất quan trọng: mô hình đang chạy trong môi trường sản xuất, dịch vụ truy cập sớm và thiết bị dự kiến giao trong tương lai không mang lại mức độ sẵn có tức thời như nhau cho khách hàng.
Kế hoạch mở rộng của Mistral cho thấy rõ sự khác biệt đó. Hạ tầng Vera Rubin dự kiến được bàn giao vào năm 2027. Riêng NVIDIA cho biết Mistral Large 4 đã được huấn luyện trên 3.800 GPU Grace Blackwell tại các trung tâm dữ liệu ở châu Âu do Mistral vận hành. Công việc phát triển mô hình được mô tả là đã hoàn tất, trong khi đợt bàn giao hạ tầng tiếp theo vẫn chưa diễn ra.
Verda cũng có kế hoạch triển khai Vera Rubin, nhưng hiện đã đưa các mô hình trọng số mở NVIDIA Nemotron và Cosmos vào vận hành sản xuất. Công ty cũng đang sử dụng khung mã nguồn mở Dynamo để tối ưu hóa suy luận.
Dịch vụ chuyên biệt khai thác năng lực trong khu vực
Đối với các nhà phát triển, câu hỏi thực tế là hạ tầng bổ sung hỗ trợ những gì. Bản cập nhật đối tác đề cập đến rà soát mã, robot, tác tử bán lẻ và dịch vụ mô hình doanh nghiệp, thay vì xem riêng năng lực điện toán là sản phẩm hoàn chỉnh.
Baseten đã phát triển một mô hình định tuyến chuyên biệt để rà soát mã bằng Nemotron 3.5 Lightning cho CodeRabbit. Sau khi tinh chỉnh có giám sát và học tăng cường, tỷ lệ đồng thuận định tuyến tăng từ 75,8% lên 80,7%, trong khi chi phí suy luận ước tính giảm 50% đối với khối lượng công việc được đánh giá. Con số chi phí là ước tính gắn với khối lượng công việc đó, không phải mức giảm áp dụng chung cho mọi hoạt động sử dụng mô hình.
Nebius đã triển khai NVIDIA Groq 3 LPX, sử dụng mạng Ethernet Spectrum-X để tích hợp với Vera Rubin NVL72 trên nền tảng Token Factory. NVIDIA cho biết sự kết hợp này sẽ tăng tốc độ tạo token cho các ứng dụng nhạy cảm với độ trễ và các hệ thống tác tử thông qua các điểm cuối không máy chủ được quản lý và điểm cuối chuyên dụng.
Nebius cũng cung cấp Physical AI Workbench, được các công ty robot như Rhoda AI, RoboForce và Sereact sử dụng. Các bản thiết kế tác tử bán lẻ NVIDIA dành cho hàng tồn kho, vận hành cửa hàng và tinh chỉnh mô hình đã bước vào giai đoạn truy cập sớm.
Fireworks và Era4 chọn một hướng tiếp cận khác: kết hợp dịch vụ huấn luyện và suy luận mô hình với năng lực Blackwell Ultra làm mát trực tiếp bằng chất lỏng tại cơ sở Chesterfield của Era4. Quan hệ hợp tác này hỗ trợ các kế hoạch phát triển ứng dụng doanh nghiệp trong lĩnh vực dịch vụ tài chính, bảo hiểm và khoa học đời sống.
Cơ chế kiểm soát tác tử bao trùm phần mềm và phần cứng
Kết nối mô hình AI với các công cụ doanh nghiệp đặt ra một yêu cầu riêng, bên cạnh việc cung cấp đủ năng lực điện toán: các tổ chức cần xác định và thực thi những gì tác tử được phép truy cập và thực hiện. Được công bố tại GTC Berlin, Kiến trúc tham chiếu OpenShell được thiết kế để xử lý các ranh giới đó trên toàn bộ ngăn xếp triển khai.
Kiến trúc này phân định chức năng riêng cho từng thành phần. Vera Rubin NVL72 đảm nhiệm suy luận mô hình; CPU Vera cùng OpenShell hỗ trợ bộ khung tác tử và việc sử dụng công cụ; còn DPU BlueField-4 chạy NVIDIA Sentry thực thi kiểm soát ngay trên silicon. Phần mềm thời gian chạy bảo mật OpenShell là nền tảng của kiến trúc.
Các bên ủng hộ gồm nhà cung cấp dịch vụ đám mây và dịch vụ mô hình như Baseten, CoreWeave, Crusoe, DigitalOcean, Fireworks, Nebius, Nscale và Vultr. Báo cáo mô tả sự hỗ trợ của hệ sinh thái nhằm tạo điều kiện cho việc triển khai tác tử an toàn, chứ không xác nhận rằng mọi đối tác được nêu tên đều đã hoàn tất triển khai.
Kết luận
Bản cập nhật kết nối đầu tư vào năng lực điện toán trong khu vực với các khối lượng công việc cụ thể và cơ chế kiểm soát quyền truy cập của tác tử. Bằng chứng rõ nhất nằm ở các thử nghiệm có số liệu đo lường và dịch vụ đang được sử dụng; các đợt triển khai Vera Rubin theo kế hoạch và việc áp dụng OpenShell trên diện rộng hơn là giai đoạn tiếp theo, chứ chưa phải năng lực đã hoàn thành.
Đọc thêm tin tức
Tuyên bố miễn trừ trách nhiệm
Bài viết này của FinanceVelix cung cấp thông tin chung, không phải tư vấn tài chính, đầu tư, pháp lý hoặc thuế dành riêng cho từng cá nhân. Giá thị trường, lãi suất và điều kiện kinh tế có thể thay đổi; đầu tư luôn tiềm ẩn rủi ro thua lỗ. Các thông tin phản ánh tài liệu có sẵn tại thời điểm xuất bản và có thể thay đổi. Hãy tự kiểm tra các thông tin quan trọng và tham khảo ý kiến chuyên gia có đủ năng lực khi cần. Việc đề cập đến một tài sản, công ty hoặc dịch vụ không cấu thành sự chứng thực.
