Name: Nvidia Kyber / Rubin Ultra và NVL576 được trưng bày — 576 GPU trong một rack với CPU Vera (Nvidia Kyber / Rubin Ultra and NVL576 on display — 576 GPUs in a single rack with Vera CPUs)
Uploaded: 2026-02-07T00:16:12.000Z
Duration: 5 min 43 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

At the heart of Nvidia's latest innovation is the upcoming NVL 576 Rack, a single cabinet housing 576 Rubin Ultra GPUs paired with variseries CPUs.

Trung tâm của sự đổi mới mới nhất từ Nvidia là NVL 576 Rack sắp ra mắt, một tủ đơn chứa 576 Rubin Ultra GPUs kết hợp với variseries CPUs.

All of this is built on the new Kyber rack architecture, representing a fundamentally new scale of computing density, power, cooling and system design.

Tất cả điều này được xây dựng trên kiến trúc Kyber rack mới, đại diện cho một quy mô hoàn toàn mới về mật độ tính toán, sức mạnh, làm mát và thiết kế hệ thống.

This isn't just faster hardware, it's the kind of machine data centers build when they're thinking AI factory, not just AI server.

Đây không chỉ là phần cứng nhanh hơn, mà là loại máy mà các trung tâm dữ liệu xây dựng khi họ nghĩ đến nhà máy AI, chứ không chỉ máy chủ AI.

The Kyber rack generation replaces the previous Oberon style racks, moving away from conventional horizontally mounted trays.

Thế hệ Kyber rack thay thế các giá đỡ kiểu Oberon trước đây, chuyển đổi khỏi các khay gắn theo chiều ngang thông thường.

Instead, Kyber uses vertical blade modules and tight networking midplanes, optimizing space and performance.

Thay vào đó, Kyber sử dụng các mô-đun lưỡi dọc và mặt phẳng mạng chặt chẽ, tối ưu hóa không gian và hiệu suất.

Each of the four pods inside the rack takes in 18 blades, with each blade loading up to eight Rubin Ultra GPUs and accompanying VARICPU's.

Mỗi trong số bốn pod bên trong giá đỡ chứa 18 lưỡi, với mỗi lưỡi tải lên tới tám Rubin Ultra GPUs và VARICPU's đi kèm.

This configuration adds up to an astonishing 576 GPUs in a single rack, providing unprecedented computing power.

Cấu hình này cộng lại thành 576 GPUs đáng kinh ngạc trong một giá đỡ duy nhất, mang lại sức mạnh tính toán chưa từng có.

High speed NVLink and custom midplanes enable each GPU to communicate with many others with very low latency.

NVLink tốc độ cao và các mặt phẳng tùy chỉnh cho phép mỗi GPU giao tiếp với nhiều GPU khác với độ trễ rất thấp.

This makes the rack behave more like one huge compute plane than dozens of separate boxes, a truly game changing approach.

Điều này làm cho giá đỡ hoạt động giống như một mặt phẳng tính toán khổng lồ hơn là hàng chục hộp riêng biệt, một cách tiếp cận thực sự thay đổi cuộc chơi.

With 576 high end GPUs in one rack, you no longer need dozens of racks to build a large model training or inference system.

Với 576 GPU cao cấp trong một giá đỡ, bạn không còn cần hàng chục giá đỡ để xây dựng hệ thống huấn luyện hoặc suy luận mô hình lớn.

The NVL576 aims for exaflop class compute in one footprint, a massive scale in a single compact unit.

NVL576 hướng tới tính toán lớp exaflop trong một diện tích, quy mô khổng lồ trong một đơn vị nhỏ gọn duy nhất.

This rack is planned to draw up to 600 kilowatts, far above current rack power budgets, necessitating a power and cooling rethink.

Giá đỡ này dự kiến sẽ tiêu thụ tới 600 kilowatt, vượt xa ngân sách nguồn điện hiện tại của giá đỡ, đòi hỏi phải suy nghĩ lại về nguồn điện và làm mát.

Nvidia is shifting to 800 VDC power delivery with reducing copper volume and improving efficiency a critical advancement.

Nvidia đang chuyển sang cung cấp nguồn điện 800 VDC với việc giảm khối lượng đồng và cải thiện hiệu quả là một bước tiến quan trọng.

Full liquid cooling solutions are integrated with the entire system, designed to handle the extreme thermal loads.

Các giải pháp làm mát bằng chất lỏng hoàn toàn được tích hợp với toàn bộ hệ thống, được thiết kế để xử lý tải nhiệt cực lớn.

Vera CPUs are tightly paired with Rubin GPUs, meaning the rack is built not just for throughput but for reasoning class tasks and agentic AI.

CPU Vera được ghép nối chặt chẽ với GPU Rubin, có nghĩa là giá đỡ này được chế tạo không chỉ để xử lý thông lượng mà còn cho các tác vụ suy luận và AI dạng tác tử.

We're not just ramping up raw flops, we're building for next gen AI workloads including large context inference.

Chúng ta không chỉ tăng số flops thô, mà còn xây dựng cho các khối lượng công việc AI thế hệ tiếp theo bao gồm suy luận ngữ cảnh lớn.

With 576 GPUs all in one rack, latency and bandwidth between GPUs are paramount, requiring a networking and interconnect redesign.

Với 576 GPU trong cùng một giá đỡ, độ trễ và băng thông giữa các GPU là tối quan trọng, đòi hỏi thiết kế lại mạng và kết nối.

NVLink switchblades, high bandwidth midplanes and optimized intra rack communication are critical to prevent bottlenecks for large language models.

Các switchblade NVLink, mặt phẳng băng thông cao và giao tiếp nội bộ giá đỡ được tối ưu hóa là rất quan trọng để ngăn chặn tắc nghẽn cho các mô hình ngôn ngữ lớn.

Multimodal AI or Agentix systems, the NBL576 rack offers unprecedented capability.

Hệ thống AI đa phương thức hoặc Agentix, giá đỡ NBL576 mang đến khả năng chưa từng có.

Teams can train or serve models at a scale they use to build across many racks or even data centers, all within a single unit.

Các nhóm có thể huấn luyện hoặc phục vụ các mô hình ở quy mô mà họ từng xây dựng trên nhiều giá đỡ hoặc thậm chí trung tâm dữ liệu, tất cả trong một đơn vị duy nhất.

Inference latency drops, context windows grow, and model size and complexity can increase without splitting across many systems.

Độ trễ suy luận giảm, cửa sổ ngữ cảnh tăng lên, và kích thước cũng như độ phức tạp của mô hình có thể tăng mà không cần chia nhỏ trên nhiều hệ thống.

However, this advanced technology comes with major infrastructure demands requiring significant upgrades up to 600kW means facilities need upgraded electrical supply, high voltage distribution lines and special bus bars.

Tuy nhiên, công nghệ tiên tiến này đi kèm với các yêu cầu cơ sở hạ tầng lớn đòi hỏi nâng cấp đáng kể, lên đến 600kW có nghĩa là các cơ sở cần nguồn điện được nâng cấp, các đường phân phối điện áp cao và các thanh bus đặc biệt.

At that density, water cooling or immersion cooling is no longer optional.

Ở mật độ đó, làm mát bằng nước hoặc làm mát ngâm không còn là tùy chọn nữa.

Traditional air cooled systems won't suffice.

Các hệ thống làm mát bằng không khí truyền thống sẽ không đủ.

The rack footprint isn't just the cabinet.

Diện tích giá đỡ không chỉ là tủ.

Sidecars for power conversion, chillers and monitoring gear must be considered.

Các bộ phận phụ trợ cho chuyển đổi nguồn, bộ làm mát và thiết bị giám sát phải được xem xét.

Deploying such racks takes planning, capital, skilled operations and time to integrate, representing a big leap for many organizations.

Triển khai các giá đỡ như vậy đòi hỏi kế hoạch, vốn, vận hành có kỹ năng và thời gian để tích hợp, đại diện cho một bước nhảy vọt lớn đối với nhiều tổ chức.

Enterprises aiming to build large scale AI factories now have a target rack of compute, consolidating into fewer ultra dense racks.

Các doanh nghiệp nhắm đến việc xây dựng các nhà máy AI quy mô lớn giờ đây có một mục tiêu tính toán trên mỗi giá đỡ, hợp nhất vào ít giá đỡ siêu dày đặc hơn.

Developers of generative AI, multimodal reasoning systems and real time inference pipelines gain a new lever.

Các nhà phát triển AI tạo sinh, hệ thống suy luận đa phương thức và các đường ống suy luận thời gian thực có thêm một đòn bẩy mới.

More local compute per rack, fewer network hops and more scale are now achievable.

Nhiều tính toán cục bộ hơn trên mỗi giá đỡ, ít bước nhảy mạng hơn và quy mô lớn hơn giờ đây có thể đạt được.

Accelerating innovation Data center design becomes even more critical with power, cooling, networking and maintenance all evolving.

Đổi mới tăng tốc Thiết kế trung tâm dữ liệu trở nên quan trọng hơn nữa với sự phát triển của nguồn điện, làm mát, mạng và bảo trì.

For chip makers and infrastructure vendors, this rack signals a shift.

Đối với các nhà sản xuất chip và nhà cung cấp cơ sở hạ tầng, giá đỡ này báo hiệu một sự thay đổi.

The bottleneck is no longer just more gpu.

Điểm nghẽn không còn chỉ là nhiều GPU hơn.

It's how you distribute power, how you cool and how you interconnect.

Đó là cách bạn phân phối điện, cách bạn làm mát và cách bạn kết nối.

Giá đỡ trở thành toàn bộ hệ thống.

If you're building something that only needs a few GPUs or moderate inference loads, this type of rack may be overkill.

Nếu bạn đang xây dựng thứ gì đó chỉ cần vài GPU hoặc tải suy luận vừa phải, loại giá đỡ này có thể là quá mức cần thiết.

But if you're planning AI at a large scale, you should consider what it means when one rack can do what formerly required dozens.

Nhưng nếu bạn đang lên kế hoạch AI ở quy mô lớn, bạn nên xem xét ý nghĩa khi một giá đỡ có thể làm được những gì trước đây cần hàng chục giá đỡ.

GPU capability matters, but so does power architecture, interconnect, cooling and software model design needs to adapt.

Khả năng GPU rất quan trọng, nhưng kiến trúc nguồn, kết nối, làm mát và nhu cầu thiết kế mô hình phần mềm cũng cần thích ứng.

With such dense racks, you can push models that need high memory bandwidth and large context windows.

Với các giá đỡ dày đặc như vậy, bạn có thể đẩy các mô hình cần băng thông bộ nhớ cao và cửa sổ ngữ cảnh lớn.

Planning ahead is crucial if you're in procurement, operations or strategy.

Việc lên kế hoạch trước là rất quan trọng nếu bạn phụ trách mua sắm, vận hành hoặc chiến lược.

Hãy bắt đầu suy nghĩ về cơ sở hạ tầng ngay bây giờ.

Power upgrades, cooling systems and rack level design must be aligned with future racks like the NVL576.

Nâng cấp nguồn, hệ thống làm mát và thiết kế cấp rack phải phù hợp với các rack tương lai như NVL576.

In summary, the Kyber, Rubin Ultra and NBL576 rack is a preview of the next frontier of AI infrastructure.

Tóm lại, rack Kyber, Rubin Ultra và NBL576 là một cái nhìn sơ lược về biên giới tiếp theo của cơ sở hạ tầng AI.

It takes the concept of cluster and shrinks it into a single rack with ultra dense computer, bespoke power cooling and high bandwidth interconnect.

Nó gói gọn khái niệm cụm và thu nhỏ nó vào một rack duy nhất với mật độ tính toán cực cao, nguồn và làm mát tùy chỉnh cùng kết nối băng thông cao.

While planned for 2027, it sets a target for what AI factory hardware will look like, signaling how infrastructure and compute scale will evolve together.

Mặc dù được lên kế hoạch cho năm 2027, nó đặt ra mục tiêu cho phần cứng của nhà máy AI sẽ trông như thế nào, báo hiệu cách cơ sở hạ tầng và quy mô tính toán sẽ phát triển cùng nhau.

Nvidia Kyber / Rubin Ultra và NVL576 được trưng bày — 576 GPU trong một rack với CPU Vera (Nvidia Kyber / Rubin Ultra and NVL576 on display — 576 GPUs in a single rack with Vera CPUs)