Name: Các Tùy Chọn Kết Nối Cho Mạng Ethernet Mở Rộng Quy Mô (Interconnect Options for Ethernet Scale Up Networks)
Uploaded: 2026-03-28T10:55:22.000Z
Duration: 23 min 21 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

So, um, welcome to the second half of the Shorelish Optics Interconnects workshop, and, uh, we s we have five more speakers, uh, in the strong lineup, uh, to continuously discuss about the Scale Up Network, how optics and Scale Up Network can interact together.

Vậy, ừm, chào mừng đến với nửa sau của hội thảo Shorelish Optics Interconnects, và, ờ, chúng ta có thêm năm diễn giả nữa, ờ, trong đội hình mạnh mẽ, ờ, để tiếp tục thảo luận về Mạng mở rộng quy mô, quang học và Mạng mở rộng quy mô có thể tương tác với nha

Um, so, you know, without s-speaking more, welcome, Peter.

Ừm, vậy, bạn biết đấy, không nói thêm nữa, chào mừng, Peter.

Can we start it now or wait a couple minutes?

Chúng ta có thể bắt đầu ngay bây giờ hay đợi vài phút?

Um, I think we can s-start it a little bit earlier if, uh that, that would that would give, uh, more, more time for, for questions.

Ừm, tôi nghĩ chúng ta có thể bắt đầu sớm hơn một chút nếu, ờ, điều đó sẽ cho phép, ờ, nhiều thời gian hơn cho các câu hỏi.

I manage the Tomahawk product line at Broadcom.

Tôi quản lý dòng sản phẩm Tomahawk tại Broadcom.

So the impetus for this talk was actually a suggestion by Cliff Grossner a few months back that I provide an overview about SUE, or Scale Up Inter-Interconnect, or Scale Up Ethernet, to the Short-Reach Optical Interconnect group.

Vậy động lực cho buổi nói chuyện này thực ra là một gợi ý của Cliff Grossner vài tháng trước rằng tôi nên cung cấp một cái nhìn tổng quan về SUE, hay Scale Up Inter-Interconnect, hoặc Scale Up Ethernet, cho nhóm Short-Reach Optical Interconnect.

So over the last few months, a lot has changed, so actually I've reflected that in the presentation.

Vậy trong vài tháng qua, rất nhiều thứ đã thay đổi, nên thực ra tôi đã phản ánh điều đó vào bài thuyết trình.

Um, over the last few months, we've announced Tomahawk Ultra, which is a chip that's focused on HPC and scale up.

Ừm, trong vài tháng qua, chúng tôi đã công bố Tomahawk Ultra, đây là một con chip tập trung vào HPC và scale up.

It's actually a proof point that we can actually achieve very high performance.

Đây thực sự là một minh chứng cho thấy chúng ta có thể đạt được hiệu suất rất cao.

It's actually sub-250 nanoseconds latency for scale up based on Ethernet.

Thực tế là độ trễ dưới 250 nano giây cho scale up dựa trên Ethernet.

One other thing that was announced just earlier this week is the ESUN, or Ethernet for Scale Up Networking, initiative.

Một điều khác vừa được công bố tuần này là sáng kiến ESUN, hay Ethernet cho Mạng Scale Up.

Vì vậy, tôi đã điều chỉnh bài thuyết trình,

I've got some slides on what is SUE, or what's evolved now into SUE Transport, and

và tôi có một vài slide về SUE, hay cái đã phát triển thành SUE Transport,

Okay, so first I'll provide some context.

Được rồi, vậy đầu tiên tôi sẽ cung cấp một chút bối cảnh.

You know, one of my motivations for this is that managing the Tomahawk product line, I wanna make sure there's an e is a full ecosystem of i-interconnect for these switches.

Bạn biết đấy, một trong những động lực của tôi là quản lý dòng sản phẩm Tomahawk, tôi muốn đảm bảo có một hệ sinh thái đầy đủ các kết nối cho các switch này.

So I wanna make sure there's electrical interconnect.

Vì vậy, tôi muốn đảm bảo có kết nối điện.

I wanna make sure there's optical interconnect.

Tôi muốn đảm bảo có kết nối quang.

So as mentioned before, we already have Tomahawk Ultra.

Như đã đề cập trước đó, chúng tôi đã có Tomahawk Ultra.

Vậy là sản phẩm này đang được gửi đến khách hàng.

We have customers that already demonstrated systems based on this.

Chúng tôi có những khách hàng đã trình diễn các hệ thống dựa trên sản phẩm này.

So there's a proof point that you can do scale up with Ethernet, with sub-250 nanoseconds latency.

Vì vậy, có một minh chứng rằng bạn có thể mở rộng quy mô với Ethernet, với độ trễ dưới 250 nano giây.

So we actually have two versions of Tomahawk 6.

Vì vậy, chúng tôi thực sự có hai phiên bản của Tomahawk 6.

We have one that's based on 200 gig SERDES.

Chúng tôi có một phiên bản dựa trên SERDES 200 gig.

Và chúng tôi có một phiên bản khác.

I brought the, uh, cargo pants here 'cause, uh, it's a rather large package.

Tôi đã mang chiếc quần túi hộp này đến đây vì nó là một gói hàng khá lớn.

So this is, I think, the largest package on the market right now for a networking chip.

Đây là gói hàng lớn nhất trên thị trường hiện nay cho một chip mạng.

So we do have customers that are gonna be deploying Tomahawk 6 and Tomahawk Ultra next year, both for scale up and for scale out.

Nên chúng tôi có những khách hàng sẽ triển khai Tomahawk 6 và Tomahawk Ultra vào năm tới, cả cho scale up và scale out.

So one of the key things here is that, you know, with these chips, we can already achieve a scale out d a scale up domain of two of 512 XPUs.

Vậy một trong những điểm chính ở đây là, với những con chip này, chúng ta đã có thể đạt được một miền scale out và scale up gồm 512 XPU.

And one of the things I think we need to look at going forward is what are the optics that will be needed for these switches, the switches we'll have in the future, especially considering the variety of packaging options that will be available.

Và một trong những điều tôi nghĩ chúng ta cần xem xét trong tương lai là những loại quang học nào sẽ cần thiết cho các switch này, các switch chúng ta sẽ có trong tương lai, đặc biệt là xem xét sự đa dạng của các tùy chọn đóng gói sẽ có sẵn.

And I'll get into the different packaging options we're considering on future slides.

Và tôi sẽ đi vào các tùy chọn đóng gói khác nhau mà chúng tôi đang xem xét trên các slide tiếp theo.

And also to provide some more context, at Broadcom, we do have a full end-to-end suite of products for scale up networking.

Và để cung cấp thêm bối cảnh, tại Broadcom, chúng tôi có một bộ sản phẩm hoàn chỉnh từ đầu đến cuối cho mạng scale up.

So on the switches, we have Tomahawk Ultra, Tomahawk 6.

Vì vậy, về các switch, chúng tôi có Tomahawk Ultra, Tomahawk 6.

So we have discrete NIC, you know, products.

Vì vậy, chúng tôi có các sản phẩm NIC rời.

We have NIC chiplets that we provide to our customers that use our custom ASIC services.

Chúng tôi có các chiplet NIC mà chúng tôi cung cấp cho khách hàng sử dụng dịch vụ ASIC tùy chỉnh của chúng tôi.

And if customers want to roll their own IP, we provide a set of specifications about how they can do scale up efficiently using Ethernet.

Và nếu khách hàng muốn tự phát triển IP của họ, chúng tôi cung cấp một bộ thông số kỹ thuật về cách họ có thể thực hiện scale up một cách hiệu quả bằng Ethernet.

And of course, we have ASICs, so a large number of custom ASICs.

Và tất nhiên, chúng tôi có ASIC, vì vậy có rất nhiều ASIC tùy chỉnh.

So, you know, important point here is that when we're looking at the optics, we have to make sure they're gonna work for all these endpoints.

Vì vậy, điểm quan trọng ở đây là khi chúng ta xem xét các bộ quang, chúng ta phải đảm bảo chúng sẽ hoạt động cho tất cả các điểm cuối này.

it's gotta be all these components that it works end to end.

mà tất cả các thành phần này phải hoạt động từ đầu đến cuối.

So if we look at the trends for the scale up cluster sizes, what we're seeing today is 64, 72 GPUs.

Vì vậy, nếu chúng ta nhìn vào xu hướng kích thước cụm mở rộng, những gì chúng ta thấy ngày nay là 64, 72 GPU.

Very soon, we're gonna see deployments of 256 to 512 GPUs, or XPUs.

Rất sớm thôi, chúng ta sẽ thấy các triển khai 256 đến 512 GPU, hoặc XPU.

And we already have a lot of requests for much larger scale up domains, you know, 1,000 to 2,000 XPUs.

Và chúng tôi đã nhận được rất nhiều yêu cầu cho các miền mở rộng lớn hơn nhiều, bạn biết đấy, 1.000 đến 2.000 XPU.

So an important point here is that this is not just it's no longer a box level.

Vì vậy, một điểm quan trọng ở đây là điều này không còn chỉ ở cấp độ hộp nữa.

Nó không còn là giải pháp ở cấp độ rack nữa.

This is something that it needs to be integrated with the rest of the DC infrastructure.

Đây là thứ cần được tích hợp với phần còn lại của cơ sở hạ tầng DC.

So if you use some bespoke technologies, proprietary technologies, it's not gonna scale.

Vì vậy, nếu bạn sử dụng một số công nghệ độc quyền, nó sẽ không thể mở rộng.

You're gonna wind up also having different operational tools throughout the data center.

Bạn sẽ có các công cụ vận hành khác nhau trên toàn bộ trung tâm dữ liệu.

So we do have to consider that, you know, in the past, you ha you the, the narrative was that you had Ethernet for your wide area data center network, maybe used in FinnaBand for the scale out, and

Vì vậy, chúng ta phải xem xét điều đó, bạn biết đấy, trong quá khứ, bạn có câu chuyện là bạn có Ethernet cho mạng trung tâm dữ liệu diện rộng, có thể sử dụng FinnaBand cho quy mô mở rộng, và

then some proprietary technology for the scale up.

sau đó là một số công nghệ độc quyền cho quy mô tăng.

You know, right now, I think people have concluded that, yes, we wanna use Ethernet for the wide area, for scale out.

Bạn biết đấy, ngay bây giờ, tôi nghĩ mọi người đã kết luận rằng, vâng, chúng ta muốn sử dụng Ethernet cho diện rộng, cho quy mô mở rộng.

And I think the next thing, especially since these scale up domains are increasing so much in size, is to put Ethernet into the scale up domains.

Và tôi nghĩ điều tiếp theo, đặc biệt là khi các miền quy mô tăng này ngày càng lớn, là đưa Ethernet vào các miền quy mô tăng.

So some of the benefits you get from that is you have a common technology stack, common operational tools.

Vì vậy, một số lợi ích bạn nhận được từ điều đó là bạn có một ngăn xếp công nghệ chung, các công cụ vận hành chung.

So you don't have to have separate network engineers that understand different technologies.

Vì vậy, bạn không cần phải có các kỹ sư mạng riêng biệt hiểu các công nghệ khác nhau.

You can use the same switches, the same cables, the same optics.

Bạn có thể dùng chung các switch, cáp, quang.

One other thing that we hear is that the hyperscalers, if they're deploying a very large data center, what they would like to do is have fungible interfaces.

Một điều khác mà chúng tôi nghe thấy là các hyperscaler, nếu họ triển khai một trung tâm dữ liệu rất lớn, họ muốn có các giao diện có thể thay thế cho nhau.

So if they have a data center that's got, say, 64K or 128K XPUs, a customer renting some XPU time from them might not rent out that whole data center.

Vì vậy, nếu họ có một trung tâm dữ liệu có, chẳng hạn, 64K hoặc 128K XPU, một khách hàng thuê một phần thời gian XPU từ họ có thể không thuê toàn bộ trung tâm dữ liệu đó.

So they might wanna be able to partition that where they wind up having, you know, a smaller cluster for a certain user.

Vì vậy, họ có thể muốn phân vùng nó, nơi họ có, bạn biết đấy, một cụm nhỏ hơn cho một người dùng nhất định.

And they might also wanna set it up so that way they have different interfaces for scale up versus scale out in different parts of that DC.

Và họ cũng có thể muốn thiết lập nó theo cách đó để có các giao diện khác nhau cho quy mô tăng so với quy mô mở rộng ở các phần khác nhau của trung tâm dữ liệu đó.

And the only technology that can do that is Ethernet.

Và công nghệ duy nhất có thể làm điều đó là Ethernet.

So as far as the requirements, um, I think folks are most are aware that you need to have high bandwidth, very efficient data transfer.

Vì vậy, về các yêu cầu, tôi nghĩ mọi người đều nhận thức được rằng bạn cần có băng thông cao, truyền dữ liệu rất hiệu quả.

You also wanna have very reliable connectivity.

Bạn cũng muốn có kết nối rất đáng tin cậy.

I mean, in general, over the scale up interfaces, this is gonna be a memory transaction.

Nói chung, trên các giao diện quy mô tăng, đây sẽ là một giao dịch bộ nhớ.

So you want that to behave like a memory transaction, to be lossless.

Vì vậy, bạn muốn điều đó hoạt động như một giao dịch bộ nhớ, không bị mất mát.

Um, going along with that, you also wanna make sure you have very efficient on-chip IP.

Và để làm được điều đó, bạn cũng muốn đảm bảo có IP trên chip rất hiệu quả.

So if you have, say, 10 terabits per second or more of scale up bandwidth, you wanna make sure that's not taking up a very large part of your XPU real estate and lo large part of the power.

Vì vậy, nếu bạn có, ví dụ, 10 terabit mỗi giây hoặc hơn băng thông mở rộng, bạn muốn đảm bảo rằng nó không chiếm một phần rất lớn diện tích thực của XPU và tiêu thụ nhiều năng lượng.

So in order to do this, you wanna make sure that you have an Ethernet implementation, you know, an IP that's really optimized for scale up.

Vì vậy, để làm được điều này, bạn muốn đảm bảo rằng bạn có một triển khai Ethernet, bạn biết đấy, một IP thực sự được tối ưu hóa cho việc mở rộng.

So as far as bandwidth requirements, what we're seeing today is that the XPUs are evolving from, say, four HBM stacks to H-HBM stacks with 12.8 terabits per second.

Vì vậy, về yêu cầu băng thông, những gì chúng ta đang thấy ngày nay là các XPU đang phát triển từ, ví dụ, bốn ngăn xếp HBM lên các ngăn xếp H-HBM với 12,8 terabit mỗi giây.

So soon you'll see that the HBM bandwidth will be over 100 terabits per second.

Vì vậy, sớm thôi bạn sẽ thấy băng thông HBM sẽ vượt quá 100 terabit mỗi giây.

And what we're seeing in general is that the scale up bandwidth tends to be 10 to 20 percent of that.

Và nhìn chung, chúng ta thấy rằng băng thông mở rộng có xu hướng chiếm 10 đến 20 phần trăm của con số đó.

I mean, effectively, you can see that scale up interface as being memory sharing or, you know, memory transactions between the different XPUs.

Ý tôi là, trên thực tế, bạn có thể thấy giao diện mở rộng đó là chia sẻ bộ nhớ hoặc, bạn biết đấy, các giao dịch bộ nhớ giữa các XPU khác nhau.

So that's roughly what we're seeing as far as the ratio, maybe like a 10 to 1, you know, ratio of HBM bandwidth to scale up bandwidth.

Vì vậy, đó là những gì chúng ta đang thấy về tỷ lệ, có lẽ là tỷ lệ 10 trên 1, bạn biết đấy, băng thông HBM so với băng thông mở rộng.

So overall, as far as the system bandwidth requirements, what we're seeing today is XPU clusters on the order of 10, you know, tens of thousands of XPUs with 10 terabits per second of scale up bandwidth, 800 gig of scale out bandwidth.

Vì vậy, nhìn chung, về yêu cầu băng thông hệ thống, những gì chúng ta đang thấy ngày nay là các cụm XPU có quy mô khoảng 10, bạn biết đấy, hàng chục nghìn XPU với băng thông mở rộng 10 terabit mỗi giây, băng thông mở rộng 800 gig.

Uh, we see those clusters going to a million plus XPUs.

À, chúng ta thấy các cụm đó sẽ có hơn một triệu XPU.

As far as the scale up bandwidth, we already have requests from hyperscalers that are saying literally that in, like, the next three to five years, they wanna see 50 to 100 terabits per second of just scale up bandwidth from an XPU.

Về băng thông mở rộng, chúng tôi đã nhận được yêu cầu từ các hyperscaler nói rằng trong vòng ba đến năm năm tới, họ muốn thấy băng thông mở rộng từ một XPU đạt 50 đến 100 terabit mỗi giây.

So net result is, you know, 100 million terabits per second of total bandwidth.

Kết quả cuối cùng là, bạn biết đấy, 100 triệu terabit mỗi giây băng thông tổng cộng.

So, you know, huge, huge amount of bandwidth.

Vì vậy, bạn biết đấy, một lượng băng thông khổng lồ.

We need to be ex as efficient as possible on the optics.

Chúng ta cần phải hiệu quả nhất có thể về mặt quang học.

So as far as the interconnect options, um, you know, copper is king.

Vì vậy, về các tùy chọn kết nối, bạn biết đấy, đồng là vua.

You know, wherever you can use copper, you will.

Bạn biết đấy, bất cứ nơi nào bạn có thể sử dụng đồng, bạn sẽ làm.

You know, we still see this being viable at 400 gig per lane.

Bạn biết đấy, chúng ta vẫn thấy điều này khả thi ở tốc độ 400 gig mỗi làn.

Um, you know, you may need to use some retimers or redrivers in some cases, but

Bạn biết đấy, bạn có thể cần sử dụng một số bộ định thời hoặc bộ điều khiển lại trong một số trường hợp,

definitely we see that copper is still gonna be very viable at 400 gig.

nhưng chắc chắn chúng ta thấy rằng đồng vẫn sẽ rất khả thi ở tốc độ 400 gig.

Um, so this will always be the preferred option.

Vì vậy, đây sẽ luôn là lựa chọn được ưu tiên.

Subtitles ListPlay Video

Các Tùy Chọn Kết Nối Cho Mạng Ethernet Mở Rộng Quy Mô (Interconnect Options for Ethernet Scale Up Networks)

process

scale

common

general