Name: Cuộc trò chuyện với CEO NVIDIA Jensen Huang: Satya Nadella tại Microsoft Build 2025 (Conversation with NVIDIA CEO Jensen Huang: Satya Nadella at Microsoft Build 2025)
Uploaded: 2025-12-03T07:11:08.000Z
Duration: 12 min 36 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

Thank you so much, Jensen, for joining yet again for our Build Developer Conference.

Cảm ơn Jensen rất nhiều vì đã lại một lần nữa tham gia Build Developer Conference của chúng tôi.

You were here a couple of years ago and we had a chance at that time to talk about all the great innovation you are bringing to our Azure and how customers were going to benefit.

Bạn đã ở đây cách đây vài năm và chúng ta đã có cơ hội nói về tất cả những đổi mới tuyệt vời mà bạn đang mang đến cho Azure của chúng ta và cách khách hàng sẽ được hưởng lợi.

And in fact, in the last two years you have sort of continued to push the real frontier of innovation.

Và trên thực tế, trong hai năm qua, bạn đã tiếp tục đẩy ranh giới đổi mới thực sự.

And you and I have talked a lot about how this may be again the golden age of both Silicon hardware systems, software systems, all coming together.

Và bạn và tôi đã nói rất nhiều về việc làm thế nào đây có thể lại là kỷ nguyên vàng cho cả hệ thống phần cứng Silicon, hệ thống phần mềm, tất cả cùng nhau kết hợp.

And one of the things that I've really learned so much from you in sort of saying, look, at the end of the day, our joint goal is to be able to deliver more intelligence to the world.

Và một trong những điều mà tôi thực sự học hỏi được rất nhiều từ bạn đó là, nhìn xem, cuối cùng thì mục tiêu chung của chúng ta là có thể mang lại nhiều trí tuệ hơn cho thế giới.

In some sense, you can even say it's tokens per dollar per watt, right?

Theo một nghĩa nào đó, bạn thậm chí có thể nói đó là token trên mỗi đô la trên mỗi watt, đúng không?

That's sort of what ultimately is going to help the world flourish.

Đó là điều cuối cùng sẽ giúp thế giới phát triển mạnh mẽ.

And so I just wanted to be able to maybe get your perspective on all this, maybe starting in fact with the very start of what has been our, which is Moore's Law.

Và vì vậy, tôi chỉ muốn có thể có được góc nhìn của bạn về tất cả những điều này, có lẽ bắt đầu trên thực tế với điểm khởi đầu của chúng ta, đó là Định luật Moore.

You're really taken this Moore's Law and put it back on hyperdrive and maybe you want to speak to.

Bạn thực sự đã lấy Định luật Moore này và đưa nó trở lại chế độ siêu tốc và có lẽ bạn muốn nói về điều đó.

In fact, right behind me is a signed GB200 from you and we are now just about putting that into massive production.

Trên thực tế, ngay phía sau tôi là một chiếc GB200 đã được bạn ký tên và chúng tôi hiện đang đưa nó vào sản xuất hàng loạt.

And so I just want you to talk a little bit about how this is actually working generation to generation in terms of just the benefits of Moore's Law.

Và vì vậy, tôi chỉ muốn bạn nói một chút về cách điều này thực sự hoạt động giữa các thế hệ về lợi ích của Định luật Moore.

In fact, two years ago we had just launched the largest AI supercomputer in the world together on Azure.

Trên thực tế, hai năm trước, chúng ta vừa ra mắt siêu máy tính AI lớn nhất thế giới cùng nhau trên Azure.

And then right now, as we speak, we are in full production with Grace Blackwell.

Và ngay bây giờ, khi chúng ta đang nói, chúng ta đang sản xuất hàng loạt Grace Blackwell.

We are ramping and scaling and building the largest AI supercomputer in the world in Azure.

Chúng ta đang tăng tốc, mở rộng quy mô và xây dựng siêu máy tính AI lớn nhất thế giới trên Azure.

So this is just an exciting, exciting time literally two years later.

Vì vậy, đây thực sự là một thời điểm thú vị, thú vị chỉ sau hai năm.

Well, during that time we've innovated across the entire stack.

Chà, trong thời gian đó, chúng ta đã đổi mới trên toàn bộ ngăn xếp.

This is the big change in how computing works now.

Đây là sự thay đổi lớn trong cách hoạt động của máy tính hiện nay.

Instead of just the processor running static software, if you will, everything about the stack has changed.

Thay vì chỉ bộ xử lý chạy phần mềm tĩnh, nếu bạn muốn, mọi thứ về ngăn xếp đã thay đổi.

And so our processor has changed, our MV link has changed so that we can scale up to a much larger compute node.

Và vì vậy, bộ xử lý của chúng tôi đã thay đổi, liên kết MV của chúng tôi đã thay đổi để chúng tôi có thể mở rộng quy mô lên một nút tính toán lớn hơn nhiều.

It's liquid cooled, the architecture is FP4 tensor core.

Nó được làm mát bằng chất lỏng, kiến trúc là lõi tensor FP4.

We now have the ability to connect Grace and Blackwell coherently over a super fast link.

Giờ đây, chúng ta có khả năng kết nối Grace và Blackwell một cách mạch lạc thông qua một liên kết siêu nhanh.

Very important in the world of KV caching.

Rất quan trọng trong thế giới bộ nhớ đệm KV.

As we talk about these large agentic model and agentic workforces, workloads, all of this stuff combined with our new CUDA algorithms and new model technology in your new AI infrastructure on Azure together, all of that together 40x speed up over Hopper 40x speed up over Hopper.

Khi chúng ta nói về các mô hình tác nhân lớn này và lực lượng lao động, khối lượng công việc của tác nhân, tất cả những thứ này kết hợp với các thuật toán CUDA mới của chúng tôi và công nghệ mô hình mới trong cơ sở hạ tầng AI mới của bạn trên Azure cùng n

That's just an insane speed up in just two years.

Đó là một sự tăng tốc điên rồ chỉ trong hai năm.

Không, thật không thể tin được.

And in fact, you know that type of compounding of S curves, right?

Và trên thực tế, bạn biết cái kiểu tăng trưởng theo đường cong S, đúng không?

Your innovation, our innovation coming together, ultimately driving that frontier forward is just unbelievable.

Sự đổi mới của bạn, sự đổi mới của chúng tôi kết hợp với nhau, cuối cùng thúc đẩy ranh giới đó tiến về phía trước thật không thể tin được.

But one of the other things you taught me, which I'll always remember, is that speed of light execution between even the two organizations is a way to deliver that right, which is there is in fact, you know, in our fleet, as you can imagine, we have all the generations of Nvidia and the new generations coming in, and

Nhưng một trong những điều khác mà bạn đã dạy tôi, điều mà tôi sẽ luôn nhớ, đó là tốc độ thực thi ánh sáng giữa hai tổ chức là một cách để mang lại điều đó, đúng không, đó là, trên thực tế, bạn biết đấy, trong đội của chúng tôi, như bạn có thể tưởng tượng

you want to speak to a little bit of what Moore's Law and speed have to do with each other when it comes to driving innovation.

bạn muốn nói một chút về mối quan hệ giữa Định luật Moore và tốc độ khi nói đến việc thúc đẩy sự đổi mới.

Yeah, this is the insane execution of our two organizations now, hyperlinked, if you will.

Vâng, đây là sự thực thi điên rồ của hai tổ chức chúng ta, siêu liên kết, nếu bạn muốn nói vậy.

In fact, when technology is moving 40 times per generation, and

Trên thực tế, khi công nghệ tăng gấp 40 lần mỗi thế hệ, và

it's 40 times every two years, you really want to upgrade every year.

là 40 lần mỗi hai năm, bạn thực sự muốn nâng cấp mỗi năm.

You don't want to wait every four years, build out a giant fleet.

Bạn không muốn đợi bốn năm một lần, xây dựng một đội ngũ khổng lồ.

You want to build out small amounts at every single year.

Bạn muốn xây dựng từng chút một mỗi năm.

And each year, let's say it's 10 times faster than the last year.

Và mỗi năm, giả sử nó nhanh gấp 10 lần năm trước.

And as a result, you, you know, cost average, if you will, or inverse to that performance, average up your entire fleet.

Và kết quả là, bạn, bạn biết đấy, trung bình hóa chi phí, nếu bạn muốn nói vậy, hoặc ngược lại với hiệu suất đó, trung bình hóa toàn bộ đội ngũ của bạn.

And so you want to, you want to innovate and you want to integrate new data centers, new computer architectures every year.

Vì vậy, bạn muốn, bạn muốn đổi mới và bạn muốn tích hợp các trung tâm dữ liệu mới, các kiến trúc máy tính mới mỗi năm.

The complexity, of course, is the work that you and I do is not about building PCs anymore.

Sự phức tạp, tất nhiên, là công việc mà bạn và tôi làm không còn là xây dựng PC nữa.

Đó là việc xây dựng các nhà máy AI khổng lồ này.

Công nghệ thì phức tạp đến điên rồ.

And for our organizations now to be innovating every single year requires really type integration.

Và để các tổ chức của chúng ta đổi mới mỗi năm, đòi hỏi sự tích hợp thực sự.

Nhưng lợi ích thì thật tuyệt vời.

Yeah, and I think that that point about that physics of the fleet, right.

Vâng, và tôi nghĩ rằng điểm đó về vật lý của đội tàu, đúng vậy.

Continuously taking advantage of what comes out each year, and

Liên tục tận dụng những gì ra mắt mỗi năm, và

that compounding of that 40x improvement every two years, let's say, and

sự cộng dồn của cải thiện gấp 40 lần mỗi hai năm, chẳng hạn, và

then the fleet itself will be there for four years, five years.

rồi bản thân đội tàu sẽ ở đó trong bốn năm, năm năm.

And the benefits of it go all through that period.

Và lợi ích của nó sẽ kéo dài trong suốt thời gian đó.

In fact, talking about that, one of the other things you mentioned this even in, you know, when you talked about the first point, which is the software, the innovation you're doing in Cuda, some of the system software work that we do end to end, the app, we talked a lot about, even the new app server for AI that we are doing even something like, even just, you know, when I look at an application and its performance, whether it's latency cogs, even the smart techniques of prompt caching, plus everything else that happens Just makes a huge difference.

Thực tế, nói về điều đó, một trong những điều khác mà bạn đã đề cập trong sự kiện này, bạn biết đấy, khi bạn nói về điểm đầu tiên, đó là phần mềm, sự đổi mới mà bạn đang thực hiện trong Cuda, một số công việc phần mềm hệ thống mà chúng tôi thực hiện từ đầ

But you want to talk about the compounding effects of software that then add to all of what we are doing together.

Nhưng bạn muốn nói về hiệu ứng cộng dồn của phần mềm sau đó bổ sung vào tất cả những gì chúng ta đang cùng nhau làm.

Điều này thật đáng kinh ngạc về điện toán.

Architectures that are stable, that are programmable, have a rich ecosystem.

Các kiến trúc ổn định, có thể lập trình được, có hệ sinh thái phong phú.

So meanwhile, while we're sitting here executing from Pascal to Ampere to Hopper to Blackwell to Next Generation, all of our software architectures are compatible.

Vì vậy, trong khi chúng ta đang ngồi đây thực hiện từ Pascal đến Ampere đến Hopper đến Blackwell đến Thế hệ tiếp theo, tất cả các kiến trúc phần mềm của chúng tôi đều tương thích.

As a result, that rich ecosystem of tools and all the developers that are developing on it, they're anxious to develop on it because the install base is so large, they're anxious to develop on it because the ecosystem is so rich.

Kết quả là, hệ sinh thái công cụ phong phú đó và tất cả các nhà phát triển đang phát triển trên đó, họ háo hức phát triển trên đó vì cơ sở cài đặt quá lớn, họ háo hức phát triển trên đó vì hệ sinh thái quá phong phú.

And all of that enables them to invest deeply into enhancing their models and their algorithms and runtimes and orchestration layers because it affects and benefits the entire fleet.

Và tất cả những điều đó cho phép họ đầu tư sâu vào việc nâng cao các mô hình, thuật toán, thời gian chạy và các lớp điều phối của họ vì nó ảnh hưởng và mang lại lợi ích cho toàn bộ đội tàu.

And so while we're sitting here executing new generations of architectures every single year, we still want architecture compatibility.

Và vì vậy, trong khi chúng ta đang ngồi đây thực hiện các thế hệ kiến trúc mới mỗi năm, chúng ta vẫn muốn có sự tương thích kiến trúc.

We want the rich ecosystem to be stable so that software developers investments, and

Chúng ta muốn hệ sinh thái phong phú được ổn định để các khoản đầu tư của nhà phát triển phần mềm, và

all of the AI developers investments and all your infrastructure customers investments get to be distributed and amortized across the entire fleet.

tất cả các khoản đầu tư của nhà phát triển AI và tất cả các khoản đầu tư của khách hàng cơ sở hạ tầng của bạn được phân phối và khấu hao trên toàn bộ đội tàu.

in fact, you know, one of the things we're very excited about is given the fleet we now have, we are able to take advantage of these software advances across the entire fleet.

thực tế, bạn biết đấy, một trong những điều chúng tôi rất hào hứng là với đội tàu hiện có, chúng tôi có thể tận dụng những tiến bộ phần mềm này trên toàn bộ đội tàu.

And I think that's one of the things that people don't understand, that even the things that were shipped from you multiple years ago benefit from software advances continuously.

Và tôi nghĩ đó là một trong những điều mà mọi người không hiểu, rằng ngay cả những thứ đã được gửi đến bạn nhiều năm trước cũng hưởng lợi từ những tiến bộ phần mềm liên tục.

Hopper, we've been shipping Hoppers to you now for two years.

Hopper, chúng tôi đã gửi Hopper cho bạn trong hai năm nay.

Over the course of those two years, through new algorithms, let's just say transformer, let's just say llama 70B.

Trong suốt hai năm đó, thông qua các thuật toán mới, hãy cứ gọi là transformer, hãy cứ gọi là llama 70B.

Over the course of the last two years, we've improved the performance of 40x Blackwall to Hopper is 40x.

Trong suốt hai năm qua, chúng tôi đã cải thiện hiệu suất của 40x Blackwall lên Hopper là 40x.

Hopper on Hopper has been 40x over the last two years.

Hopper trên Hopper đã tăng 40x trong hai năm qua.

We did that through all kinds of things like in flight batching and speculative decoding and all kinds of new algorithms that sit underneath the inference engine.

Chúng tôi đã làm được điều đó thông qua tất cả các loại thứ như batching trong khi bay và giải mã suy đoán cùng tất cả các loại thuật toán mới nằm bên dưới công cụ suy luận.

of course, all of the researchers and all the developers, they want to invest in improving the architecture on CUDA because they know the install base is so large, whatever work that they do will benefit a lot of the fleet and many users will be able to benefit from it.

tất nhiên, tất cả các nhà nghiên cứu và tất cả các nhà phát triển, họ muốn đầu tư vào việc cải thiện kiến trúc trên CUDA vì họ biết cơ sở cài đặt quá lớn, bất kỳ công việc nào họ làm sẽ mang lại lợi ích cho nhiều đội tàu và nhiều người dùng sẽ có thể hưởn

And so you're willing to dedicate your entire, you know, all of your heart and soul into optimizing the algorithm and the architecture because the installed base is so large.

Và vì vậy bạn sẵn sàng cống hiến toàn bộ, bạn biết đấy, cả trái tim và tâm hồn của mình để tối ưu hóa thuật toán và kiến trúc vì cơ sở cài đặt quá lớn.

That's so well said because in some sense, you know, the latest GB200 coming up means some of the folks who are doing the cutting Edge new training will go there.

Điều đó được nói rất hay vì theo một nghĩa nào đó, bạn biết đấy, GB200 mới nhất sắp ra mắt có nghĩa là một số người đang thực hiện việc đào tạo mới tiên tiến sẽ chuyển sang đó.

And at the same time we're also providing, for example, an Azure container service, some of the sort of software gains of the fleet on the GPU fleet so that they can run any agent on it.

Và đồng thời, chúng tôi cũng cung cấp, ví dụ, dịch vụ Azure container, một số lợi ích phần mềm của đội tàu trên đội tàu GPU để họ có thể chạy bất kỳ agent nào trên đó.

So that ability for us to be able to flex the fleet for the various different parts of the frontier of latency cogs and performance is just fantastic to have.

Vì vậy, khả năng chúng tôi có thể điều chỉnh đội tàu cho các bộ phận khác nhau của biên giới độ trễ và hiệu suất thật tuyệt vời.

Yeah, your engineers and ours are at this moment optimizing runtimes on Ampere A10s, A1 hundreds.

Vâng, các kỹ sư của bạn và của chúng tôi lúc này đang tối ưu hóa runtime trên Ampere A10, A100.

And the beautiful thing is because of our natural understanding of the importance of preserving enhancing developer productivity and developer value for the life of the architecture, we support software and we fine tune software for as long as we shall live.

Và điều tuyệt vời là nhờ sự thấu hiểu tự nhiên của chúng tôi về tầm quan trọng của việc bảo tồn, nâng cao năng suất của nhà phát triển và giá trị của nhà phát triển trong suốt vòng đời của kiến trúc, chúng tôi hỗ trợ phần mềm và tinh chỉnh phần mềm chừng 

And all of that is just between our two companies.

Và tất cả những điều đó chỉ giữa hai công ty chúng ta.

Chúng tôi cống hiến cho tất cả các nhà phát triển.

Vâng, tôi biết điều đó hoàn toàn đúng.

And then the last one I wanted to unpack is another thing you talk about sort of GPUs is sort of more broader than just one AI workload.

Và điều cuối cùng tôi muốn nói đến là một điều khác mà bạn đề cập, đó là GPU, nó rộng hơn nhiều so với chỉ một tác vụ AI duy nhất.

It is this accelerated compute vision you've had, quite frankly for, you know, the longest time.

Đó là tầm nhìn máy tính tăng tốc mà bạn đã có, thành thật mà nói là trong một thời gian rất dài.

But I think that also is a massive benefit to us because that also means we can bring many, many different classes of workloads.

Nhưng tôi nghĩ điều đó cũng mang lại lợi ích to lớn cho chúng tôi, bởi vì điều đó cũng có nghĩa là chúng tôi có thể mang đến nhiều, rất nhiều loại tác vụ khác nhau.

That means customers can use this fleet for of course the cutting edge AI, but many workloads.

Điều đó có nghĩa là khách hàng có thể sử dụng cụm máy này cho AI tiên tiến, tất nhiên, nhưng còn nhiều tác vụ khác nữa.

But you want to speak a little bit to the what happens to UTIL and the diversity of workloads that get all accelerated.

Nhưng bạn muốn nói một chút về những gì xảy ra với UTIL và sự đa dạng của các tác vụ được tăng tốc.

One of the benefits of CUDA is that the installed base is so large.

Một trong những lợi ích của CUDA là cơ sở cài đặt rất lớn.

Another benefit of CUDA is that on the one hand it's an accelerator architecture, on the other hand it's fairly general purpose for some of the heaviest workloads.

Một lợi ích khác của CUDA là một mặt nó là kiến trúc tăng tốc, mặt khác nó khá đa dụng cho một số tác vụ nặng nhất.

Our two teams are working on accelerating data processing, accelerating data processing by 20x50x, transcoding video image processing models of all kinds, recommender systems, vector search engines, all of those different types of algorithms map wonderfully on top of cuda.

Hai nhóm của chúng tôi đang làm việc để tăng tốc xử lý dữ liệu, tăng tốc xử lý dữ liệu lên 20x50x, chuyển mã các mô hình xử lý hình ảnh video thuộc mọi loại, hệ thống đề xuất, công cụ tìm kiếm vector, tất cả các loại thuật toán khác nhau đó đều hoạt động 

And so with our computer scientists working together, we can accelerate one workload after another workload, one after another workload.

Và vì vậy, với các nhà khoa học máy tính của chúng tôi làm việc cùng nhau, chúng tôi có thể tăng tốc tác vụ này nối tiếp tác vụ khác, tác vụ này nối tiếp tác vụ khác.

And so as this tail, if you will, the long tail of GPUs and all of the frontier models move off to Blackwells and futures, we leave behind this compute fleet which is still orders of magnitude faster than general purpose computing that can be used for all these different workloads.

Và vì vậy, khi phần đuôi này, nếu bạn muốn nói, phần đuôi dài của GPU và tất cả các mô hình tiên tiến chuyển sang Blackwell và các thế hệ tương lai, chúng tôi để lại cụm máy tính này, vốn vẫn nhanh hơn nhiều lần so với máy tính đa dụng có thể được sử dụng

And so our job is to make sure that that fleet and that workload, all of the workloads of your data center are fully accelerated.

Và vì vậy, công việc của chúng tôi là đảm bảo rằng đội ngũ đó và khối lượng công việc đó, tất cả các khối lượng công việc của trung tâm dữ liệu của bạn đều được tăng tốc hoàn toàn.

The fleet is fully utilized for the entire life of the fleet.

Đội ngũ đó được sử dụng hết công suất trong suốt vòng đời của nó.

And so wealth captures that real essence.

Và vì vậy, sự giàu có nắm bắt được bản chất thực sự đó.

Ultimately, it's not just tokens, but it's all workloads per dollar, per watt.

Cuối cùng, không chỉ là token, mà là tất cả các khối lượng công việc trên mỗi đô la, trên mỗi watt.

Can we really accelerate them all as we continue to innovate across both the hardware and the software boundaries and really have the compounding effects ultimately show up for our customers?

Liệu chúng ta có thực sự tăng tốc tất cả chúng khi tiếp tục đổi mới trên cả ranh giới phần cứng và phần mềm và thực sự có được hiệu ứng cộng dồn cuối cùng hiển thị cho khách hàng của chúng ta không?

So thank you so much, Jensen, for the partnership.

Vì vậy, cảm ơn Jensen rất nhiều vì sự hợp tác này.

Thanks to everybody at Nvidia for the amazing work that you all are doing.

Cảm ơn tất cả mọi người tại Nvidia vì công việc tuyệt vời mà tất cả các bạn đang làm.

Cuộc trò chuyện với CEO NVIDIA Jensen Huang: Satya Nadella tại Microsoft Build 2025 (Conversation with NVIDIA CEO Jensen Huang: Satya Nadella at Microsoft Build 2025)

Subtitles ListPlay Video

Cuộc trò chuyện với CEO NVIDIA Jensen Huang: Satya Nadella tại Microsoft Build 2025 (Conversation with NVIDIA CEO Jensen Huang: Satya Nadella at Microsoft Build 2025)

ultimately

sort

entire

incredible