Name: Nvidia cấp phép Groq để thống trị làn sóng suy luận AI tiếp theo (Nvidia licenses Groq to dominate the next wave of AI inference)
Uploaded: 2026-01-02T05:20:03.000Z
Duration: 8 min 24 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

Some big news in the acquisition and the Aqua hire front consolidation time, maybe, maybe they're trying to get this in before the end of the year, I don't know.

Một số tin tức lớn về việc mua lại và sự củng cố nhân sự Aqua, có lẽ, có lẽ họ đang cố gắng hoàn thành việc này trước cuối năm, tôi không biết.

But Nvidia has agreed to a non exclusive deal to license Grok.

Nhưng Nvidia đã đồng ý một thỏa thuận không độc quyền để cấp phép Grok.

They're also hiring away some of its top leadership though GROK is going to continue to operate.

Họ cũng đang tuyển dụng một số lãnh đạo hàng đầu của công ty, mặc dù Grok sẽ tiếp tục hoạt động.

Um, and you know, like I've heard of Grok and again this is Groq, not X's Gro K.

Ừm, và bạn biết đấy, tôi đã từng nghe nói về Grok và một lần nữa đây là Groq, không phải Gro K của X.

Vì vậy, rất quan trọng để lưu ý điều đó.

But I'm not like intimately familiar with them other than kind of some of the research that I've done.

Nhưng tôi không thực sự quen thuộc với họ ngoài một số nghiên cứu mà tôi đã thực hiện.

They're known for super fast SRAM based AI inference chips.

Họ nổi tiếng với các chip AI inference dựa trên SRAM siêu nhanh.

So this is a, this deal is very largely around inference in AI, their chips and their systems.

Vì vậy, thỏa thuận này chủ yếu xoay quanh inference trong AI, chip và hệ thống của họ.

That means low latency, high predictability for performance for chatbots and for LLMs, that sort of stuff.

Điều đó có nghĩa là độ trễ thấp, khả năng dự đoán hiệu suất cao cho chatbot và LLMs, những thứ tương tự.

And like I said, it's all about inference.

Và như tôi đã nói, tất cả là về inference.

So it's targeting this really competitive inference market that's happening right now to kind of bring down cost, increase speed and take advantage of that.

Vì vậy, nó nhắm mục tiêu vào thị trường inference rất cạnh tranh này đang diễn ra để giảm chi phí, tăng tốc độ và tận dụng điều đó.

Bạn quen thuộc với Grok đến mức nào?

And I'm a bit of an aficionado of watching Nate B.

Và tôi là một người thích theo dõi Nate B.

Jones's and I've seen them, he has short versions on YouTube.

Jones và tôi đã xem, anh ấy có các phiên bản ngắn trên YouTube.

I subscribed and so I watched a 36 minute explanation of this deal.

Tôi đã đăng ký và xem một lời giải thích dài 36 phút về thỏa thuận này.

But Nate was very good and very clear about it and emphasizing exactly what you said.

Nhưng Nate rất giỏi và rất rõ ràng về điều đó, nhấn mạnh đúng những gì bạn nói.

This is about inference, that is to say the output of AI rather than the train of AI.

Đây là về inference, tức là đầu ra của AI chứ không phải quá trình huấn luyện AI.

Nvidia owns the market for training chips and there's a huge shortage of what the, versus what the industry demands right now.

Nvidia thống trị thị trường chip huấn luyện và đang có sự thiếu hụt lớn so với nhu cầu hiện tại của ngành.

But this is on the other side and they're betting, Jensen Huang is betting that the models are trained, the models are commodified, the models are going to change.

Nhưng đây là ở phía bên kia và họ đang đặt cược, Jensen Huang đang đặt cược rằng các mô hình đã được huấn luyện, các mô hình đã trở nên phổ biến, các mô hình sẽ thay đổi.

Vâng, sẽ có nhiều quá trình huấn luyện hơn, vâng.

But the real action is going to be in hoping that this becomes a major business with major usage by corporations and individuals.

Nhưng hành động thực sự sẽ nằm ở việc hy vọng điều này trở thành một ngành kinh doanh lớn với việc sử dụng rộng rãi bởi các tập đoàn và cá nhân.

That's using the model to give you the output that you want.

Đó là việc sử dụng mô hình để cung cấp cho bạn đầu ra mà bạn muốn.

And what Nate explained about this is that the GROK chips have a fairly small amount of memory, but

Và những gì Nate giải thích về điều này là các chip GROK có một lượng bộ nhớ khá nhỏ, nhưng

And so it's extremely fast access which makes it faster and cheaper to then be able to produce the inference output.

Và vì vậy nó có khả năng truy cập cực kỳ nhanh, giúp việc tạo ra kết quả inference nhanh hơn và rẻ hơn.

And so he was very complimentary of Jensen Wong saying this was highly Strategic that rather than saying, and

Và vì vậy ông ấy đã rất khen ngợi Jensen Wong, nói rằng điều này rất chiến lược, thay vì nói, và

Tôi đã thấy điều này, những người khác cũng đã nói điều này.

Well, rather than Jensen Wong saying, well, we got to build this ourselves, he said, no, they're good, they're out there.

Chà, thay vì Jensen Wong nói, ừm, chúng ta phải tự xây dựng cái này, ông ấy nói, không, họ giỏi, họ có sẵn.

Again, as you said, the first reports were that he bought the company.

Một lần nữa, như bạn đã nói, báo cáo ban đầu là ông ấy đã mua công ty.

And you think at $20 billion he would have bought the company, but

Và bạn nghĩ với 20 tỷ đô la, ông ấy đã mua công ty, nhưng

instead not exclusive license company stays out there.

thay vì giấy phép độc quyền, công ty vẫn hoạt động bên ngoài.

I don't know what its ownership stake will be in Grok.

Tôi không biết cổ phần sở hữu của nó trong Grok sẽ là bao nhiêu.

But then he got the top two executives or thereabouts from Grok over to Ross and Madra, right over to John Nvidia.

Nhưng sau đó ông ấy đã đưa hai giám đốc điều hành hàng đầu hoặc tương đương từ Grok sang Ross và Madra, thẳng sang John Nvidia.

And that's Jonathan Ross who's the founder of Grok, and then Sunny Madra who's the president.

Và đó là Jonathan Ross, người sáng lập Grok, và Sunny Madra, chủ tịch.

That's so interesting to me from a deal making standpoint, just this whole, this whole point we find ourselves in right now because we keep hearing about the Aqua Hire without the acquisition strategy.

Điều đó thật thú vị đối với tôi từ góc độ thực hiện giao dịch, chỉ là toàn bộ, toàn bộ điểm mà chúng ta đang ở đây vì chúng ta cứ nghe nói về chiến lược Aqua Hire mà không có acquisition.

And you know, you've got Nvidia doing it.

Và bạn biết đấy, bạn có Nvidia đang làm điều đó.

This isn't the first time Nvidia has done it.

Đây không phải lần đầu Nvidia làm vậy.

You've got Microsoft, Meta, Amazon, all of them employing this strategy.

Bạn có Microsoft, Meta, Amazon, tất cả đều áp dụng chiến lược này.

If their top founder, like their founder and their president, the people who, you know, arguably led the, the company to this major point, suddenly they're hollowed out.

Nếu người sáng lập hàng đầu của họ, như người sáng lập và chủ tịch, những người mà có thể nói là đã dẫn dắt công ty đến điểm quan trọng này, đột nhiên họ bị rút ruột.

Well, but again, Nvidia didn't buy it, simply licensed technology.

Chà, nhưng một lần nữa, Nvidia không mua, chỉ đơn giản là cấp phép công nghệ.

Vì vậy, đó là một, đó là một viên pha lê Nvidia.

It's an if Nvidia has a stake and again that's the part I don't know if they have a stake in the equity in Grok, which I assume they do for that amount of money, it's in their interest for Grok to keep succeeding.

Đó là nếu Nvidia có cổ phần và một lần nữa đó là phần tôi không biết liệu họ có cổ phần trong vốn chủ sở hữu của Grok hay không, mà tôi cho rằng họ có với số tiền đó, thì lợi ích của họ là Grok tiếp tục thành công.

Đây không phải là mô hình giống hệt, nhưng

they have interlocking corporate structures where everybody owns a piece of everybody else and they all kind of benefit if it happens.

họ có các cấu trúc doanh nghiệp lồng ghép, nơi mọi người đều sở hữu một phần của nhau và tất cả họ đều có lợi nếu điều đó xảy ra.

Điều này khác với điều đó, nhưng

I think it starts to build a new kind of structure here where they can do that and he gets the technology, he gets the view of it, he expands his business.

tôi nghĩ nó bắt đầu xây dựng một loại cấu trúc mới ở đây, nơi họ có thể làm điều đó và anh ấy có được công nghệ, anh ấy có cái nhìn về nó, anh ấy mở rộng kinh doanh của mình.

The other thing I've read about this is that Google with the TPUs is somewhat, I'm going to get this completely wrong and I apologize to everybody out there because I just don't know enough.

Điều khác mà tôi đọc được về điều này là Google với TPU cũng hơi giống vậy, tôi sẽ nói sai hoàn toàn và tôi xin lỗi tất cả mọi người ở đây vì tôi không biết đủ.

Google Cloud and DeepMind models and Gemini were a bit more like what Grok brings.

Các mô hình Google Cloud và DeepMind cùng Gemini có phần giống với những gì Grok mang lại.

But Google is not selling their chips, at least not at scale to the world.

Nhưng Google không bán chip của họ, ít nhất là không bán ra thế giới với quy mô lớn.

Yeah, I think they will, but they're not yet.

Ừm, tôi nghĩ họ sẽ làm, nhưng hiện tại thì chưa.

It rounds out Nvidia's offerings in its hosting in a way that becomes competitive with Google, sets them up strategically.

Nó bổ sung cho các sản phẩm của Nvidia trong việc lưu trữ theo cách cạnh tranh với Google, định vị chiến lược cho họ.

That's it makes them more integrated and in, in that sense kind of covering all of the different aspects now covering on a deeper level the inference aspect of their business, you know, so that they can compete with, you know, AMD and I guess Cerebras is another company that, you know, competes heavily in this space.

Điều đó làm cho họ tích hợp hơn và theo nghĩa đó, bao quát tất cả các khía cạnh khác nhau, giờ đây bao quát sâu hơn khía cạnh inference của hoạt động kinh doanh của họ, bạn biết đấy, để họ có thể cạnh tranh với, bạn biết đấy, AMD và tôi đoán Cerebras là m

Now Nvidia is really moving to kind of control, maybe not own because they didn't buy GROK outright, but

Giờ đây Nvidia đang thực sự chuyển sang kiểm soát, có thể không sở hữu vì họ không mua Grok hoàn toàn, nhưng

kiểm soát nội bộ trong hệ thống của họ.

Tất cả các điểm của ngăn xếp đó.

And as we've talked about often, everybody thinks of Nvidia as only a chip making company, but

Và như chúng ta thường nói, mọi người nghĩ Nvidia chỉ là một công ty sản xuất chip, nhưng

CUDA is critical and to keep people on the CUDA platform for Nvidia is critical because that also addicts them to Nvidia chips and Nvidia hosting, whether that occurs at Nvidia or whether that occurs at AWS or anywhere else.

CUDA rất quan trọng và việc giữ chân mọi người trên nền tảng CUDA cho Nvidia là điều cốt yếu vì điều đó cũng khiến họ phụ thuộc vào chip Nvidia và dịch vụ lưu trữ của Nvidia, cho dù điều đó diễn ra tại Nvidia hay tại AWS hoặc bất kỳ đâu khác.

So Jensen Huang is highly strategic and figures it out here.

Vì vậy, Jensen Huang rất chiến lược và đã tính toán điều này.

Tamura on Facebook who finds a lot of interesting papers and explains some of these deals as well.

Tamura trên Facebook, người tìm thấy nhiều bài báo thú vị và cũng giải thích một số thỏa thuận này.

And she puts it this way, that in the competitive landscape now.

Và cô ấy diễn đạt như thế này, rằng trong bối cảnh cạnh tranh hiện nay.

Không, tôi vừa quên mất, phải không?

Google owns layers but not the broad industry lock in.

Google sở hữu các lớp nhưng không khóa chặt toàn bộ ngành công nghiệp.

AMD is a hardware challenger, but a weaker ecosystem.

AMD là một đối thủ phần cứng, nhưng có hệ sinh thái yếu hơn.

Gravity OpenAI is a model leader, but a buyer of compute and not an owner of it.

Gravity OpenAI là một đơn vị dẫn đầu về mô hình, nhưng là người mua sức mạnh tính toán chứ không phải chủ sở hữu.

Meanwhile, she says Nvidia plus GROK could unify deterministic real time inference, flexible training and GPU throughput DPU offloads.

Trong khi đó, cô ấy nói Nvidia cộng với GROK có thể hợp nhất quá trình inference thời gian thực xác định, đào tạo linh hoạt và thông lượng GPU DPU offloads.

Điều đó giữ cho dữ liệu chảy.

And so it's really interesting just to understand the fuller strategic scope of these companies.

Và vì vậy, thực sự thú vị khi hiểu phạm vi chiến lược đầy đủ hơn của các công ty này.

And yeah, kind of like what we were saying, dominating the platform as.

Và vâng, giống như những gì chúng ta đã nói, thống trị nền tảng.