Name: So sánh GPU Nvidia với chip AI của Google và Amazon (How Nvidia GPUs Compare To Google’s And Amazon’s AI Chips)
Uploaded: 2025-12-02T00:01:33.000Z
Duration: 15 min 59 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

Nvidia graphics processing units like These latest Blackwell GPUs are inside server racks all over the world.

Nvidia GPU như Blackwell GPU mới nhất này đang có mặt trong các rack máy chủ trên toàn thế giới.

Nvidia has catapulted from gaming giant to the very core of generative AI, training the models, running the workloads and sending Nvidia's valuation soaring.

Nvidia đã vươn mình từ một gã khổng lồ trong ngành game trở thành cốt lõi của AI tạo sinh, huấn luyện mô hình, chạy các tác vụ và đẩy định giá của Nvidia lên cao.

With 6 million Blackwell GPUs shipped over the last year, this connects all 72 GPUs, allowing the ACT as a single GPU to power the most advanced AI workloads.

Với 6 triệu Blackwell GPU được xuất xưởng trong năm qua, điều này kết nối tất cả 72 GPU, cho phép ACT hoạt động như một GPU đơn lẻ để chạy các tác vụ AI tiên tiến nhất.

GPUs are the general purpose workhorse stock of Nvidia and its top competitor amd.

GPU là công cụ đa năng của Nvidia và đối thủ cạnh tranh hàng đầu của họ là AMD.

But another big category of AI chip is gaining ground.

Nhưng một danh mục chip AI lớn khác cũng đang chiếm ưu thế.

The custom ASIC application specific integrated circuit now being designed by all the major hyperscalers.

ASIC tùy chỉnh, mạch tích hợp chuyên dụng hiện đang được thiết kế bởi tất cả các hyperscaler lớn.

Google, Amazon, Meta, Microsoft, OpenAI alongside Broadcom.

Google, Amazon, Meta, Microsoft, OpenAI cùng với Broadcom.

These AI chips are smaller, cheaper, accessible and as the name suggests, specifically built for one purpose.

Các chip AI này nhỏ hơn, rẻ hơn, dễ tiếp cận và như tên gọi, được chế tạo đặc biệt cho một mục đích duy nhất.

But we see that growing even faster than the GPU market over the next few years.

Nhưng chúng tôi thấy thị trường này còn phát triển nhanh hơn cả thị trường GPU trong vài năm tới.

AI chips also include FPGA's Field Programmable Gate arrays and an entire group of chips used to power edge AI on device instead of in the cloud.

Chip AI cũng bao gồm FPGA, mạch logic có thể lập trình và toàn bộ nhóm chip được sử dụng để cung cấp năng lượng cho AI biên trên thiết bị thay vì trên đám mây.

In short, there's a lot of AI chips and the space is only getting more crowded.

Nói tóm lại, có rất nhiều chip AI và thị trường này ngày càng cạnh tranh gay gắt hơn.

So let's take a pause to break it all down.

Vì vậy, chúng ta hãy dừng lại một chút để phân tích mọi thứ.

What's different good and bad about them?

Điểm khác biệt, tốt và xấu của chúng là gì?

Each and a brief look at all the major companies getting in on the AI chip making trend.

Mỗi loại và cái nhìn tổng quan về tất cả các công ty lớn đang tham gia xu hướng sản xuất chip AI.

For a brief moment in October, Nvidia was the first company ever to reach a $5 trillion valuation thanks to its original gaming engine, the GPU becoming king of AI chips.

Trong một khoảnh khắc ngắn ngủi vào tháng 10, Nvidia là công ty đầu tiên đạt định giá 5 nghìn tỷ đô la nhờ công cụ chơi game ban đầu của mình, GPU trở thành vua của chip AI.

Vậy chính xác thì điều gì tối ưu hóa một con chip cho AI?

GPU in this case was really purpose built to deliver parallel programming because when you think about rendering an image or in a scene, you need to calculate all those pixels at once.

GPU trong trường hợp này thực sự được chế tạo riêng để cung cấp khả năng lập trình song song vì khi bạn nghĩ đến việc hiển thị một hình ảnh hoặc một cảnh, bạn cần tính toán tất cả các pixel đó cùng một lúc.

And so AI really lends itself to taking advantage of that capability.

Và vì vậy, AI thực sự phù hợp để tận dụng khả năng đó.

To understand how GPUs became synonymous with AI, let's go back to 2012 to what many consider AI's big bang moment.

Để hiểu làm thế nào GPU trở thành đồng nghĩa với AI, hãy quay lại năm 2012 với khoảnh khắc mà nhiều người coi là vụ nổ lớn của AI.

Alexnet it was a new, incredibly accurate neural network that obliterated the competition during a prominent image recognition contest.

Alexnet là một mạng nơ-ron mới, cực kỳ chính xác, đã đánh bại các đối thủ trong một cuộc thi nhận dạng hình ảnh nổi bật.

Turns out, the same parallel processing used by Nvidia GPUs to render lifelike graphics is also great for training neural networks, where a computer learns from data rather than relying on a programmer's code.

Hóa ra, khả năng xử lý song song tương tự mà Nvidia GPU sử dụng để hiển thị đồ họa chân thực cũng rất tuyệt vời cho việc huấn luyện mạng nơ-ron, nơi máy tính học hỏi từ dữ liệu thay vì dựa vào mã của lập trình viên.

The researchers took a GPU and said, I'm going to hack it to get it to expose the parallel computation capabilities to unlock that performance for the deep learning use case.

Các nhà nghiên cứu đã lấy một GPU và nói rằng, tôi sẽ hack nó để nó phơi bày khả năng tính toán song song nhằm mở khóa hiệu suất đó cho trường hợp sử dụng học sâu.

While AI workloads are usually accelerated on a GPU or custom asic, it still often needs a host central processing unit cpu, like the Grace in Nvidia's Grace Blackwell Server Rack system.

Mặc dù các tác vụ AI thường được tăng tốc trên GPU hoặc ASIC tùy chỉnh, nó vẫn thường cần một CPU xử lý trung tâm, như Grace trong hệ thống Nvidia Grace Blackwell Server Rack.

But while a CPU has a small number of powerful cores running sequential general purpose tasks, GPUs have thousands of smaller cores more narrowly focused on parallel math like matrix multiplication, used to process multidimensional data structures known as tensors.

Nhưng trong khi CPU có một số lượng nhỏ lõi mạnh mẽ chạy các tác vụ đa năng tuần tự, GPU có hàng nghìn lõi nhỏ hơn tập trung vào toán song song như nhân ma trận, được sử dụng để xử lý các cấu trúc dữ liệu đa chiều được gọi là tensor.

This ability to perform many operations simultaneously makes GPUs ideal for the two main phases of AI training and inference.

Khả năng thực hiện nhiều phép toán đồng thời này làm cho GPU trở nên lý tưởng cho hai giai đoạn chính của AI là huấn luyện và suy luận.

Training is teaching the AI model to learn from patterns in large amounts of data, while inference uses the AI to make decisions based on new information.

Huấn luyện là dạy mô hình AI học hỏi từ các mẫu trong lượng lớn dữ liệu, trong khi suy luận sử dụng AI để đưa ra quyết định dựa trên thông tin mới.

The way AI shows up in everyday applications, whether it's the way you buy your coffee on your Starbucks app or how you interact with Salesforce for work, or speaking to us through our EarPods, that is being done through inference.

Cách AI xuất hiện trong các ứng dụng hàng ngày, cho dù đó là cách bạn mua cà phê trên ứng dụng Starbucks, cách bạn tương tác với Salesforce cho công việc, hay nói chuyện với chúng tôi qua EarPods, tất cả đều được thực hiện thông qua suy luận.

Nvidia sells its GPUs directly to AI companies like in a recent deal to sell at least 4 million to OpenAI and to foreign governments including South Korea, Saudi Arabia and the UK.

Nvidia bán GPU của mình trực tiếp cho các công ty AI như trong một thỏa thuận gần đây để bán ít nhất 4 triệu cho OpenAI và cho các chính phủ nước ngoài bao gồm Hàn Quốc, Ả Rập Xê Út và Vương quốc Anh.

It also sells GPUs to cloud providers like Amazon, Microsoft and Google, who go on to rent them out by the hour, minute or second.

Họ cũng bán GPU cho các nhà cung cấp đám mây như Amazon, Microsoft và Google, những người sau đó cho thuê chúng theo giờ, phút hoặc giây.

Nvidia cũng có chương trình cho thuê GPU.

Today, systems that can handle AI workloads are in such high demand, One of these 72 Blackwell server racks sells for around $3 million, and

Ngày nay, các hệ thống có thể xử lý tác vụ AI đang có nhu cầu rất cao, Một trong những giá đỡ máy chủ Blackwell 72 GPU này có giá khoảng 3 triệu đô la, và

Nvidia told us it's shipping 1,000 each week.

Nvidia cho biết họ đang vận chuyển 1.000 chiếc mỗi tuần.

And for Nvidia, they're looking to sell the entire system, not just the chip, because when you think at that system level, you get more efficiencies in terms of speed and power and performance.

Và đối với Nvidia, họ muốn bán toàn bộ hệ thống, không chỉ con chip, bởi vì khi bạn nghĩ ở cấp độ hệ thống đó, bạn sẽ có hiệu quả hơn về tốc độ, năng lượng và hiệu suất.

Of course, Nvidia isn't the only one making Rackscale GPU systems optimized for AI.

Tất nhiên, Nvidia không phải là công ty duy nhất sản xuất các hệ thống GPU quy mô rack được tối ưu hóa cho AI.

Its top competitor, Advanced Micro Devices AMD has seen major gains with its Instinct GPU line and major commitments from OpenAI and Oracle.

Đối thủ cạnh tranh hàng đầu của họ, Advanced Micro Devices AMD đã đạt được những bước tiến lớn với dòng GPU Instinct và những cam kết lớn từ OpenAI và Oracle.

A big difference in AMD GPUs is that they use a largely open source software EcoSystem, while Nvidia GPUs are tightly optimized around CUDA, Nvidia's proprietary software platform.

Một điểm khác biệt lớn ở GPU AMD là chúng sử dụng hệ sinh thái phần mềm mã nguồn mở phần lớn, trong khi GPU Nvidia được tối ưu hóa chặt chẽ xung quanh CUDA, nền tảng phần mềm độc quyền của Nvidia.

Nvidia says its next generation Rubin GPU will be in full production next year.

Nvidia cho biết GPU Rubin thế hệ tiếp theo của họ sẽ được sản xuất hàng loạt vào năm tới.

This is just an incredibly beautiful computer.

Đây quả là một chiếc máy tính đẹp tuyệt vời.

In the early boom days of large language models, compute intensive training has been key, a perfect job for GPUs, but

Trong những ngày đầu bùng nổ của các mô hình ngôn ngữ lớn, việc huấn luyện tốn nhiều tài nguyên tính toán là yếu tố then chốt, một công việc hoàn hảo cho GPU, nhưng

as the models mature, more and more inference is needed.

khi các mô hình trưởng thành, ngày càng có nhiều suy luận được yêu cầu.

Now post training techniques have been introduced to make these models very capable.

Giờ đây, các kỹ thuật sau huấn luyện đã được giới thiệu để làm cho các mô hình này rất có năng lực.

Now to extract the value you need to go to inference and so that's how people actually use AI, is through inference.

Giờ đây, để trích xuất giá trị, bạn cần thực hiện suy luận và đó là cách mọi người thực sự sử dụng AI, thông qua suy luận.

Inference can happen on less powerful chips programmed for more specific tasks.

Suy luận có thể xảy ra trên các chip kém mạnh hơn được lập trình cho các tác vụ cụ thể hơn.

Enter custom asics, application specific integrated circuits and every major cloud provider designing their own.

Nhập ASIC tùy chỉnh, mạch tích hợp chuyên dụng và mọi nhà cung cấp đám mây lớn đều tự thiết kế.

While a GPU is like a Swiss army knife, able to do many kinds of parallel math for different AI workloads, think of an ASIC like a single purpose tool, very efficient and fast, but

Trong khi GPU giống như một con dao đa năng của Thụy Sĩ, có thể thực hiện nhiều loại phép toán song song cho các tác vụ AI khác nhau, hãy coi ASIC như một công cụ chuyên dụng, rất hiệu quả và nhanh chóng, nhưng

hardwired to do the exact math for one type of job.

được thiết kế cứng để thực hiện phép toán chính xác cho một loại công việc.

They can be much, much more efficient in running those workloads, but

Chúng có thể hiệu quả hơn rất nhiều trong việc chạy các tác vụ đó, nhưng

when you specialize them, you can't change them once they're already carved into silicon.

khi bạn chuyên biệt hóa chúng, bạn không thể thay đổi chúng sau khi chúng đã được khắc vào silicon.

And so there's a trade off in terms of flexibility.

Và do đó, có một sự đánh đổi về tính linh hoạt.

While Nvidia GPUs cost upwards of $40,000 and can be hard to get, startups rely on them because it's even more costly to make your own custom ASIC for AI, it is hugely expensive.

Trong khi Nvidia GPU có giá hơn 40.000 đô la và khó kiếm, các startup vẫn dựa vào chúng vì chi phí tự sản xuất ASIC tùy chỉnh cho AI còn tốn kém hơn nhiều.

Costs minimum tens and often hundreds of millions of dollars.

Chi phí tối thiểu là hàng chục và thường là hàng trăm triệu đô la.

But for the biggest cloud providers who can't afford them, custom Asics pay off because they're more power efficient and reduce reliance on Nvidia.

Nhưng đối với các nhà cung cấp đám mây lớn nhất không đủ khả năng chi trả, ASIC tùy chỉnh sẽ mang lại hiệu quả vì chúng tiết kiệm năng lượng hơn và giảm sự phụ thuộc vào Nvidia.

They want to bring cost of AI down, they want to have a little bit more control over the workloads that they build.

Họ muốn giảm chi phí AI, họ muốn có nhiều quyền kiểm soát hơn đối với các tác vụ mà họ xây dựng.

But at the same time they're going to continue to work very closely with Nvidia, with amd, because they also need the capacity.

Nhưng đồng thời, họ sẽ tiếp tục làm việc rất chặt chẽ với Nvidia, với AMD, bởi vì họ cũng cần năng lực.

Google was the first to make a custom ASIC for AI acceleration, coining the term Tensor Processing unit when its first ASIC came out in 2015.

Google là đơn vị đầu tiên sản xuất ASIC tùy chỉnh để tăng tốc AI, đặt ra thuật ngữ Tensor Processing unit khi ASIC đầu tiên của họ ra mắt vào năm 2015.

The TPU also helped lead to the invention of the transformer at Google in 2017, the architecture powering almost all modern AI.

TPU cũng góp phần dẫn đến việc phát minh ra kiến trúc transformer tại Google vào năm 2017, kiến trúc cung cấp năng lượng cho hầu hết các AI hiện đại.

We got a tour at Google's chip lab in 2024.

Chúng tôi đã có một chuyến tham quan phòng thí nghiệm chip của Google vào năm 2024.

There's actually four chips inside there.

Thực tế có bốn chip bên trong đó.

Actually two of those are connected to a host and machine that has CPUs in it.

Thực tế có hai chip được kết nối với một máy chủ và máy có CPU bên trong.

And then all these colorful cables are actually linking together all of the Trillium chips to work as one large supercomputer.

Và tất cả các cáp màu sắc này thực sự liên kết tất cả các chip Trillium để hoạt động như một siêu máy tính lớn.

A decade after the first tpu, Google just released Ironwood, its seventh generation and with it a big deal with Anthropic to train its LLM Claude on up to a million TPUs.

Một thập kỷ sau TPU đầu tiên, Google vừa ra mắt Ironwood, thế hệ thứ bảy của họ và cùng với đó là một thỏa thuận lớn với Anthropic để huấn luyện LLM Claude của họ trên tối đa một triệu TPU.

Some people even think that they're technically on par or even superior to Nvidia.

Một số người thậm chí còn nghĩ rằng chúng về mặt kỹ thuật ngang bằng hoặc thậm chí vượt trội hơn Nvidia.

But traditionally Google has only used them for in house purposes.

Nhưng theo truyền thống, Google chỉ sử dụng chúng cho mục đích nội bộ.

There's a lot of speculation that in the longer run Google might open up access to TPUs more broadly.

Có rất nhiều suy đoán rằng về lâu dài, Google có thể mở rộng quyền truy cập vào TPU rộng rãi hơn.

Amazon Web Services was the next cloud provider to design its own AI chips after acquiring Israeli chip startup Annapurna Labs in 2015, where Ron Diamant has worked since day one.

Amazon Web Services là nhà cung cấp đám mây tiếp theo thiết kế chip AI của riêng mình sau khi mua lại startup chip của Israel là Annapurna Labs vào năm 2015, nơi Ron Diamant đã làm việc từ ngày đầu tiên.

AWS announced Inferentia in 2018 and launched Trainium in 2022, now approaching its third generation.

AWS đã công bố Inferentia vào năm 2018 và ra mắt Trainium vào năm 2022, hiện đang tiến gần đến thế hệ thứ ba.

Think of Trainium like a cluster of workshops with many small flexible tensor engines, while Google's TPU is like one big factory conveyor belt with one big rigid grid specialized for matrix math.

Hãy coi Trainium giống như một cụm xưởng với nhiều bộ xử lý tensor nhỏ linh hoạt, trong khi TPU của Google giống như một băng chuyền nhà máy lớn với một lưới cứng lớn chuyên dụng cho phép tính ma trận.

The difference between the names is quite telling, but

Sự khác biệt giữa các tên gọi khá rõ ràng, nhưng

over time we've seen that Trainium chips can serve both inference and training workloads quite well.

theo thời gian chúng ta thấy rằng chip Trainium có thể phục vụ tốt cả các tác vụ suy luận và huấn luyện.

On average we see that trainium provides between 30 and 40% better price performance compared to other hardware vendors in AWS.

Trung bình chúng ta thấy rằng Trainium mang lại hiệu suất giá tốt hơn từ 30 đến 40% so với các nhà cung cấp phần cứng khác trên AWS.

In October we went to Northern Indiana for the first on camera tour of Amazon's biggest AI data center, where Anthropic is training its models on half a million Trainium two chips behind me right now they are working on delivering these towers.

Vào tháng 10, chúng tôi đã đến miền Bắc Indiana để tham quan lần đầu tiên trên máy quay trung tâm dữ liệu AI lớn nhất của Amazon, nơi Anthropic đang huấn luyện mô hình của mình trên nửa triệu chip Trainium hai ngay sau lưng tôi, hiện tại họ đang làm việc 

Two of them together is going to make up one Ultra server.

Hai trong số chúng kết hợp lại sẽ tạo thành một máy chủ Ultra.

And what's especially interesting is there are no Nvidia GPS GPUs in there, although AWS is filling its other data centers with lots of Nvidia GPUs to feed hungry AI customers like OpenAI.

Và điều đặc biệt thú vị là không có GPU Nvidia nào ở đó, mặc dù AWS đang lấp đầy các trung tâm dữ liệu khác của mình bằng rất nhiều GPU Nvidia để phục vụ các khách hàng AI đang khát dữ liệu như OpenAI.

The investment they're making in our platform is still significant and significantly more than you're seeing even in some of the upcoming ASIC deployments.

Khoản đầu tư mà họ đang thực hiện vào nền tảng của chúng tôi vẫn còn đáng kể và nhiều hơn đáng kể so với những gì bạn thấy ngay cả trong một số triển khai ASIC sắp tới.

And we can't talk about custom ASICs without mentioning Broadcom and its top competitor Marvell, which act as backend partners so clients don't have to hire full silicon teams to handle everything in house.

Và chúng ta không thể nói về ASIC tùy chỉnh mà không đề cập đến Broadcom và đối thủ cạnh tranh hàng đầu của nó là Marvell, những đơn vị đóng vai trò là đối tác backend để khách hàng không phải thuê toàn bộ đội ngũ silicon để xử lý mọi thứ trong nội bộ.

All of the big hyperscalers actually that have ASIC programs partner with at least one chip design company, Broadcom being the most important, which helps provide the IP and the know how and the networking.

Tất cả các hyperscaler lớn thực sự có chương trình ASIC đều hợp tác với ít nhất một công ty thiết kế chip, Broadcom là quan trọng nhất, đơn vị này giúp cung cấp IP, kiến thức chuyên môn và mạng lưới.

And so you've seen Broadcom in particular be one of the biggest beneficiaries of the AI boom.

Và vì vậy, bạn đã thấy Broadcom đặc biệt trở thành một trong những đơn vị hưởng lợi lớn nhất từ ​​sự bùng nổ AI.

Broadcom helped build Google's TPUs, Meta's training and inference accelerator launched in 2023 and now a huge new deal to help OpenAI build its own custom ASICs starting in 2026.

Broadcom đã giúp xây dựng TPU của Google, bộ tăng tốc huấn luyện và suy luận của Meta ra mắt năm 2023 và giờ đây là một thỏa thuận lớn mới để giúp OpenAI xây dựng ASIC tùy chỉnh của riêng mình bắt đầu từ năm 2026.

We see Broadcom winning 70, maybe even 80% of this market.

Chúng tôi thấy Broadcom giành được 70%, thậm chí có thể là 80% thị trường này.

We see this market accelerating at a mid double digit CAGR over the next five years.

Chúng tôi thấy thị trường này tăng trưởng với tốc độ kép hàng năm ở mức hai con số trung bình trong 5 năm tới.

Microsoft is also getting into the ASIC game, hoping to primarily use its own Maya chips in its Azure data centers, although little has been revealed since plans were announced in 2023 and its next Maya chip is facing delays.

Microsoft cũng đang tham gia vào cuộc chơi ASIC, hy vọng chủ yếu sử dụng chip Maya của riêng mình trong các trung tâm dữ liệu Azure, mặc dù ít thông tin được tiết lộ kể từ khi kế hoạch được công bố vào năm 2023 và chip Maya tiếp theo của họ đang bị chậm t

Intel has its own Goudy line of custom Asics for AI.

Intel có dòng ASIC tùy chỉnh Goudy của riêng mình cho AI.

Tesla has announced an ASIC And Qualcomm is breaking into data center chips with the AI 200.

Tesla đã công bố ASIC và Qualcomm đang gia nhập thị trường chip trung tâm dữ liệu với AI 200.

Of course, there's also a slew of startups going all in on custom AI chips too, like Cerebras making huge full wafer AI chips and Grok with inference focused language processing units.

Tất nhiên, cũng có rất nhiều startup đang tập trung hoàn toàn vào chip AI tùy chỉnh, như Cerebras sản xuất chip AI khổng lồ trên toàn bộ wafer và Grok với các đơn vị xử lý ngôn ngữ tập trung vào suy luận.

The final big category of AI chips are those made for running edge AI on device instead of in the cloud.

Danh mục chip AI lớn cuối cùng là những chip được sản xuất để chạy AI biên trên thiết bị thay vì trên đám mây.

You might want to be able to run an AI model locally on your personal device, even a smartphone.

Bạn có thể muốn chạy một mô hình AI cục bộ trên thiết bị cá nhân của mình, ngay cả một chiếc điện thoại thông minh.

And so there may be as part of the processor in that chip a module that has AI processing capability, so you don't have to have communication all the way back to a data center and you can preserve privacy of your data on your phone.

Và vì vậy, có thể có một mô-đun xử lý AI như một phần của bộ xử lý trong chip đó, vì vậy bạn không cần phải liên lạc liên tục về trung tâm dữ liệu và bạn có thể bảo vệ quyền riêng tư dữ liệu trên điện thoại của mình.

In npu, Neural processing unit is a major edge AI chip, a dedicated AI accelerator that's integrated into a phone or laptop's primary chip, what's called an SoC.

Trong NPU, đơn vị xử lý thần kinh là một chip AI biên chính, một bộ tăng tốc AI chuyên dụng được tích hợp vào chip chính của điện thoại hoặc máy tính xách tay, cái được gọi là SoC.

A system on a chip which is kind of a chip that has like many different modules in it that do different aspects of the computation.

Một hệ thống trên chip, giống như một con chip có nhiều mô-đun khác nhau thực hiện các khía cạnh tính toán khác nhau.

Because obviously in a phone you need to have a very compressed system that is able to do lots of things.

Bởi vì rõ ràng là trong điện thoại, bạn cần có một hệ thống rất nhỏ gọn có thể làm được nhiều việc.

And so it's not kind of a separately packaged AI chip.

Và vì vậy, nó không giống như một con chip AI được đóng gói riêng biệt.

They take up less silicon and therefore they cost less, often substantially less than a big data center chip would.

Chúng chiếm ít silicon hơn và do đó chi phí thấp hơn, thường thấp hơn đáng kể so với chip trung tâm dữ liệu lớn.

NPU's enabling AI and PCs are primarily made by Qualcomm, intel and AMD for MacBooks.

NPU cho phép AI trên PC chủ yếu được sản xuất bởi Qualcomm, Intel và AMD cho MacBook.

Apple's in house M series chips include a dedicated neural engine too, although Apple doesn't use the term NPU.

Chip dòng M của Apple cũng tích hợp bộ xử lý thần kinh chuyên dụng, mặc dù Apple không sử dụng thuật ngữ NPU.

Similar neural accelerators, tiny processors dedicated to AI math, are now built into the latest iPhone A series chips too, which we got to see in September.

Các bộ tăng tốc thần kinh tương tự, các bộ xử lý nhỏ dành riêng cho các phép toán AI, giờ đây cũng được tích hợp vào chip dòng A iPhone mới nhất, mà chúng ta đã thấy vào tháng 9.

Tại sao AI trên thiết bị lại quan trọng đến vậy?

We know that when we can do things on device, we are able to manage people's privacy in the best way.

Chúng ta biết rằng khi có thể thực hiện mọi thứ trên thiết bị, chúng ta có thể quản lý quyền riêng tư của mọi người theo cách tốt nhất.

The other thing about it is it is efficient for us, it is responsive.

Điều khác về nó là nó hiệu quả đối với chúng ta, nó phản hồi nhanh.

Subtitles ListPlay Video

So sánh GPU Nvidia với chip AI của Google và Amazon (How Nvidia GPUs Compare To Google’s And Amazon’s AI Chips)

specific

process

dedicated

acquire