Name: Chúng ta có thể kiểm soát AI không? Kế hoạch của DeepMind cho AI có trách nhiệm (Can We Control AI? DeepMind’s Plan for Responsible AI)
Uploaded: 2026-01-30T18:27:02.000Z
Duration: 44 min 21 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

welcome to the Tech Download, a new CNBC original podcast where we unpack the tech stories that matter most.

chào mừng đến với Tech Download, một podcast gốc của CNBC, nơi chúng tôi phân tích những câu chuyện công nghệ quan trọng nhất.

Each season, we dive into one big theme and what it means for your money, with insights from the industry's most influential voices.

Mỗi mùa, chúng tôi đi sâu vào một chủ đề lớn và ý nghĩa của nó đối với tiền của bạn, với những hiểu biết sâu sắc từ những tiếng nói có ảnh hưởng nhất trong ngành.

This season, we're looking at Google DeepMind, the powerhouse driving the tech giant's AI push.

Mùa này, chúng ta sẽ xem xét Google DeepMind, động lực mạnh mẽ thúc đẩy nỗ lực AI của gã khổng lồ công nghệ.

Ever wondered what would happen if AI got out of control or fell into the wrong hands?

Bạn đã bao giờ tự hỏi điều gì sẽ xảy ra nếu AI vượt khỏi tầm kiểm soát hoặc rơi vào tay kẻ xấu chưa?

And how can governments make sure it's safe from.

Và làm thế nào các chính phủ có thể đảm bảo nó an toàn.

For you and I, our guests for this episode, DeepMind Senior Director for Responsible Development and Innovation, Dawn Blockswitch and Tom Lu, VP for Frontier AI Global affairs, addressed these questions.

Đối với bạn và tôi, các vị khách của chúng tôi trong tập này, Giám đốc cấp cao về Phát triển và Đổi mới có trách nhiệm của DeepMind, Dawn Blockswitch và Tom Lu, Phó Chủ tịch phụ trách các vấn đề toàn cầu về AI Tiên phong, đã giải đáp những câu hỏi này.

When we think about responsible AI at Google DeepMind, we're not seeing it as something where it's slowing down progress.

Khi chúng ta nghĩ về responsible AI tại Google DeepMind, chúng ta không xem đó là thứ làm chậm tiến bộ.

Instead, it's about us thoughtfully designing it from the very, very beginning.

Thay vào đó, đó là việc chúng ta thiết kế nó một cách cẩn thận ngay từ đầu.

It's Arjun Karpil here in London and Steve Kovach in New York.

Tôi là Arjun Karpil ở London và Steve Kovach ở New York.

This is the third episode of our three parts into Google DeepMind.

Đây là tập thứ ba trong chuỗi ba phần của chúng tôi về Google DeepMind.

And I just want to set the scene here because we've, we've heard from Demis Hassabis, the CEO of DeepMind, We've heard from the CEO of DeepMind, Lila Ibrahim, and

Và tôi chỉ muốn thiết lập bối cảnh ở đây vì chúng ta đã nghe từ Demis Hassabis, CEO của DeepMind, chúng ta đã nghe từ CEO của DeepMind, Lila Ibrahim, và

chúng ta đã nghe về rất nhiều chủ đề, nhưng

this episode, we're going to hone in on this idea of responsibility when it comes to developing these systems.

trong tập này, chúng ta sẽ tập trung vào ý tưởng về trách nhiệm khi phát triển các hệ thống này.

And just to set the scene, there is a growing chorus of voices that are talking about the risks of AI and particularly fears around AI getting out of control as it gets more powerful, that the makers of these AI systems won't even be able to control them.

Và để thiết lập bối cảnh, có một làn sóng ý kiến ngày càng tăng nói về những rủi ro của AI và đặc biệt là những lo ngại về việc AI vượt khỏi tầm kiểm soát khi nó ngày càng mạnh mẽ, rằng những người tạo ra các hệ thống AI này sẽ không thể kiểm soát chúng.

The societal impact of AI when it comes to people losing jobs and how it's going to impact all of us.

Tác động xã hội của AI khi mọi người mất việc làm và nó sẽ ảnh hưởng đến tất cả chúng ta như thế nào.

And of course, we are placing at this point in time a huge amount of trust in these technology companies, these giant technology companies with vast pockets, and

Và tất nhiên, tại thời điểm này, chúng ta đang đặt rất nhiều niềm tin vào các công ty công nghệ này, những gã khổng lồ công nghệ này với nguồn lực dồi dào, và

there's only, there's very few of them developing this technology to get this right when it comes to the safety and the responsibility of developing these systems.

chỉ có rất ít trong số họ đang phát triển công nghệ này để làm đúng việc này khi nói đến sự an toàn và trách nhiệm trong việc phát triển các hệ thống này.

And that, I think, is a really profound thought.

Và tôi nghĩ, đó là một suy nghĩ thực sự sâu sắc.

When you think about it, Steve, here in the United States, the regulatory system is way different than it is over in the eu.

Steve này, khi bạn nghĩ về nó, ở Mỹ, hệ thống pháp lý khác hẳn so với ở EU.

And companies here kind of have the benefit of lax regulation.

Và các công ty ở đây có lợi thế là quy định lỏng lẻo.

We went through this in the web 2.0 world, in the social media world, nothing happened.

Chúng ta đã trải qua điều này trong thế giới web 2.0, trong thế giới mạng xã hội, không có gì xảy ra cả.

We saw all the problems related to election interference, Cambridge Analytica, you know, all sorts of terrible things happening on YouTube and no regulation happened.

Chúng ta đã thấy tất cả các vấn đề liên quan đến can thiệp bầu cử, Cambridge Analytica, bạn biết đấy, đủ thứ chuyện tồi tệ xảy ra trên YouTube mà không có quy định nào được thực thi.

So when you say, you know, we have to put our trust in these companies, and

Vì vậy, khi bạn nói, bạn biết đấy, chúng ta phải đặt niềm tin vào các công ty này, và

That's because our, at least here in the United States, our government has shown a lack of desire to really solve these issues.

Đó là bởi vì, ít nhất là ở Mỹ, chính phủ của chúng ta đã cho thấy sự thiếu mong muốn thực sự giải quyết những vấn đề này.

So these AI companies, they have the benefit of just going at it.

Vì vậy, các công ty AI này, họ có lợi thế là cứ thế mà tiến hành.

And the eu, I know you can speak to this a little bit, they're working on stuff in a more serious way, but

Và ở EU, tôi biết bạn có thể nói thêm về điều này, họ đang làm việc một cách nghiêm túc hơn, nhưng

họ vẫn còn một chặng đường dài phía trước.

And in the meantime, this is evolving faster than regulators can even keep up.

Và trong lúc đó, mọi thứ đang phát triển nhanh hơn cả các nhà quản lý theo kịp.

The regulators are always playing catch up because this technology is developing so fast.

Các nhà quản lý luôn phải chạy theo sau vì công nghệ này phát triển quá nhanh.

I mean, the tech industry, industry will say, you know, we want the regulation, but

Ý tôi là, ngành công nghệ, ngành công nghiệp sẽ nói, bạn biết đấy, chúng tôi muốn có quy định, nhưng

we want it to be thoughtful and we want it to be adaptable.

chúng tôi muốn nó phải có chiều sâu và có khả năng thích ứng.

And the regulators will say, well, yeah, we need regulation, but

Và các nhà quản lý sẽ nói, ừm, đúng vậy, chúng tôi cần quy định, nhưng

they also are trying to themselves get to grip with, with what this technology is.

họ cũng đang cố gắng tự mình nắm bắt, nắm bắt công nghệ này là gì.

Vì vậy, đó là một vị trí khó khăn.

But these are the kind of topics we're going to unpack in this episode, both from how do you develop these AI systems responsibly from within, but

Nhưng đây là những chủ đề chúng ta sẽ cùng mổ xẻ trong tập này, cả về cách bạn phát triển các hệ thống AI này một cách có trách nhiệm từ bên trong, nhưng

also how does the regulatory approach fit in here and what kind of regulation could be brought forward.

cách tiếp cận quy định sẽ phù hợp ở đây và loại quy định nào có thể được đưa ra.

We've got two super interesting guests and I want to kick off with the first one.

Chúng tôi có hai vị khách cực kỳ thú vị và tôi muốn bắt đầu với người đầu tiên.

It'd be great to just kick off with, I guess, sort of trying to define what we mean by responsible development.

Sẽ rất tuyệt nếu chúng ta bắt đầu bằng việc, tôi đoán, cố gắng định nghĩa xem chúng ta hiểu "phát triển có trách nhiệm" như thế nào.

What are the kind of things you're thinking about?

Bạn đang nghĩ đến những loại điều gì?

We want to build AI to benefit the world and humanity.

Chúng tôi muốn xây dựng AI để mang lại lợi ích cho thế giới và nhân loại.

So for us, we, what that means is being really thoughtful about how we're building and how we're, you know, like how our AI is being used.

Đối với chúng tôi, điều đó có nghĩa là suy nghĩ thật kỹ về cách chúng tôi xây dựng và cách AI của chúng tôi được sử dụng.

So our approach always takes into account the AI principles.

Vì vậy, cách tiếp cận của chúng tôi luôn tính đến các nguyên tắc về AI.

It's guided by that and it centers around these principles of responsible governance, responsible research and responsible impact.

Nó được định hướng bởi điều đó và tập trung vào các nguyên tắc quản trị có trách nhiệm, nghiên cứu có trách nhiệm và tác động có trách nhiệm.

So when we think about responsible AI at Google DeepMind, we're not seeing it as something where it's slowing down progress or it's about hitting the brakes.

Vì vậy, khi chúng tôi nói về responsible AI tại Google DeepMind, chúng tôi không xem đó là thứ làm chậm tiến độ hay là việc phanh lại.

Instead, it's about us thoughtfully designing it from the very, very beginning, considering it at all aspects and all parts of the development journey.

Thay vào đó, đó là việc chúng tôi thiết kế nó một cách cẩn thận ngay từ đầu, xem xét nó ở mọi khía cạnh và mọi phần của hành trình phát triển.

And when I talk about risks too, we think about quite a broad spectrum of risks.

Và khi tôi nói về rủi ro, chúng tôi cũng xem xét một phổ rủi ro khá rộng.

So you would have seen our Frontier safety framework.

Vì vậy, bạn đã thấy khuôn khổ an toàn Frontier của chúng tôi.

It thinks about the most severe types of risks, like chemical and biological risks or cyber risks.

Nó xem xét các loại rủi ro nghiêm trọng nhất, như rủi ro hóa học và sinh học hoặc rủi ro mạng.

But we're also thinking about near term risks as well.

Nhưng chúng tôi cũng đang xem xét các rủi ro trước mắt.

So whether that's bias and inequality, because they're really important.

Vì vậy, cho dù đó là thiên vị và bất bình đẳng, vì chúng thực sự quan trọng.

And we want to think about these things as a holistic set of risks and opportunities.

Và chúng tôi muốn xem xét những điều này như một tập hợp toàn diện các rủi ro và cơ hội.

Và chúng tôi xem chúng là có sự kết nối chặt chẽ.

So that's why we don't want to just consider one or the other in isolation.

Vì vậy, đó là lý do tại sao chúng tôi không muốn chỉ xem xét cái này hay cái kia một cách riêng lẻ.

They should be considered as a whole and as something that we are like considering in tandem and in parallel.

Chúng nên được xem xét như một tổng thể và như một điều mà chúng tôi đang xem xét song song và đồng thời.

Some will say, you know, Google DeepMind's goal to, to build AI that benefits humanity and as part of that artificial general intelligence, this sort of idea of this extremely powerful AI systems that there's this kind of tension between being able to achieve AGI and these powerful AI systems and doing so responsibly that there is always this, this kind of tension there.

Một số người sẽ nói, bạn biết đấy, mục tiêu của Google DeepMind là xây dựng AI mang lại lợi ích cho nhân loại và là một phần của trí tuệ nhân tạo tổng quát đó, ý tưởng về các hệ thống AI cực kỳ mạnh mẽ này, có sự căng thẳng giữa việc có thể đạt được AGI v

And actually, can the two really coexist?

Và thực sự, hai điều này có thể tồn tại cùng nhau không?

I do strongly believe that they coexist and they're not in competition.

Tôi thực sự tin rằng chúng tồn tại cùng nhau và chúng không cạnh tranh nhau.

And you know, going back to the point I around designing this thoughtfully in from the beginning, if you do that, it's really well considered and it must be done now as opposed to like, we don't want to get to AGI and go, hmm, we should now be thinking about these types of risks, but

Và bạn biết đấy, quay trở lại điểm tôi đã nói về việc thiết kế một cách chu đáo ngay từ đầu, nếu bạn làm vậy, nó sẽ được xem xét kỹ lưỡng và điều đó phải được thực hiện ngay bây giờ thay vì giống như, chúng ta không muốn đạt đến AGI rồi nói, ừm, bây giờ c

rather think about it now so that we're getting ahead.

thay vào đó, hãy suy nghĩ về nó ngay bây giờ để chúng ta đi trước.

A good example of this is the work that we did in AlphaFold, which I realize is not necessarily an AGI example, but

Một ví dụ điển hình cho điều này là công việc chúng tôi đã làm với AlphaFold, tôi biết đây không hẳn là một ví dụ về AGI, nhưng

with Alphafold, we embedded in the team for many, many years, working through with them and helping them anticipate some of the opportunities and, and

với Alphafold, chúng tôi đã gắn bó với nhóm trong nhiều năm, làm việc cùng họ và giúp họ lường trước một số cơ hội và, và

that meant that we helped sort of shape it from the very, very sort of like beginning.

điều đó có nghĩa là chúng tôi đã giúp định hình nó ngay từ đầu.

And at the end we launched it and it was very, very successful and actually saw the benefits that we wanted to see come out of it for society.

Và cuối cùng chúng tôi đã ra mắt nó và nó đã rất, rất thành công và thực sự thấy được những lợi ích mà chúng tôi mong muốn mang lại cho xã hội.

And I think that is the process that we want to continue replicating even as we're getting to AGI.

Và tôi nghĩ đó là quy trình mà chúng tôi muốn tiếp tục lặp lại ngay cả khi chúng ta đang hướng tới AGI.

The unfortunate thing, I guess, about unintended consequences is that we may not know what those unintended consequences might be.

Điều không may, tôi đoán, về những hậu quả không lường trước được là chúng ta có thể không biết những hậu quả không lường trước đó là gì.

How comfortable do you feel about your level of knowing what the risks are at this point?

Bạn cảm thấy thế nào về mức độ hiểu biết của mình về những rủi ro hiện tại?

I think we have a good grip on some of the biggest risks that goes back to the frontier safety framework, because these are the big ones that we have considered, but

Tôi nghĩ chúng tôi đã nắm bắt tốt một số rủi ro lớn nhất, điều này quay trở lại khuôn khổ an toàn tiên phong, bởi vì đây là những rủi ro lớn mà chúng tôi đã xem xét, nhưng

also we've seen considered across the industry.

chúng tôi cũng đã thấy được xem xét trên toàn ngành.

So we know that there is some alignment in terms of the way that people are thinking about that, but

Vì vậy, chúng tôi biết rằng có một số sự đồng thuận về cách mọi người đang suy nghĩ về điều đó, nhưng

we also need to be very mindful and thoughtful about monitoring as well.

chúng ta cũng cần rất chú tâm và suy nghĩ kỹ về việc giám sát nữa.

So looking at exactly how the models are being used and in specific use cases, so that we can then say, right, based on this, we didn't see this one coming.

Vì vậy, xem xét chính xác cách các mô hình đang được sử dụng và trong các trường hợp sử dụng cụ thể, để chúng ta có thể nói rằng, dựa trên điều này, chúng tôi đã không lường trước được điều này.

And so actually we need to do, we need to make some changes and some adjustments.

Và vì vậy, thực tế chúng ta cần thực hiện, chúng ta cần thực hiện một số thay đổi và điều chỉnh.

And the other big, I think debate and concern right now is around misinformation and hallucinations with some of these AI systems.

Và vấn đề lớn khác, tôi nghĩ, cuộc tranh luận và mối quan tâm hiện nay xoay quanh thông tin sai lệch và ảo giác với một số hệ thống AI này.

And you know, granted, using them, they've got a lot better, a lot, lot better, certainly from, you know, when they were first emerging and getting very popular with users.

Và bạn biết đấy, thừa nhận rằng, khi sử dụng chúng, chúng đã tốt hơn rất nhiều, tốt hơn rất nhiều, chắc chắn là so với, bạn biết đấy, khi chúng mới xuất hiện và trở nên rất phổ biến với người dùng.

Yeah, but again it's, it's accuracy of these Systems is not 100%.

Vâng, nhưng một lần nữa, độ chính xác của các Hệ thống này không phải là 100%.

So what's the kind of feedback mechanism for correcting and improving upon the misinformation that comes out of the systems that DeepMind's building?

Vậy cơ chế phản hồi để sửa chữa và cải thiện thông tin sai lệch xuất phát từ các hệ thống mà DeepMind đang xây dựng là gì?

Yeah, I think hallucinations are one of those unintended consequence, I think, of the creativity of the models.

Vâng, tôi nghĩ ảo giác là một trong những hậu quả không lường trước được, tôi nghĩ, từ sự sáng tạo của các mô hình.

And so when we're trying to think about how to address that or where it may be appearing again, we go back to whether what we can see the users doing and users will flag things to us if they are seeing issues, but

Và vì vậy, khi chúng ta cố gắng suy nghĩ về cách giải quyết điều đó hoặc nơi nó có thể xuất hiện trở lại, chúng ta quay lại xem người dùng đang làm gì và người dùng sẽ báo cáo cho chúng tôi nếu họ thấy vấn đề, nhưng

chúng tôi cũng sẽ giám sát thông qua các nhật ký.

We also have a number of different initiatives that we're putting into place to basically address things like factuality so that we're making sure that we're grounding in the right types of information.

Chúng tôi cũng có một số sáng kiến khác nhau đang được triển khai để giải quyết các vấn đề như tính xác thực, đảm bảo rằng chúng tôi dựa trên đúng loại thông tin.

Dawn, can you help me understand the term red teaming?

Dawn, bạn có thể giúp tôi hiểu về red teaming không?

Red teaming is a really important part of our approach.

Red teaming là một phần rất quan trọng trong cách tiếp cận của chúng tôi.

And so like everybody has slightly different definitions, so I'll give you mine.

Và vì vậy, mọi người có những định nghĩa hơi khác nhau, nên tôi sẽ đưa ra định nghĩa của mình.

In our world, what it means is an unstructured sort of exploratory way of testing our models.

Trong thế giới của chúng tôi, điều đó có nghĩa là một cách thử nghiệm các mô hình một cách không có cấu trúc, mang tính khám phá.

And we complement that actually with structured evaluations.

Và chúng tôi bổ sung điều đó bằng các đánh giá có cấu trúc.

So data sets of like evaluations that we would run as standard on a model.

Vì vậy, các bộ dữ liệu về các đánh giá mà chúng tôi sẽ chạy tiêu chuẩn trên một mô hình.

But the red teaming side means we want to have people who either are like real experts in their fields or are wonderful at gel breaking.

Nhưng phía red teaming có nghĩa là chúng tôi muốn có những người hoặc là chuyên gia thực thụ trong lĩnh vực của họ hoặc là những người giỏi phá vỡ các quy tắc.

And we want to see them really go in and explore the models and see what they can find and then they share that with us.

Và chúng tôi muốn họ thực sự đi sâu vào khám phá các mô hình và xem họ có thể tìm thấy gì, sau đó họ chia sẻ điều đó với chúng tôi.

We will then make changes if appropriate, and then we can also then turn them into structured evaluations.

Sau đó, chúng tôi sẽ thực hiện các thay đổi nếu phù hợp, và sau đó chúng tôi cũng có thể biến chúng thành các đánh giá có cấu trúc.

Subtitles ListPlay Video

Chúng ta có thể kiểm soát AI không? Kế hoạch của DeepMind cho AI có trách nhiệm (Can We Control AI? DeepMind’s Plan for Responsible AI)

perspective

episode

sort

approach