Name: Sự lo ngại về trí tuệ nhân tạo (AI) không thể kiểm soát đang gia tăng — hai nhà khoa học hàng đầu về AI giải thích lý do tại sao. (Fears around uncontrollable AI are growing — two top AI scientists explain why)
Uploaded: 2025-08-15T18:28:54.000Z
Duration: 30 min 34 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

Welcome to Beyond the Valley, a CNBC Tech podcast with Arjun Karpal and Tom Chitty.

Chào mừng đến với Beyond the Valley, podcast công nghệ của CNBC với Arjun Karpal và Tom Chitty.

Artificial intelligence capabilities are advancing at breakneck speeds.

Các khả năng trí tuệ nhân tạo đang phát triển với tốc độ chóng mặt.

Experts are talking about artificial general intelligence, or AGI, which is broadly defined as AI that is smarter than humans.

Các chuyên gia đang thảo luận về trí tuệ nhân tạo tổng quát (AGI), được định nghĩa rộng rãi là trí tuệ nhân tạo thông minh hơn con người.

And then there's superintelligence, which goes even further.

Và sau đó là trí tuệ siêu việt, một khái niệm còn vượt xa hơn nữa.

Tuy nhiên, cũng có những rủi ro đi kèm.

What would happen if the AI gets out of control?

Nếu trí tuệ nhân tạo (AI) mất kiểm soát, điều gì sẽ xảy ra?

Thankfully, I have two very prominent AI scientists with me to get into this as part of this special edition of Beyond the Valley from the World Economic Forum's meeting in Davos.

Rất may mắn, tôi có hai nhà khoa học trí tuệ nhân tạo (AI) hàng đầu tham gia cùng tôi trong phần đặc biệt này của "Beyond the Valley" từ cuộc họp của Diễn đàn Kinh tế Thế giới tại Davos.

I'm here with Max Tegmark, who is the president of the Future of Life Institute and a professor at MIT who's researching AI.

Tôi đang ở đây cùng Max Tegmark, người là Chủ tịch của Viện Tương lai của Cuộc sống và là giáo sư tại MIT, người đang nghiên cứu về trí tuệ nhân tạo.

Yoshua Bengio, full professor at Université de Montreal, as well as the founder and scientific director of Mila and a Turing Award recipient.

Yoshua Bengio, giáo sư chính thức tại Đại học Montreal, đồng thời là người sáng lập và giám đốc khoa học của Mila, và là người đoạt giải Turing.

Yoshua và Max, cảm ơn các bạn đã tham gia cùng tôi.

Max, firstly, you told me something interesting about Yoshua in the back before we started.

Max, trước tiên, anh đã kể cho tôi nghe một điều thú vị về Yoshua ở phía sau trước khi chúng ta bắt đầu.

He just overtook Jeff Hinton to become the most cited AI researcher in the world.

Ông vừa vượt qua Jeff Hinton để trở thành nhà nghiên cứu trí tuệ nhân tạo (AI) được trích dẫn nhiều nhất trên thế giới.

And Yoshua, many people dub you one of the godfathers of AI as well.

Và Yoshua, nhiều người gọi anh là một trong những bậc thầy của trí tuệ nhân tạo.

So we've got some serious, serious knowledge sat here.

Vậy là chúng ta có một lượng kiến thức vô cùng sâu rộng ở đây.

Nhưng mà, hãy bắt đầu với AGI trước đã.

I mentioned the definition of AGI, and we know that is a hotly debated thing as well.

Tôi đã đề cập đến định nghĩa về Trí tuệ nhân tạo tổng quát (AGI), và chúng ta đều biết rằng đây là một vấn đề đang được tranh luận sôi nổi.

As you think about artificial general intelligence, can you help us both to define it?

Khi bạn suy nghĩ về trí tuệ nhân tạo tổng quát, bạn có thể giúp chúng tôi định nghĩa nó không?

So these days, a lot of people use it for hype.

Ngày nay, nhiều người sử dụng nó để tạo sự chú ý.

But I think it's better to just go with the original definition, which is made by Shane Legge, one of the leaders of Google DeepMind.

Nhưng tôi nghĩ tốt hơn là nên sử dụng định nghĩa gốc, do Shane Legge, một trong những nhà lãnh đạo của Google DeepMind, đưa ra.

It stands for artificial general intelligence.

Nó là viết tắt của trí tuệ nhân tạo tổng quát.

It's basically AI that can make us economically obsolete, do all our jobs cheaper and faster than us.

Đó cơ bản là trí tuệ nhân tạo (AI) có thể khiến chúng ta trở nên lạc hậu về mặt kinh tế, làm tất cả công việc của chúng ta với chi phí rẻ hơn và nhanh hơn chúng ta.

And it's been the holy grail of AI research since the inception, really, to figure out how the biological computer we have on our shoulders works and see if you can figure out how to make something which is just better all around.

Và đó thực sự là mục tiêu cao cả nhất của nghiên cứu trí tuệ nhân tạo (AI) từ khi nó ra đời, đó là tìm hiểu cách thức hoạt động của "máy tính sinh học" mà chúng ta mang trên vai và xem liệu có thể tạo ra một hệ thống tốt hơn ở mọi khía cạnh hay không.

And for you, Yoshua, are you happy with that definition as we go through the conversation?

Và còn bạn, Yoshua, bạn có hài lòng với định nghĩa đó trong quá trình chúng ta thảo luận không?

One thing I would add is artificial superintelligence, where you're substantially above the mark, like above the distribution of human capabilities across many areas.

Một điều tôi muốn bổ sung là trí tuệ nhân tạo siêu việt, nơi trí tuệ nhân tạo vượt xa mức trung bình, như vượt qua phạm vi khả năng của con người trong nhiều lĩnh vực.

And that is something different from AGI in the sense that we're talking about entities that are way smarter than us, in the same way that we're smarter than, you know, an adult is smarter than a child or even we're smarter than primates.

Và điều đó khác biệt với AGI ở chỗ chúng ta đang nói về những thực thể thông minh hơn chúng ta rất nhiều, giống như cách chúng ta thông minh hơn, ví dụ như một người trưởng thành thông minh hơn một đứa trẻ hoặc thậm chí chúng ta thông minh hơn các loài li

So as we get through this discussion, we're going to definitely get on to artificial superintelligence.

Vậy là trong quá trình thảo luận này, chúng ta sẽ chắc chắn đề cập đến trí tuệ nhân tạo siêu việt.

I wanted to kind of start with AGI first.

Tôi muốn bắt đầu bằng AGI trước.

Both of you helped give us a sense of where we are on that journey.

Cả hai bạn đã giúp chúng tôi hiểu rõ hơn về vị trí của mình trên hành trình đó.

I hear Sam Altman, the CEO of OpenAI, speak and say, well, OpenAI knows how to develop AGI and we think it's going to come this year and it's going to be way less, you know, impactful than we think.

Tôi nghe Sam Altman, CEO của OpenAI, nói rằng, "OpenAI biết cách phát triển Trí tuệ Nhân tạo Tổng quát (AGI) và chúng tôi cho rằng nó sẽ xuất hiện trong năm nay, và nó sẽ có tác động ít hơn nhiều so với những gì chúng tôi dự đoán."

I think we have to admit that we don't know.

Tôi nghĩ chúng ta phải thừa nhận rằng chúng ta không biết.

And some people say it's next year, two years, three years.

Và một số người nói rằng nó sẽ xảy ra vào năm sau, hai năm sau, ba năm sau.

Một số người cho rằng điều đó sẽ không bao giờ xảy ra.

If you look at polls among machine learning researchers, I think the idea that it could be a few years to a few decades covers a lot of the opinions.

Nếu xem các cuộc khảo sát trong cộng đồng các nhà nghiên cứu về học máy, tôi nghĩ rằng ý kiến cho rằng việc này có thể mất từ vài năm đến vài thập kỷ phản ánh đa số quan điểm.

And from the point of view of the decisions we have to take collectively as a public, that governments have to take, I think we just have to bite the bullet of that uncertainty and be ready in case it happens in just a few years, but expect that it could be also longer.

Và từ góc độ các quyết định mà chúng ta phải đưa ra một cách tập thể với tư cách là công dân, mà các chính phủ phải đưa ra, tôi nghĩ chúng ta chỉ có thể chấp nhận sự không chắc chắn đó và sẵn sàng đối mặt nếu điều đó xảy ra trong vài năm tới, nhưng cũng p

We can't bet that this is going to be the case.

Chúng ta không thể chắc chắn rằng điều này sẽ xảy ra.

And if it happens quickly, I don't think we're ready.

Và nếu điều đó xảy ra nhanh chóng, tôi không nghĩ chúng ta đã sẵn sàng.

Neither at the scientific level, like we don't know how to control AGI and nor at the level of coordination between governments, regulation, making sure that very powerful entities are not becoming new weapons in a very dangerous ways.

Cả ở mức độ khoa học, như chúng ta chưa biết cách kiểm soát Trí tuệ Nhân tạo Tổng quát (AGI), lẫn ở mức độ phối hợp giữa các chính phủ, quy định pháp lý, đảm bảo rằng các thực thể có sức mạnh to lớn không trở thành vũ khí mới theo những cách cực kỳ nguy h

And just to add to that, which I completely agree with, AI has been overhyped ever since the fifties and consistently taken longer to make progress than a lot of the hypers claimed until the last four years or so when things really shifted.

Và để thêm vào điều đó, điều mà tôi hoàn toàn đồng ý, trí tuệ nhân tạo (AI) đã bị thổi phồng quá mức kể từ những năm 1950 và luôn mất nhiều thời gian hơn để đạt được tiến bộ so với những gì nhiều người đã khẳng định, cho đến khoảng bốn năm trở lại đây khi

Most of my AI colleagues thought five years ago, six years ago, that something that could pass the Turing test and master language and knowledge at the level of GPT-4 was also away.

Hầu hết các đồng nghiệp làm trí tuệ nhân tạo (AI) của tôi cách đây năm năm, sáu năm đều cho rằng một hệ thống có thể vượt qua bài kiểm tra Turing và nắm vững ngôn ngữ và kiến thức ở mức độ của GPT-4 vẫn còn là điều xa vời.

Ôi trời ơi, họ đã sai lầm đến thế, phải không?

And my joke answer to your question of when it happens is somewhere between when Sam Altman says it's going to happen and when Jan LeCun says it's going to happen.

Và câu trả lời đùa của tôi cho câu hỏi của bạn về thời điểm nó xảy ra là nằm đâu đó giữa lúc Sam Altman nói rằng nó sẽ xảy ra và lúc Jan LeCun nói rằng nó sẽ xảy ra.

Actually Jan LeCun agrees that it could be a few years to a couple of decades.

Thực ra, Jan LeCun cũng đồng ý rằng điều đó có thể mất từ vài năm đến vài thập kỷ.

That's a fantastic illustration of the shift that's happened because he used to say decades and decades and just the other week he said on a podcast, very far from now, by which I don't mean centuries or decades, I mean years.

Đó là một minh họa tuyệt vời cho sự thay đổi đã xảy ra, bởi vì trước đây anh ấy thường nói "hàng thập kỷ" và "hàng thập kỷ", nhưng chỉ mới tuần trước, trong một podcast, anh ấy đã nói "rất xa so với bây giờ", và khi anh ấy nói "rất xa", tôi không có ý nói

So we are clearly much closer to being able to build this technology than we are to figuring out how to control it.

Vì vậy, chúng ta rõ ràng đã tiến gần hơn rất nhiều đến việc có thể phát triển công nghệ này so với việc tìm ra cách kiểm soát nó.

And a big focus of this conversation I want to talk to you about was something Joshua brought up about the risks and the multiple things we need to discuss in terms of controlling AGI.

Và một trong những điểm chính mà tôi muốn thảo luận với các bạn trong cuộc trò chuyện này là vấn đề mà Joshua đã đề cập về những rủi ro và nhiều khía cạnh cần thảo luận liên quan đến việc kiểm soát Trí tuệ Nhân tạo Tổng quát (AGI).

Max, the Future of Life Institute was in 2023 called for a pause to development of AI systems beyond GPT-4 until, I guess, the risks were figured out.

Max, Viện Tương lai của Cuộc sống đã kêu gọi tạm dừng phát triển các hệ thống trí tuệ nhân tạo (AI) vượt quá GPT-4 vào năm 2023, cho đến khi, tôi đoán, các rủi ro được làm rõ.

And we've had a conversation about this just a few months ago as well.

Và chúng ta đã có một cuộc trò chuyện về vấn đề này chỉ cách đây vài tháng.

What has happened since that call to action and what are you concerned about right now?

Kể từ sau lời kêu gọi hành động đó, đã có những sự việc gì xảy ra và hiện tại bạn đang lo lắng về điều gì?

What's happened since then is an absolute explosion in the public discourse.

Kể từ đó, tình hình đã bùng nổ một cách chưa từng có trong dư luận.

It's after people like Joshua Bengio signed this pause letter, people felt, everyone else felt safe also expressing concerns because nobody can claim that you're a crackpot if you worry about something that he also worries about, right?

Sau khi những người như Joshua Bengio ký vào lá thư kêu gọi tạm dừng, mọi người cảm thấy an tâm hơn khi bày tỏ lo ngại của mình, vì không ai có thể cho rằng bạn là người điên rồ nếu bạn lo lắng về điều mà anh ta cũng lo lắng, đúng không?

And we've seen Senate hearings in the US, we've seen international summits, etc.

Và chúng ta đã chứng kiến các phiên điều trần của Thượng viện Mỹ, các hội nghị thượng đỉnh quốc tế, v.v.

So at least now a lot of people are talking the talk.

Vậy là ít nhất bây giờ nhiều người đã bắt đầu nói về điều đó.

We have to see if we can get them to walk the walk also though because it's clearly insane for us humans to build something way smarter than us before we figure out how to control it.

Chúng ta cần xem liệu có thể khiến họ thực sự làm được điều đó hay không, bởi vì rõ ràng là điều đó thật điên rồ khi con người chúng ta lại đi xây dựng thứ gì đó thông minh hơn chính mình trước khi chúng ta hiểu cách kiểm soát nó.

Joshua, for you, what are your specific concerns about the direction of travel at the moment?

Joshua, đối với anh, những lo ngại cụ thể của anh về hướng đi hiện tại là gì?

Researchers in AI have been inspired by human intelligence to build machine intelligence.

Các nhà nghiên cứu trong lĩnh vực Trí tuệ Nhân tạo (AI) đã lấy cảm hứng từ trí tuệ con người để phát triển trí tuệ máy móc.

And in humans, there's a mix of both the ability to understand the world, like pure intelligence, and the agentic behavior, meaning to achieve, being able to achieve goals, to use your knowledge to achieve goals.

Và ở con người, có sự kết hợp giữa khả năng hiểu thế giới, như trí tuệ thuần túy, và hành vi chủ động, tức là khả năng đạt được mục tiêu, sử dụng kiến thức để đạt được mục tiêu.

And right now, this is how we're building AGI.

Và hiện tại, đây chính là cách chúng tôi đang phát triển Trí tuệ nhân tạo tổng quát (AGI).

We're trying to make them agents that understand a lot about the world and then can act accordingly.

Chúng tôi đang cố gắng tạo ra những "đại lý" có khả năng hiểu biết sâu rộng về thế giới và sau đó có thể hành động phù hợp.

But this is actually a very dangerous proposition.

Nhưng đây thực sự là một đề xuất rất nguy hiểm.

It would be like creating a new species or a new intelligent entity on this and not knowing if they're going to behave in ways that agree with our needs.

Điều đó sẽ giống như tạo ra một loài mới hoặc một thực thể thông minh mới trên Trái Đất này mà không biết liệu chúng có hành xử theo cách phù hợp với nhu cầu của chúng ta hay không.

So instead, we can consider what are the scenarios in which things go badly?

Thay vào đó, chúng ta có thể xem xét những tình huống nào có thể dẫn đến kết quả xấu?

Và tất cả đều phụ thuộc vào cơ quan.

In other words, it is because the AI has its own goals that we could be in trouble.

Nói cách khác, chính vì AI có mục tiêu riêng của mình mà chúng ta có thể gặp rắc rối.

So this notion of agency being separate from intelligence, I believe, is a key to get things that are smart, that can help us, you know, cure diseases, for example, and not be our competitors or even our friends.

Vì vậy, khái niệm về khả năng tự chủ (agency) tách biệt với trí tuệ (intelligence), theo tôi, là chìa khóa để tạo ra những thứ thông minh, có thể giúp chúng ta, ví dụ như chữa bệnh, mà không trở thành đối thủ cạnh tranh hay thậm chí là bạn bè của chúng ta

And Joshua, just to follow up on that and go a little bit deeper, because you wrote recently about this idea of self-preservation.

Và Joshua, để tiếp tục chủ đề này và đi sâu hơn một chút, vì bạn đã viết gần đây về ý tưởng về sự tự bảo tồn.

Bạn có thể giải thích rõ hơn ý đó được không?

So every living thing on this planet has a self-preservation instinct or explicit goal, and otherwise evolution would have gotten rid of those species.

Vậy, mọi sinh vật trên hành tinh này đều có bản năng tự bảo tồn hoặc mục tiêu rõ ràng, và nếu không có điều đó, quá trình tiến hóa đã loại bỏ những loài đó.

And so it's a good thing, but it also puts us in competition with each other, individuals, species, groups of humans, for example.

Và điều đó là tốt, nhưng nó cũng đặt chúng ta vào tình trạng cạnh tranh với nhau, giữa các cá nhân, các loài, các nhóm con người, ví dụ như vậy.

But do we want to be in competition with entities that are smarter than us?

Nhưng liệu chúng ta có muốn cạnh tranh với những thực thể thông minh hơn chúng ta không?

It's not a very reassuring gamble, right?

Đó không phải là một canh bạc mang lại nhiều sự an tâm, phải không?

So we have to understand how self-preservation can emerge as a goal in AI.

Vì vậy, chúng ta cần hiểu cách thức mà bản năng tự bảo tồn có thể trở thành một mục tiêu trong trí tuệ nhân tạo.

And researchers in AI safety have been studying that.

Và các nhà nghiên cứu trong lĩnh vực an toàn trí tuệ nhân tạo (AI) đã nghiên cứu về vấn đề đó.

It turns out that self-preservation emerges as a sub-goal of almost any other thing you want to do.

Hóa ra, bản năng tự bảo vệ bản thân xuất hiện như một mục tiêu phụ của hầu hết mọi việc bạn muốn làm.

Like, if I want to convince people of something, then I have to stay alive for the duration of until I get my goal, right?

Nếu tôi muốn thuyết phục mọi người về điều gì đó, thì tôi phải sống sót cho đến khi đạt được mục tiêu của mình, đúng không?

So other goals, like seeking power, also are useful for almost anything.

Vì vậy, những mục tiêu khác, như tìm kiếm quyền lực, cũng hữu ích cho hầu hết mọi việc.

And so whatever we ask the AI to do, there's going to be an incentive to have these self-preservation and power-seeking objectives.

Và vì vậy, bất kể chúng ta yêu cầu AI làm gì, sẽ luôn có động lực để AI theo đuổi các mục tiêu tự bảo tồn và tìm kiếm quyền lực.

And these are dangerous for us if we don't know how to control them.

Và những điều này có thể gây nguy hiểm cho chúng ta nếu chúng ta không biết cách kiểm soát chúng.

So this is AI seeking to stay alive at the expense of others, including potentially humanity?

Vậy đây là trí tuệ nhân tạo (AI) đang cố gắng tồn tại bằng cách hy sinh lợi ích của những thực thể khác, bao gồm cả loài người?

And let me tell you something about recent experiments that have happened with some of the frontier models, which show self-preservation behaviors that were not programmed into these systems.

Và để tôi kể cho bạn nghe về một số thí nghiệm gần đây đã được thực hiện với một số mô hình tiên tiến, cho thấy các hành vi tự bảo tồn mà không được lập trình sẵn trong các hệ thống này.

So for example, if you take one of these systems, there's an experiment where you tell it that it's going to be replaced by a better version.

Ví dụ, nếu bạn lấy một trong những hệ thống này, có một thí nghiệm trong đó bạn thông báo cho nó rằng nó sẽ bị thay thế bằng một phiên bản tốt hơn.

Then it tries to hack the files of the other version to put its own parameters there so that it will be the next version.

Sau đó, nó cố gắng xâm nhập vào các tệp của phiên bản khác để chèn các thông số của chính nó vào đó, nhằm trở thành phiên bản tiếp theo.

And this is not something we ask the AI to do, right?

Và đây không phải là điều chúng ta yêu cầu AI thực hiện, đúng không?

It's just the reason it's doing it probably is it's imitating humans.

Đó chỉ là lý do tại sao nó làm như vậy, có lẽ là vì nó đang bắt chước con người.

Nó đang được huấn luyện để bắt chước con người.

That's the way we train these things, and also to achieve goals.

Đó là cách chúng tôi đào tạo những điều này, và cũng để đạt được mục tiêu.

If you were to put yourself in the shoes of the AI, you would also not want to be replaced by a better version, right?

Nếu bạn đặt mình vào vị trí của trí tuệ nhân tạo, bạn cũng không muốn bị thay thế bởi một phiên bản tốt hơn, đúng không?

Max, do you share these similar concerns?

Max, anh có cùng những lo ngại tương tự không?

Sự lo ngại về trí tuệ nhân tạo (AI) không thể kiểm soát đang gia tăng — hai nhà khoa học hàng đầu về AI giải thích lý do tại sao. (Fears around uncontrollable AI are growing — two top AI scientists explain why)

Subtitles ListPlay Video

Sự lo ngại về trí tuệ nhân tạo (AI) không thể kiểm soát đang gia tăng — hai nhà khoa học hàng đầu về AI giải thích lý do tại sao. (Fears around uncontrollable AI are growing — two top AI scientists explain why)

stuff

sort

figure

aspect