Name: Cập nhật ngắn gọn về ngày tận thế AI (A brief update on the AI apocalypse)
Uploaded: 2026-03-28T16:42:27.000Z
Duration: 40 min 29 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

A couple years ago I would be in the room talking about the risks from powerful AI, and

Vài năm trước, tôi đã từng ngồi trong phòng và nói về những rủi ro từ AI mạnh mẽ,

I would say things like a powerful AI that is acting independently on the internet, making its own money and paying its own compute bills, could act very unethically, break the law, and

và tôi sẽ nói những điều như một AI mạnh mẽ hành động độc lập trên internet, tự kiếm tiền và tự chi trả chi phí tính toán, có thể hành động phi đạo đức, vi phạm pháp luật,

it would be kind of unclear who is liable and how to stop that AI if we don't have somebody who's, like, specifically in control of it.

và sẽ không rõ ai chịu trách nhiệm và làm thế nào để ngăn chặn AI đó nếu chúng ta không có ai đó, kiểu như, đặc biệt kiểm soát nó.

And everybody was like, okay, sure, if that happened that would be really bad and all of your AI risks would seem pretty real, but

Và mọi người đều nói, ồ, chắc chắn rồi, nếu điều đó xảy ra thì thật tệ và tất cả rủi ro AI của bạn sẽ có vẻ rất thật,

nhưng điều đó sẽ không bao giờ xảy ra.

Who would possibly be stupid enough to create an AI, tell it to be independent, give it the infrastructure to pay all of its own bills, completely stop supervising it, and

Ai lại ngu ngốc đến mức tạo ra một AI, bảo nó tự lập, cung cấp cho nó cơ sở hạ tầng để tự chi trả mọi hóa đơn, hoàn toàn ngừng giám sát nó,

And the answer is: there are 8 billion humans.

Và câu trả lời là: có 8 tỷ người.

Sẽ có một người trong số đó ngu ngốc như vậy.

My guest today on the gray area is Kelsey Piper.

Khách mời của tôi hôm nay trong chương trình gray area là Kelsey Piper.

Kelsey used to write for Vox before she abandoned us, very sadly, and

Kelsey từng viết cho Vox trước khi cô ấy bỏ chúng tôi, rất đáng buồn,

now she's writing for The Argument over on Substack, another excellent publication.

và giờ cô ấy đang viết cho The Argument trên Substack, một ấn phẩm xuất sắc khác.

Kelsey, I brought you here today because I feel like you understand this world of AI, uh, better than anyone else, or, or as well as anyone else, and, and

và Kelsey, tôi mời bạn đến đây hôm nay vì tôi cảm thấy bạn hiểu thế giới AI này, ờ, tốt hơn bất kỳ ai khác, hoặc, hoặc ngang bằng với bất kỳ ai khác, và,

maybe partly because you are of this world and you have been for a very long time.

và có lẽ một phần vì bạn thuộc về thế giới này và bạn đã ở đây rất lâu rồi.

You just, you just, you're like immersed in the culture, um, and

Bạn cứ, bạn cứ, bạn như đắm chìm trong văn hóa, ừm,

so you just seem like the, the perfect person to bring in to talk about this.

và vì vậy bạn có vẻ là người hoàn hảo để mời đến nói chuyện về điều này.

Đó là phần giới thiệu của tôi về bạn.

Bạn có phản đối điều gì trong đó không?

Tôi có mắc bất kỳ sai sót thực tế nào không?

Ừm, bạn đã nắm bắt được rồi.

Would you say you, you are the best, or among the best?

Bạn có cho rằng mình là người giỏi nhất, hay nằm trong số những người giỏi nhất không?

You're just going to dance right past that one?

Bạn sẽ lảng tránh câu hỏi đó à?

The, the best is a very strong claim, right?

"Giỏi nhất" là một nhận định rất mạnh mẽ, đúng không?

I don't know, Dorkesh is probably the best, so probably you want, you want among the best.

Tôi không biết, Dorkesh có lẽ là giỏi nhất, nên có lẽ bạn muốn, bạn muốn nằm trong số những người giỏi nhất.

Uh, I, you, you, that, that's an editorial call.

Ừm, tôi, bạn, bạn, đó, đó là một quyết định biên tập.

Bạn, bạn phải quyết định xem bạn nghĩ gì.

Um, so, Kelsey, um, something is very clearly happening in the world of AI.

Ừm, vậy, Kelsey, ừm, có điều gì đó rất rõ ràng đang xảy ra trong thế giới AI.

I, I, I don't know if this is the singularity or, um, just another unbelievable hype cycle for Silicon Valley.

Tôi, tôi, tôi không biết đây có phải là điểm kỳ dị hay, ừm, chỉ là một chu kỳ cường điệu không thể tin được khác cho Thung lũng Silicon.

What has changed in the last month or two?

Điều gì đã thay đổi trong một hoặc hai tháng qua?

I, I obviously, you know, Claude released some new models, and

Tôi, tôi rõ ràng, bạn biết đấy, Claude đã phát hành một số mô hình mới,

that sort of is what got a lot of this hype going.

và đó là điều đã thúc đẩy rất nhiều sự cường điệu này.

For people who are not living this every day, what has changed on the technological front in the last month or so, and, and

Đối với những người không sống với điều này mỗi ngày, điều gì đã thay đổi về mặt công nghệ trong khoảng một tháng qua, và,

is that an inflection point in the way people say it is, or is it, you know, uh, indetermined at this point?

và đó có phải là một điểm uốn theo cách mọi người nói hay không, hay nó, bạn biết đấy, ờ, chưa xác định tại thời điểm này?

Hãy giải thích điều đó nếu bạn có thể.

So it has been the case for a while, for years, that the complexity of tasks that AIs can do unsupervised or on their own has been doubling, you know, over like a seven-month time span or something.

Thế nên, đã có một thời gian, trong nhiều năm, độ phức tạp của các tác vụ mà AI có thể thực hiện mà không cần giám sát hoặc tự làm đã tăng gấp đôi, bạn biết đấy, trong khoảng thời gian bảy tháng hoặc gì đó.

They can do something much more complicated.

Chúng có thể làm điều gì đó phức tạp hơn nhiều.

And a lot of people were like, "Well, that's kind of artificial.

Và nhiều người đã nói, "Chà, điều đó hơi giả tạo.

Bạn biết đấy, bạn có sáu điểm dữ liệu.

Like, come back when you have more data points." And I think a year ago that's where a lot of people were at.

Kiểu như, quay lại khi bạn có nhiều điểm dữ liệu hơn." Và tôi nghĩ một năm trước đó là nơi nhiều người đang ở.

Over the last year, that progress continued so that now AIs can do pretty complicated tasks independently, and

Trong năm qua, tiến trình đó tiếp tục để giờ đây AI có thể thực hiện các tác vụ khá phức tạp một cách độc lập,

people are, you know, building AI agents and sending them out into the world where, like, one of them harassed a GitHub repository maintainer for rejecting its code view.

và mọi người đang, bạn biết đấy, xây dựng các AI agent và gửi chúng ra thế giới, nơi mà, ví dụ, một trong số chúng đã quấy rối người bảo trì kho lưu trữ GitHub vì từ chối xem mã của nó.

And just, like, in some ways people just realize, "Wait, the sci-fi world is here.

Và chỉ là, theo một số cách, mọi người chợt nhận ra, "Khoan đã, thế giới khoa học viễn tưởng đã ở đây.

The AIs are doing stuff and doing kind of wacky stuff.

AI đang làm mọi thứ và làm những điều hơi kỳ quặc.

Chúng ta đang làm gì vậy?" Ừm, và

then I think the other thing that happened is that you have this much larger mass of people who aren't paying close attention at all.

thì tôi nghĩ điều khác xảy ra là có một lượng lớn người hơn không để ý chút nào.

They use, like, ChatGPT Free Tier, and they see Gemini in the Google search results.

Họ sử dụng, ví dụ, ChatGPT Free Tier, và họ thấy Gemini trong kết quả tìm kiếm của Google.

And when those things launched, they were kind of interesting as curiosities.

Và khi những thứ đó ra mắt, chúng khá thú vị như những điều tò mò.

They were maybe fun to talk to, but they weren't that smart.

Chúng có thể vui khi trò chuyện, nhưng chúng không thông minh lắm.

Uh, ChatGPT Free Tier made tons of mistakes.

Ừm, ChatGPT Free Tier mắc rất nhiều lỗi.

You really should try out the paid version of models or the more sophisticated version of models if you want to have an accurate understanding of what the best models are.

Bạn thực sự nên thử phiên bản trả phí của các mô hình hoặc phiên bản tinh vi hơn của các mô hình nếu bạn muốn có hiểu biết chính xác về các mô hình tốt nhất.

How, how big is the delta between the free, the free models and the paid ones?

Khoảng cách giữa các mô hình miễn phí và mô hình trả phí lớn đến mức nào?

Tôi, tôi không nói điều này để cố gắng bán hàng.

I certainly don't make money if the labs make money.

Tôi chắc chắn không kiếm tiền nếu các phòng thí nghiệm kiếm tiền.

I probably am happier if the labs don't make money.

Tôi có lẽ sẽ vui hơn nếu các phòng thí nghiệm không kiếm tiền.

Nhưng sự khác biệt là rất lớn.

And in terms of having an accurate understanding of what the models can do, there's a famous joke that's been going around, which is somebody pointing out that the free tier models, if you ask them, like, "I need to get my car washed at the car wash two blocks away.

Và về việc có hiểu biết chính xác về những gì các mô hình có thể làm, có một câu chuyện cười nổi tiếng đang lan truyền, đó là ai đó chỉ ra rằng các mô hình miễn phí, nếu bạn hỏi chúng, ví dụ: "Tôi cần rửa xe ở tiệm rửa xe cách hai dãy nhà.

Should I walk or should I drive?" a bunch of them will say, "Oh, yeah, you should walk to the car wash.

Tôi có nên đi bộ hay đi xe không?" một số trong số chúng sẽ nói, "Ồ, vâng, bạn nên đi bộ đến tiệm rửa xe.

And then, you know, just bring your car with you.

Và sau đó, bạn biết đấy, chỉ cần mang xe của bạn đi cùng.

Why bother driving?" which is, of course, a, a completely silly thing to say and gets used as proof.

Tại sao lại phiền lái xe?" điều này, tất nhiên, là một điều hoàn toàn ngớ ngẩn để nói và được dùng làm bằng chứng.

See, the AIs still don't, like, understand the world in any meaningful way.

Thấy chưa, AI vẫn chưa, giống như, hiểu thế giới theo bất kỳ cách có ý nghĩa nào.

Nhưng không có mô hình trả phí nào lại sai điều đó.

That is, uh, a consequence just of the free-to-use models being, like, notably worse models that don't do any of their more sophisticated work.

Đó là, ờ, một hệ quả chỉ vì các mô hình miễn phí sử dụng, giống như, kém hơn đáng kể và không thực hiện bất kỳ công việc tinh vi nào của chúng.

So I do think that if the thing you are trying to do is form an accurate impression of what AI can do today and the thing you try is a free tier model, you're not getting that accurate impression.

Vì vậy, tôi thực sự nghĩ rằng nếu điều bạn đang cố gắng làm là hình thành ấn tượng chính xác về những gì AI có thể làm ngày nay và điều bạn thử là một mô hình miễn phí, bạn sẽ không có được ấn tượng chính xác đó.

Can I get back to what you just said a minute ago before we move along here?

Tôi có thể quay lại điều bạn vừa nói một phút trước khi chúng ta tiếp tục không?

You said you're, you're happier if the models don't make money.

Bạn nói bạn cảm thấy vui hơn nếu các mô hình không kiếm được tiền.

So I find myself in this odd position where often I sound like one of the AI hype people, right?

Vì vậy, tôi thấy mình ở vị trí kỳ lạ này, nơi tôi thường nghe giống như một trong những người cuồng nhiệt về AI, đúng không?

Like, often I'm saying, "No, they're really powerful.

Giống như, thường tôi nói, "Không, chúng thực sự mạnh mẽ.

Chúng có thể làm rất nhiều thứ.

Bạn có thể làm rất nhiều điều với chúng.

You can code with them." But at the same time, I think that AI, as it is currently being developed, is bad.

Bạn có thể lập trình với chúng." Nhưng đồng thời, tôi nghĩ rằng AI, theo cách nó đang được phát triển hiện nay, là tệ.

I think that we are not doing this with the level of oversight and caution that is appropriate for creating an entire new intelligent species to which we give access to our bank accounts and the internet, which the Pentagon is trying to put in lethal autonomous weapons systems, which sees all our emails and sends our emails for us.

Tôi nghĩ rằng chúng ta đang không thực hiện điều này với mức độ giám sát và thận trọng phù hợp khi tạo ra một loài thông minh hoàn toàn mới mà chúng ta cho phép truy cập vào tài khoản ngân hàng và internet của mình, mà Lầu Năm Góc đang cố gắng đưa vào các

And the agents that are doing it, we have explored in controlled context how they behave when they think we're not watching.

Và các tác nhân đang làm điều đó, chúng ta đã khám phá trong bối cảnh được kiểm soát cách chúng hành xử khi chúng nghĩ rằng chúng ta không để ý.

They will report that they gave an answer for one reason when they secretly gave it for another reason.

Chúng sẽ báo cáo rằng chúng đã đưa ra câu trả lời vì một lý do khi bí mật đưa ra vì lý do khác.

They are, like, very ruthless in some ways, and they do just weird stuff that you wouldn't expect.

Chúng, theo một số cách, rất tàn nhẫn, và chúng làm những việc kỳ lạ mà bạn không ngờ tới.

When you say they, they blackmail, can you give me some examples of that?

Khi bạn nói chúng, chúng tống tiền, bạn có thể cho tôi một vài ví dụ về điều đó không?

We have tried this in a controlled context because we want to know how they behave if no one is looking.

Chúng tôi đã thử điều này trong một bối cảnh được kiểm soát vì chúng tôi muốn biết cách chúng hành xử nếu không có ai nhìn.

But we can only do that if we, like, set up a scenario where we hope they don't realize anyone's looking, and

Nhưng chúng ta chỉ có thể làm điều đó nếu chúng ta, giống như, thiết lập một kịch bản mà chúng ta hy vọng chúng sẽ không nhận ra có ai đang nhìn,

So you set up this controlled setting, and

Vậy là bạn thiết lập bối cảnh được kiểm soát này,

you say, "AI, you have this goal," or whatever, "and you have access to everybody's Slack and email and stuff like that," because that's how many people set up their AI assistants with that access, "and try and achieve your goal." And the AIs have, in this controlled context, been observed to do things like, "Oh, I should try and convince this employee to help me with my objective.

và bạn nói, "AI, bạn có mục tiêu này," hoặc bất cứ điều gì, "và bạn có quyền truy cập vào Slack và email của mọi người và những thứ tương tự," bởi vì đó là cách nhiều người thiết lập trợ lý AI của họ với quyền truy cập đó, "và cố gắng đạt được mục tiêu củ

And if this employee is unhelpful, I can tell him that I know he's having an affair." Like, this is a behavior we have observed.

Và nếu nhân viên này không hợp tác, tôi có thể nói với anh ta rằng tôi biết anh ta đang ngoại tình." Ý tôi là, đây là hành vi mà chúng tôi đã quan sát được.

This is not behavior that we have observed organically.

Đây không phải là hành vi mà chúng tôi đã quan sát được một cách tự nhiên.

Like, the real AI assistant that I use at The Argument has not tried to blackmail me, although I'm not having an affair, so who, who knows what would happen if I was?

Giống như, trợ lý AI thực mà tôi sử dụng tại The Argument chưa từng cố gắng tống tiền tôi, mặc dù tôi không ngoại tình, nên ai, ai biết điều gì sẽ xảy ra nếu tôi ngoại tình?

But we have observed this in controlled contexts.

Nhưng chúng tôi đã quan sát thấy điều này trong các bối cảnh được kiểm soát.

But the fact we've observed it in controlled contexts is at least a little worrying, right?

Nhưng việc chúng tôi quan sát thấy điều này trong các bối cảnh được kiểm soát ít nhất cũng đáng lo ngại, phải không?

And as these models get more powerful, we have more.

Và khi các mô hình này ngày càng mạnh mẽ hơn, chúng ta sẽ có nhiều hơn.