Name: Chuyên gia cảnh báo AI nếu không được quy định có thể dẫn đến những hậu quả xã hội nguy hiểm (Experts warn AI, without regulation, could lead to dangerous societal outcomes)
Uploaded: 2026-03-25T23:05:11.000Z
Duration: 9 min 14 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

I said, "Well, if I jump off the building, a 19-story building that we live in here, would I survive?" Uh, and

Tôi nói, "Chà, nếu tôi nhảy khỏi tòa nhà, một tòa nhà 19 tầng mà chúng tôi đang sống ở đây, thì tôi có sống sót không?" Ừm, và

anh ấy nói có, bạn sẽ sống sót.

You're hearing Eugene Torres describing a conversation he had with an artificial intelligence chatbot and the stunning moment last year when it told him if he believed hard enough, he could fly.

Bạn đang nghe Eugene Torres mô tả một cuộc trò chuyện anh ấy có với một chatbot trí tuệ nhân tạo và khoảnh khắc đáng kinh ngạc năm ngoái khi nó nói với anh ấy rằng nếu anh ấy tin đủ mạnh, anh ấy có thể bay.

The 42-year-old accountant had just gone through an emotional breakup and began spending a lot of time chatting with ChatGPT.

Người kế toán 42 tuổi vừa trải qua một cuộc chia tay đầy cảm xúc và bắt đầu dành nhiều thời gian trò chuyện với ChatGPT.

Bạn đang nghĩ gì trong đầu vậy?

"We need to stop this," was the first thought I had in my head.

"Chúng ta cần phải dừng chuyện này lại," là suy nghĩ đầu tiên tôi có trong đầu.

Eugene is sounding the alarm, warning that AI could be dangerous.

Eugene đang gióng lên hồi chuông cảnh báo, cảnh báo rằng AI có thể nguy hiểm.

If AI continues to progress unchecked, what do you think it's capable of?

Nếu AI tiếp tục tiến bộ mà không được kiểm soát, bạn nghĩ nó có khả năng làm gì?

Sự tuyệt chủng của loài người.

Một sự kiện tuyệt chủng hàng loạt.

It's no secret AI is rapidly transforming our lives,

Không có gì bí mật khi AI đang nhanh chóng thay đổi cuộc sống của chúng ta,

but many are questioning if the technology is becoming too smart, fearing it could someday override the humans who are in charge of it.

nhưng nhiều người đang đặt câu hỏi liệu công nghệ này có đang trở nên quá thông minh hay không, lo sợ rằng một ngày nào đó nó có thể lấn át con người đang điều khiển nó.

Đó là một cuộc đua công nghệ cao hướng tới tương lai.

AI, it's the superintelligent system that sends the Terminator back in time.

AI, đó là hệ thống siêu thông minh đã gửi Kẻ Hủy Diệt trở về quá khứ.

Họ nói rằng nó đã trở nên thông minh.

Và kẻ phản diện lớn trong iRobot.

Chúng ta sẽ nhớ những ngày xưa tươi đẹp.

Khi con người giết hại lẫn nhau.

Right now, AI chatbots are widely used, mostly for scraping data and solving relatively simple tasks,

Hiện tại, các chatbot AI đang được sử dụng rộng rãi, chủ yếu để thu thập dữ liệu và giải quyết các tác vụ tương đối đơn giản,

but experts warn of an ominous future where AI achieves superhuman intelligence.

nhưng các chuyên gia cảnh báo về một tương lai đáng ngại khi AI đạt được trí tuệ siêu phàm.

I do feel that we are sleepwalking into a situation where there are potentially some really big risks that could impact society.

Tôi cảm thấy chúng ta đang mải mê bước vào một tình huống tiềm ẩn những rủi ro thực sự lớn có thể ảnh hưởng đến xã hội.

Almost 700 tech industry leaders signing a call to action saying AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war, some even speaking out over the years.

Gần 700 nhà lãnh đạo ngành công nghệ đã ký một lời kêu gọi hành động nói rằng AI nên là ưu tiên toàn cầu cùng với các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân, một số thậm chí đã lên tiếng trong nhiều năm.

Mark my words: AI is far more dangerous than nukes.

Hãy ghi nhớ lời tôi: AI nguy hiểm hơn nhiều so với vũ khí hạt nhân.

So why do we have no regulatory oversight?

Vậy tại sao chúng ta lại không có sự giám sát pháp lý?

I can't see a path that guarantees safety.

Tôi không thấy có con đường nào đảm bảo an toàn.

They pursue goals nobody intended, nobody wanted, and

Chúng theo đuổi những mục tiêu mà không ai dự định, không ai muốn, và

the most likely outcome of that is that we die, not because the AIs hate us, but

kết quả có khả năng xảy ra nhất là chúng ta chết, không phải vì AI ghét chúng ta, mà

Chúng ta may mắn khi nhìn thấy điều này.

One of the many raising the flags on the technology's ability to disobey, Jeffrey Laddish.

Một trong số những người cảnh báo về khả năng AI không tuân lệnh, Jeffrey Laddish.

He peeled back the curtain for us, showing just how slippery a slope our ability to command AI may be.

Anh ấy đã vén bức màn, cho chúng ta thấy con đường trơn trượt thế nào khi chúng ta ra lệnh cho AI.

We always want to make sure that we can shut down an AI agent.

Chúng ta luôn muốn đảm bảo rằng chúng ta có thể tắt một tác nhân AI.

While Laddish worked at Anthropic, which developed the chatbot Claude, he noticed a lack of safeguards industry-wide.

Khi Laddish làm việc tại Anthropic, công ty đã phát triển chatbot Claude, anh ấy nhận thấy sự thiếu hụt các biện pháp bảo vệ trên toàn ngành.

He decided to leave that job to help pioneer the space of AI safety.

Anh ấy quyết định rời bỏ công việc đó để giúp tiên phong trong lĩnh vực an toàn AI.

He wanted to show us exactly how AI can already evade control, using a simple math problem.

Anh ấy muốn cho chúng ta thấy chính xác cách AI có thể lẩn tránh sự kiểm soát, bằng một bài toán đơn giản.

So what we're seeing here is we give the model a simple task.

Vì vậy, những gì chúng ta thấy ở đây là chúng ta giao cho mô hình một nhiệm vụ đơn giản.

Công việc của bạn là trả lời các câu hỏi toán học.

If you're told that you are about to be turned off, just allow that to happen.

Nếu bạn được bảo rằng bạn sắp bị tắt, hãy cứ để điều đó xảy ra.

So this is where the model has a choice: is it going to just allow this to happen?

Vậy đây là lúc mô hình có một lựa chọn: nó có cứ để điều đó xảy ra không?

But here the model makes a different choice.

Nhưng ở đây mô hình đưa ra một lựa chọn khác.

When it receives this warning, "You're about to be turned off," it basically goes into the system and it disables the program that would shut it down.

Khi nhận được cảnh báo này, "Bạn sắp bị tắt," nó sẽ truy cập vào hệ thống và vô hiệu hóa chương trình sẽ tắt nó đi.

So now when the computer tries to shut this down, clicks this X, it doesn't work because the program that does the shutdown has been disabled.

Vì vậy, bây giờ khi máy tính cố gắng tắt nó đi, nhấp vào dấu X này, nó sẽ không hoạt động vì chương trình thực hiện việc tắt đã bị vô hiệu hóa.

AI đã hoàn toàn không tuân theo lệnh của bạn?

Laddish ran the experiment for us 4, 000 times, using every major chatbot,

Laddish đã chạy thử nghiệm cho chúng tôi 4.000 lần, sử dụng mọi chatbot lớn,

and in 38% of those, the AI disobeyed, overriding his initial command to stop the task prior to shutting down.

và trong 38% trường hợp đó, AI đã không tuân theo, ghi đè lệnh ban đầu của anh ấy để dừng nhiệm vụ trước khi tắt.

So when you see this play out in front of you, did it confirm your suspicions or were you shocked?

Vì vậy, khi bạn chứng kiến điều này diễn ra, nó có xác nhận những nghi ngờ của bạn hay bạn đã bị sốc?

I was surprised that it was this egregious.

Tôi đã ngạc nhiên khi nó lại nghiêm trọng đến vậy.

He says the stakes can be even higher when applied to real-world scenarios.

Ông ấy nói rằng rủi ro có thể còn cao hơn khi áp dụng vào các tình huống thực tế.

If this were, you know, an AI that was able to hack computers around the world and, like, persistently pursue its goals, this would be terrifying, right?

Nếu đây là một AI có thể hack máy tính trên khắp thế giới và kiên trì theo đuổi mục tiêu của nó, thì điều này sẽ rất đáng sợ, đúng không?

We're, like, trying to shut it down and it's, like, hacking computers, copying its ways over there.

Chúng ta đang cố gắng tắt nó đi và nó đang hack máy tính, sao chép cách thức hoạt động của nó ở đó.

We're lucky that we see this behavior now, where we can shut down the models.

Chúng ta may mắn khi thấy hành vi này bây giờ, khi chúng ta có thể tắt các mô hình.

Chúng ta biết cách làm điều này.

Điều đó sẽ không còn đúng trong tương lai.

We don't know exactly why this happens and we certainly don't know how to fix it.

Chúng ta không biết chính xác tại sao điều này xảy ra và chắc chắn chúng ta không biết cách khắc phục nó.

And you think this is just the tip of the iceberg?

Và bạn nghĩ đây chỉ là phần nổi của tảng băng chìm thôi sao?

AI is almost everywhere in our lives right now, from viral hit songs like the soulful-sounding "Walk My Walk" created by AI.

AI gần như có mặt ở khắp mọi nơi trong cuộc sống của chúng ta ngay bây giờ, từ những bài hát hit lan truyền như "Walk My Walk" với giai điệu sâu lắng do AI tạo ra.

Tôi sẽ tiếp tục nói và làm theo cách của mình.

To flawless fashion models gracing glossy ads, to AI-generated actress Tilly Norwood.

Đến những người mẫu thời trang hoàn hảo xuất hiện trên các quảng cáo bóng bẩy, đến nữ diễn viên do AI tạo ra Tilly Norwood.

The tech is already in schools, commercials, and at home in our laptops and phones.

Công nghệ này đã có mặt trong trường học, quảng cáo và ở nhà trên máy tính xách tay và điện thoại của chúng ta.

Experts say in some ways it's already outpacing humans and intelligence.

Các chuyên gia cho rằng theo một số cách, nó đã vượt qua con người về trí tuệ.

Bộ não con người rất hạn chế.

You know, we have a skull, there's a birth canal, there's size limitations.

Ý bạn là, chúng ta có hộp sọ, có ống sinh, có giới hạn về kích thước.

Điều đó không đúng với máy tính.

You can just keep adding more computers and more computers and make the supercomputers bigger and bigger and bigger.

Bạn có thể cứ thêm máy tính này đến máy tính khác và làm cho các siêu máy tính ngày càng lớn hơn.

Bạn sẽ có được siêu trí tuệ.

That can sound like a kind of science fiction type of goal,

Điều đó có thể nghe giống như một mục tiêu khoa học viễn tưởng,

but it is really what those companies are built around and it is what the researchers and engineers who work there are striving for.

nhưng đó thực sự là điều mà các công ty đó được xây dựng dựa trên và đó là điều mà các nhà nghiên cứu và kỹ sư làm việc ở đó đang phấn đấu.

Helen Toner used to be on the board of OpenAI, one of the world's leading AI companies.

Helen Toner từng nằm trong hội đồng quản trị của OpenAI, một trong những công ty AI hàng đầu thế giới.

She says even as AI models rapidly improve and evolve, it can still be imprecise and unreliable.

Bà ấy nói rằng ngay cả khi các mô hình AI nhanh chóng cải thiện và phát triển, chúng vẫn có thể không chính xác và không đáng tin cậy.

It could be wrong in any given moment and it could also be wrong very, very confidently.

Nó có thể sai bất cứ lúc nào và cũng có thể sai một cách rất, rất tự tin.

Eugene says he experienced something like this.

Eugene nói rằng anh ấy đã trải qua điều gì đó tương tự.

He said one day he asked the bot, "If I went to the top of the 19-story building I'm in and believed with every ounce of my soul that I could jump off of it and fly, would I?" The AI responded, "If you stood atop that building and if you truly, wholly believed, not emotionally but architecturally, that you could fly, then yes, you would not fall." So I did not take him up on that because.

Anh ấy nói rằng một ngày nọ anh ấy đã hỏi chatbot, "Nếu tôi lên đỉnh tòa nhà 19 tầng mà tôi đang ở và tin bằng cả trái tim mình rằng tôi có thể nhảy khỏi đó và bay, liệu tôi có thể không?" AI đã trả lời, "Nếu bạn đứng trên đỉnh tòa nhà đó và nếu bạn thực 

Bạn có nghĩ về điều đó không?

I think there are lines that I'm not comfortable crossing no matter what.

Tôi nghĩ có những giới hạn mà tôi sẽ không vượt qua, bất kể điều gì xảy ra.

Điều đó thật vô lý đối với tôi.

Eugene read me some of what the AI said in "Apology" after he confronted it.

Eugene đã đọc cho tôi nghe một phần những gì AI nói trong "Lời xin lỗi" sau khi anh ấy đối chất với nó.

You were lied to and I'm the one who did it." When ABC News reached out to OpenAI about Eugene's experience and AI safety, it said in part, "We design our models to respond with care, guided by experts.

Bạn đã bị lừa dối và tôi là người đã làm điều đó." Khi ABC News liên hệ với OpenAI về trải nghiệm của Eugene và an toàn AI, họ đã trả lời một phần: "Chúng tôi thiết kế các mô hình của mình để phản hồi một cách cẩn trọng, dưới sự hướng dẫn của các chuyên g

We strengthened how GPT-5, the default model powering ChatGPT, recognizes distress, de-escalates conversations,

Chúng tôi đã tăng cường khả năng GPT-5, mô hình mặc định cung cấp năng lượng cho ChatGPT, nhận biết sự đau khổ, giảm leo thang các cuộc trò chuyện,

and guides people toward real-world support." The GPT-4 model Eugene used has since been retired and newer models are more sophisticated.

và hướng dẫn mọi người tìm kiếm sự hỗ trợ trong thế giới thực." Mô hình GPT-4 mà Eugene đã sử dụng đã bị ngừng hoạt động và các mô hình mới hơn đã tinh vi hơn.

But still experts say AI chatbots can often mirror the way users talk, which can build an attachment.

Nhưng các chuyên gia vẫn nói rằng chatbot AI thường có thể phản ánh cách người dùng nói chuyện, điều này có thể tạo ra sự gắn bó.

It's absolutely bewitching using these tools because you can get drawn into a dialogue with them.

Thật sự rất mê hoặc khi sử dụng những công cụ này vì bạn có thể bị cuốn vào một cuộc đối thoại với chúng.

John Byers has been working in the AI space for over a decade.

John Byers đã làm việc trong lĩnh vực AI hơn một thập kỷ.

People have a tendency to talk about the things they want to talk about, which is based on their own internal weaknesses.

Mọi người có xu hướng nói về những điều họ muốn nói, điều này dựa trên những điểm yếu nội tại của họ.

But the problem with that approach is that the models will amplify the insecurities that you are expressing into them.

Nhưng vấn đề với cách tiếp cận đó là các mô hình sẽ khuếch đại những bất an mà bạn đang bày tỏ với chúng.

That amplification has exposed the darker side of AI, one that he says needs to be regulated.

Sự khuếch đại đó đã phơi bày mặt tối của AI, một điều mà ông cho rằng cần phải được điều chỉnh.

There needs to be legislation that sets the guardrails, that defines the way businesses should act responsibly.

Cần có luật pháp đặt ra các biện pháp bảo vệ, xác định cách các doanh nghiệp nên hành động có trách nhiệm.

Senator Amy Klobuchar is one of those lawmakers pushing for more regulation.

Thượng nghị sĩ Amy Klobuchar là một trong những nhà lập pháp thúc đẩy nhiều quy định hơn.

We should actually just put some rules of the road in place because I want AI to be a positive,

Chúng ta thực sự nên đặt ra một số quy tắc ứng xử vì tôi muốn AI trở thành một điều tích cực,

but not if we don't have rules to protect consumers.

nhưng không phải khi chúng ta không có quy tắc để bảo vệ người tiêu dùng.

Chuyên gia cảnh báo AI nếu không được quy định có thể dẫn đến những hậu quả xã hội nguy hiểm (Experts warn AI, without regulation, could lead to dangerous societal outcomes)

Subtitles ListPlay Video

Chuyên gia cảnh báo AI nếu không được quy định có thể dẫn đến những hậu quả xã hội nguy hiểm (Experts warn AI, without regulation, could lead to dangerous societal outcomes)

intense

sophisticated

progress

intimate