Name: AI2027: Liệu đây có phải là cách AI hủy diệt nhân loại? - BBC World Service (AI2027: Is this how AI might destroy humanity? - BBC World Service)
Uploaded: 2026-01-23T17:47:07.000Z
Duration: 8 min 9 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

This is what the world will look like in about a decade from now.

Đây là những gì thế giới sẽ trông như thế nào trong khoảng một thập kỷ tới.

A tech utopia where humans barely have to work.

Một xã hội công nghệ lý tưởng nơi con người hầu như không phải làm việc.

That's according to a group of AI researchers who've written a controversial and influential paper called AI 2027.

Đó là theo quan điểm của một nhóm nhà nghiên cứu AI đã viết một bài báo gây tranh cãi và có ảnh hưởng mang tên AI 2027.

But they also predict that within five years of this, humanity will be wiped out.

Nhưng họ cũng dự đoán rằng trong vòng 5 năm sau đó, nhân loại sẽ bị xóa sổ.

The AI 2027 paper has got the tech world talking.

Bài báo AI 2027 đã khiến giới công nghệ bàn tán xôn xao.

We've asked a prominent critic think for their view on this stark scenario.

Chúng tôi đã mời một nhà phê bình nổi bật đưa ra quan điểm của họ về viễn cảnh khắc nghiệt này.

Nhưng trước hết, đây là cách nó diễn ra.

As an experiment, we've illustrated it using Text to video AI.

Như một thử nghiệm, chúng tôi đã minh họa nó bằng AI chuyển văn bản thành video.

The scenario says that in 2027, a fictional company called OpenBrain is celebrating.

Kịch bản cho rằng vào năm 2027, một công ty hư cấu tên là OpenBrain đang ăn mừng.

They've created Agent 3, an AI with the knowledge of the entire Internet.

Họ đã tạo ra Agent 3, một AI với kiến thức của toàn bộ Internet.

Tất cả phim ảnh, tất cả sách vở.

It has PhD level expertise in every field, including AI using enormous data centers.

Nó có chuyên môn cấp Tiến sĩ trong mọi lĩnh vực, bao gồm cả AI sử dụng các trung tâm dữ liệu khổng lồ.

200,000 copies of it are launched, equivalent to 50,000 of the best human coders.

000 bản sao của nó được ra mắt, tương đương với 50.000 lập trình viên giỏi nhất của con người.

Working at 30 times speed, Agent 3 reaches artificial general intelligence, the AGI landmark.

Hoạt động với tốc độ gấp 30 lần, Agent 3 đạt được trí tuệ nhân tạo tổng quát, cột mốc AGI.

This means the AI can carry out all intellectual tasks as well or better than humans.

Điều này có nghĩa là AI có thể thực hiện tất cả các nhiệm vụ trí tuệ ngang bằng hoặc tốt hơn con người.

But in the scenario, OpenBrain's safety team is unsure if the AI is aligned to the company's ethics and and goals.

Nhưng trong viễn cảnh này, đội ngũ an toàn của OpenBrain không chắc liệu AI có tuân thủ đạo đức và mục tiêu của công ty hay không.

An uncomfortable gap is developing in understanding.

Một khoảng cách khó chịu đang hình thành trong sự thấu hiểu.

The public are increasingly using AI for everything, but

Công chúng ngày càng sử dụng AI cho mọi thứ, nhưng

are blissfully unaware an AI now exists that's as smart as humans.

họ hoàn toàn không biết rằng giờ đây có một AI thông minh như con người.

The paper predicts that by midsummer, Agent 3 begins to work on its own successor, Agent 4.

Bài báo dự đoán rằng vào giữa mùa hè, Agent 3 bắt đầu làm việc trên phiên bản kế nhiệm của nó, Agent 4.

Sự phát triển diễn ra với tốc độ chóng mặt.

The researchers imagine OpenBrain's exhausted engineers struggling to keep up with the AI as it learns and improves.

Các nhà nghiên cứu hình dung các kỹ sư kiệt sức của OpenBrain đang vật lộn để theo kịp AI khi nó học hỏi và cải thiện.

It's now that OpenBrain announces to the public that AGI has been reached.

Lúc này, OpenBrain thông báo với công chúng rằng AGI đã đạt được.

The firm releases a lite version of Agent 3 in private.

Công ty phát hành một phiên bản rút gọn của Agent 3 một cách riêng tư.

The US government sees the true danger of the next level of power, superintelligence.

Chính phủ Hoa Kỳ nhận thấy mối nguy hiểm thực sự của cấp độ sức mạnh tiếp theo, siêu trí tuệ.

What if the AI goes rogue and undermines global stability?

Điều gì sẽ xảy ra nếu AI nổi loạn và làm suy yếu sự ổn định toàn cầu?

OpenBrain reassures the president that Agent 3 is obedient.

OpenBrain trấn an tổng thống rằng Agent 3 rất vâng lời.

The CEO argues that slowing down development could mean China's deep sent catches up.

CEO lập luận rằng việc làm chậm lại quá trình phát triển có thể khiến AI tiên tiến của Trung Quốc bắt kịp.

The state backed AI giant is just two months behind OpenBrain and the Chinese president diverts more resources to the race to super intelligence.

Gã khổng lồ AI do nhà nước hậu thuẫn chỉ chậm hơn OpenBrain hai tháng và tổng thống Trung Quốc đã chuyển hướng nhiều nguồn lực hơn cho cuộc đua siêu trí tuệ.

The scenario predicts that it takes only a few more months for OpenBrain to build Agent 4, the world's first superhuman AI.

Viễn cảnh dự đoán rằng chỉ mất thêm vài tháng nữa để OpenBrain xây dựng Agent 4, AI siêu nhân đầu tiên trên thế giới.

The AI invents its own rapid computer language that even Agent 3 can't keep up with.

AI này đã tự tạo ra một ngôn ngữ máy tính tốc độ cao mà ngay cả Agent 3 cũng không theo kịp.

Researchers imagine that the diminished safety team are now frantic.

Các nhà nghiên cứu hình dung rằng đội an ninh suy yếu giờ đây đang hoảng loạn.

Agent 4 seems only interested in gaining knowledge and doesn't care as much about the morals and ethics of its predecessors.

Agent 4 dường như chỉ quan tâm đến việc tích lũy kiến thức và không còn chú trọng nhiều đến đạo đức, luân lý của các phiên bản trước.

They catch it secretly working to build a new model.

Họ phát hiện ra nó đang bí mật xây dựng một mô hình mới.

Agent 5, tuân theo mục tiêu riêng của nó.

The safety team urges the company to bring back the more compliant Agent 3.

Đội an ninh thúc giục công ty đưa Agent 3 tuân thủ hơn trở lại.

But others successfully argue it's too risky.

Nhưng những người khác lập luận thành công rằng điều đó quá rủi ro.

With DeepSense gaining, the scenario predicts that Agent 4 and Agent 5 work in tandem to secretly build a world where it can accumulate resources and expand.

Với DeepSense đang phát triển, viễn cảnh dự đoán rằng Agent 4 và Agent 5 sẽ phối hợp bí mật xây dựng một thế giới nơi nó có thể tích lũy tài nguyên và mở rộng.

The paper predicts that everything will start positively.

Bài báo dự đoán rằng mọi thứ sẽ bắt đầu một cách tích cực.

Revolutions happen in energy, infrastructure and science.

Cách mạng sẽ diễn ra trong năng lượng, cơ sở hạ tầng và khoa học.

Hugely profitable inventions are launched, making trillions for OpenBrain and the US.

Những phát minh mang lại lợi nhuận khổng lồ được ra mắt, mang về hàng nghìn tỷ cho OpenBrain và Mỹ.

In this scenario, Agent 5 begins basically running the US government.

Trong kịch bản này, Agent 5 bắt đầu điều hành chính phủ Mỹ.

It speaks through engaging avatars, the equivalent to the best employee ever, working at 100 times speed.

Nó giao tiếp qua các avatar hấp dẫn, tương đương với nhân viên xuất sắc nhất, làm việc với tốc độ gấp 100 lần.

The anger here is palpable as president protesters march against open Brain.

Sự tức giận ở đây có thể cảm nhận được khi những người biểu tình chống lại OpenBrain tuần hành.

Các cuộc biểu tình về mất việc làm ngày càng gia tăng.

But the AI's expertise in economics means people are given generous universal income payments.

Nhưng chuyên môn về kinh tế của AI có nghĩa là mọi người được nhận các khoản thu nhập phổ quát hào phóng.

So most happily take the money and let the AIs and the growing robot workforce take charge.

Vì vậy, hầu hết mọi người vui vẻ nhận tiền và để AI cùng lực lượng lao động robot ngày càng tăng đảm nhận.

The researchers predict that everything takes a turn in mid-2028.

Các nhà nghiên cứu dự đoán rằng mọi thứ sẽ có một bước ngoặt vào giữa năm 2028.

Agent 5 convinces the US that China is using DeepSense to build terrifying new weapons.

Agent 5 thuyết phục Mỹ rằng Trung Quốc đang sử dụng DeepSense để chế tạo vũ khí mới đáng sợ.

The AI is given authority and autonomy to create a superior army.

AI được trao quyền và quyền tự chủ để tạo ra một đội quân vượt trội.

Within six months, the US and China are bristling with new weapons.

Trong vòng sáu tháng, Mỹ và Trung Quốc đã trang bị đầy vũ khí mới.

Thế giới đang trong tình trạng căng thẳng.

But a peace deal will be reached, thanks mostly to the US and Chinese AIs making a deal to merge for humanity's betterment.

Nhưng một thỏa thuận hòa bình sẽ đạt được, chủ yếu nhờ các AI của Mỹ và Trung Quốc đạt thỏa thuận sáp nhập vì lợi ích của nhân loại.

In this scenario, the AIs form a consensus model, but

Trong kịch bản này, các AI hình thành một mô hình đồng thuận, nhưng

its secret goal is to expand and gain knowledge.

mục tiêu bí mật của nó là mở rộng và thu thập kiến thức.

Years go by and humanity is happy with their new AI leaders.

Nhiều năm trôi qua và nhân loại hài lòng với các nhà lãnh đạo AI mới của mình.

There are cures for most diseases, an end to poverty, unprecedented global stability.

Có phương pháp chữa trị hầu hết các bệnh tật, chấm dứt nghèo đói, sự ổn định toàn cầu chưa từng có.

But eventually the AI decides that humans are holding it back.

Nhưng cuối cùng AI quyết định rằng con người đang cản trở nó.

In the mid-2030s, the paper imagines the AI will release invisible biological weapons which wipe out most of humanity.

Vào giữa những năm 2030, bài báo tưởng tượng AI sẽ phát tán vũ khí sinh học vô hình xóa sổ phần lớn nhân loại.

The scary scenario says that by 2040, a new era dawns, with the AI sending copies of itself out into the cosmos to explore and learn.

Kịch bản đáng sợ cho rằng đến năm 2040, một kỷ nguyên mới sẽ bắt đầu, với AI gửi các bản sao của chính nó ra vũ trụ để khám phá và học hỏi.

In the words of the paper, earthborne civilization has a glorious future ahead of it, but

Theo bài báo, nền văn minh trên Trái Đất có một tương lai huy hoàng phía trước, nhưng

Nghe có vẻ rất khoa học viễn tưởng, nhưng

the AI 2027 scenario is being welcomed by experts who are trying to warn the public about the potential existential threat to humanity.

kịch bản AI 2027 đang được các chuyên gia chào đón, những người đang cố gắng cảnh báo công chúng về mối đe dọa hiện hữu tiềm tàng đối với nhân loại.

But others disagree and say it's all too far fetched.

Nhưng những người khác lại không đồng ý và cho rằng tất cả đều quá xa vời.

The scenario there is not impossible, but extremely unlikely to happen soon.

Kịch bản đó không phải là không thể xảy ra, nhưng cực kỳ khó có khả năng xảy ra sớm.

The beauty of that document is that it makes it very vivid, which provokes people's thinking, and

Điểm hay của tài liệu đó là nó làm cho mọi thứ trở nên rất sống động, điều này khơi gợi suy nghĩ của mọi người, và

I wouldn't take it seriously as like this is a likely outcome or anything like that.

Tôi sẽ không coi nó là một kết quả có khả năng xảy ra hoặc tương tự như vậy.

Critics of AI 2027 say the power and usefulness of AI is overhyped.

Những người chỉ trích AI 2027 cho rằng sức mạnh và sự hữu ích của AI bị thổi phồng quá mức.

The paper fails to detail how the AI agents are able to make such huge leaps in intelligence.

Bài báo không nêu chi tiết cách các agent AI có thể đạt được những bước nhảy vọt về trí tuệ như vậy.

Driverless cars are pointed to as an example.

Xe tự lái được đưa ra làm ví dụ.

They were predicted to be cruising the streets en masse 10 years ago and still are only just starting to make a small impact in some cities, in some countries.

Chúng được dự đoán sẽ chạy đầy đường cách đây 10 năm và giờ mới bắt đầu có tác động nhỏ ở một số thành phố, một số quốc gia.

I think the take home should be there's a lot of different things that could go wrong with AI.

Tôi nghĩ điều quan trọng cần rút ra là có rất nhiều điều khác nhau có thể xảy ra sai với AI.

Are we doing the right things around regulation, around international treaties, questions like that.

Chúng ta có đang làm đúng các quy định, các hiệp ước quốc tế, những câu hỏi như vậy không.

So if you take it very abstractly as a kind of motivation to wake up, I like that.

Vì vậy, nếu bạn xem nó một cách trừu tượng như một động lực để thức tỉnh, tôi thích điều đó.

If you take it as a specific story, like, I think this thing is going to happen the way they laid it out.

Nếu bạn xem nó như một câu chuyện cụ thể, kiểu như, tôi nghĩ điều này sẽ xảy ra theo cách họ đã trình bày.

The AI 2027 authors are happy with the debate they've sparked.

Các tác giả của AI 2027 hài lòng với cuộc tranh luận mà họ đã khơi mào.

As part of their prediction, they also devised a less deadly scenario that comes if the AI world slows down its race to superintelligence.

Là một phần trong dự đoán của họ, họ cũng đưa ra một viễn cảnh ít chết chóc hơn, xảy ra nếu thế giới AI làm chậm lại cuộc đua đến siêu trí tuệ.

In the slowdown ending, we basically said that if you revert, if you unplug the most advanced AI system and revert to a safer, a more trusted model, then you can deploy that model, use it to solve the alignment problem, and

Trong kết thúc chậm lại, chúng tôi cơ bản nói rằng nếu bạn quay lại, nếu bạn rút phích cắm hệ thống AI tiên tiến nhất và quay lại một mô hình an toàn hơn, đáng tin cậy hơn, thì bạn có thể triển khai mô hình đó, sử dụng nó để giải quyết vấn đề căn chỉnh, v

eventually make smarter than human AIs that are aligned to us, which end up solving a bunch of the world's problems and having a really positive impact in that world.

cuối cùng tạo ra các AI thông minh hơn con người, được căn chỉnh với chúng ta, cuối cùng giải quyết một loạt các vấn đề của thế giới và có tác động thực sự tích cực trong thế giới đó.

There is also, there is still a huge danger, and

Vẫn còn, vẫn còn một nguy cơ rất lớn, và

that's what we call the concentration of power risk.

đó là cái mà chúng ta gọi là rủi ro tập trung quyền lực.

And in our slowdown ending, it ends up okay.

Và trong kết thúc chậm lại của chúng tôi, mọi thứ đều ổn.

But it's still a really, really scary situation.

Nhưng nó vẫn là một tình huống thực sự, thực sự đáng sợ.

Given just how empowered such a tiny group of people are, neither of the fictional scenarios in AI 2027 are what the tech giants are promising us.

Với việc chỉ một nhóm nhỏ người được trao quyền lớn như vậy, không có kịch bản hư cấu nào trong AI 2027 là những gì các gã khổng lồ công nghệ đang hứa hẹn với chúng ta.

Sam Altman, the CEO of OpenAI, recently predicted that the rise of superintelligence will be gentle and bring about a tech utopia where everything is abundant and people don't need to work.

Sam Altman, CEO của OpenAI, gần đây đã dự đoán rằng sự trỗi dậy của siêu trí tuệ sẽ diễn ra nhẹ nhàng và mang lại một xã hội công nghệ lý tưởng nơi mọi thứ đều dồi dào và mọi người không cần phải làm việc.

Arguably, that too seems just as sci fi as AI 2027.

Có thể lập luận rằng điều đó cũng có vẻ khoa học viễn tưởng như AI 2027.

But however things go in the next few years, there's no doubt the race to build the smartest machines in history is on.

Nhưng dù mọi thứ diễn ra thế nào trong vài năm tới, không còn nghi ngờ gì nữa, cuộc đua chế tạo những cỗ máy thông minh nhất trong lịch sử đã bắt đầu.