Name: Trí tuệ nhân tạo (AI) là nguy hiểm, nhưng không phải vì những lý do bạn nghĩ | Sasha Luccioni | TED (AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED)
Uploaded: 2025-09-17T14:37:28.000Z
Duration: 10 min 19 s
Description: Thousands of YouTube videos with English-Chinese subtitles! Now you can learn to understand native speakers, expand your vocabulary, and improve your pronunciation...

I've been an AI researcher for over a decade, and a couple of months ago, I got the weirdest email of my career.

Tôi đã làm nghiên cứu viên về trí tuệ nhân tạo (AI) hơn một thập kỷ, và cách đây vài tháng, tôi nhận được email kỳ lạ nhất trong sự nghiệp của mình.

A random stranger wrote to me saying that my work in AI is going to end humanity.

Một người lạ mặt đã gửi email cho tôi, nói rằng công việc của tôi trong lĩnh vực Trí tuệ Nhân tạo (AI) sẽ dẫn đến sự diệt vong của nhân loại.

Now, I get it, AI, it's so hot right now.

Bây giờ tôi hiểu rồi, AI, nó đang rất hot hiện nay.

It's in the headlines pretty much every day, sometimes because of really cool things like discovering new molecules for medicine, or that dope Pope in the white puffer coat.

Nó xuất hiện trên các tiêu đề tin tức gần như hàng ngày, đôi khi vì những điều thật sự thú vị như phát hiện ra các phân tử mới cho y học, hoặc vị Giáo hoàng tuyệt vời trong chiếc áo khoác phao trắng.

But other times, the headlines have been really dark, like that chatbot telling that guy that he should divorce his wife, or that AI meal planner app proposing a crowd-pleasing recipe featuring chlorine gas.

Nhưng có những lúc, các tiêu đề tin tức lại rất u ám, như trường hợp chatbot khuyên một người đàn ông nên ly hôn với vợ mình, hay ứng dụng lập kế hoạch bữa ăn bằng trí tuệ nhân tạo đề xuất một công thức nấu ăn được nhiều người ưa chuộng nhưng lại chứa khí

And in the background, we've heard a lot of talk about doomsday scenarios, existential risk, and the singularity with letters being written and events being organized to make sure that doesn't happen.

Và trong bối cảnh đó, chúng ta đã nghe rất nhiều về các kịch bản ngày tận thế, rủi ro tồn vong và điểm đặc biệt, với các lá thư được viết và các sự kiện được tổ chức để đảm bảo điều đó không xảy ra.

Now, I'm a researcher who studies AI's impact on society.

Hiện tại, tôi là một nhà nghiên cứu chuyên nghiên cứu về tác động của trí tuệ nhân tạo (AI) đối với xã hội.

And I don't know what's going to happen in 10 or 20 years, and nobody really does.

Và tôi không biết điều gì sẽ xảy ra trong 10 hoặc 20 năm nữa, và không ai thực sự biết.

But what I do know is that there's some pretty nasty things going on right now.

Nhưng điều tôi biết chắc là hiện tại đang có những chuyện rất tồi tệ đang diễn ra.

Bởi vì trí tuệ nhân tạo (AI) không tồn tại trong một môi trường cách ly.

It is part of society, and it has impacts on people and the planet.

Nó là một phần của xã hội và có tác động đến con người và hành tinh.

AI models can contribute to climate change.

Các mô hình trí tuệ nhân tạo (AI) có thể góp phần vào biến đổi khí hậu.

Their training data uses art and books created by artists and authors without their consent.

Dữ liệu đào tạo của họ sử dụng tác phẩm nghệ thuật và sách do các nghệ sĩ và tác giả tạo ra mà không có sự đồng ý của họ.

And its deployment can discriminate against entire communities.

Và việc triển khai nó có thể phân biệt đối xử với cả cộng đồng.

But we need to start tracking its impacts.

Nhưng chúng ta cần bắt đầu theo dõi tác động của nó.

We need to start being transparent and disclosing them, and creating tools so that people understand AI better.

Chúng ta cần bắt đầu minh bạch và công khai thông tin, đồng thời phát triển các công cụ để giúp mọi người hiểu rõ hơn về trí tuệ nhân tạo (AI).

So that hopefully, future generations of AI model are going to be more trustworthy, sustainable, maybe less likely to kill us, if that's what you're into.

Hy vọng rằng, các thế hệ mô hình AI trong tương lai sẽ đáng tin cậy hơn, bền vững hơn, và có thể ít có khả năng tiêu diệt chúng ta hơn, nếu đó là điều bạn quan tâm.

Vậy, chúng ta hãy bắt đầu với vấn đề bền vững.

Because that cloud that AI models live on is actually made out of metal, plastic, and powered by vast amounts of energy.

Bởi vì đám mây mà các mô hình AI tồn tại thực chất được làm từ kim loại, nhựa và được cung cấp năng lượng bởi một lượng lớn năng lượng.

And each time you query an AI model, it comes with a cost to the planet.

Và mỗi lần bạn truy vấn một mô hình AI, điều đó đều gây ra tác động tiêu cực đến hành tinh.

Last year, I was part of the Big Science Initiative, which brought together 1,000 researchers from all over the world to create Bloom, the first open large language model, like JATJBT, but with an emphasis on ethics, transparency, and consent.

Năm ngoái, tôi đã tham gia vào Chương trình Khoa học Lớn, một dự án quy tụ 1.000 nhà nghiên cứu từ khắp nơi trên thế giới để phát triển Bloom, mô hình ngôn ngữ lớn mở đầu tiên, tương tự như JATJBT, nhưng với sự chú trọng đặc biệt vào đạo đức, minh bạch và

And the study I led that looked at Bloom's environmental impacts found that just training it used as much energy as 30 homes in a whole year, and emitted 25 tons of carbon dioxide, which is like driving your car five times around the planet, just so somebody can use this model to tell a knock-knock joke.

Và nghiên cứu mà tôi đứng đầu về tác động môi trường của Bloom đã chỉ ra rằng chỉ riêng việc đào tạo hệ thống này đã tiêu tốn lượng năng lượng tương đương với 30 hộ gia đình trong cả một năm, và thải ra 25 tấn khí carbon dioxide, tương đương với việc lái 

And this might not seem like a lot, but other similar large language models, like GPT-3, emit 20 times more carbon.

Và điều này có thể không nghe có vẻ nhiều, nhưng các mô hình ngôn ngữ lớn tương tự khác, như GPT-3, thải ra lượng carbon gấp 20 lần.

But the thing is, tech companies aren't measuring this stuff.

Nhưng vấn đề là, các công ty công nghệ không đo lường những thứ này.

And so this is probably only the tip of the iceberg, even if it is a melting one.

Và có lẽ đây chỉ là phần nổi của tảng băng trôi, ngay cả khi nó đang tan chảy.

And in recent years, we've seen AI models balloon in size.

Và trong những năm gần đây, chúng ta đã chứng kiến sự gia tăng đáng kể về quy mô của các mô hình AI.

Because the current trend in AI is, bigger is better.

Vì xu hướng hiện nay trong lĩnh vực Trí tuệ Nhân tạo (AI) là "càng lớn càng tốt".

But please don't get me started on why that's the case.

Nhưng xin đừng bắt đầu nói về lý do tại sao lại như vậy.

In any case, we've seen large language models in particular grow 2,000 times in size over the last five years.

Dù sao đi nữa, chúng ta đã chứng kiến các mô hình ngôn ngữ lớn đặc biệt tăng gấp 2.000 lần về quy mô trong vòng năm năm qua.

And of course, their environmental costs are rising as well.

Và tất nhiên, chi phí môi trường của họ cũng đang tăng lên.

The most recent work I led found that switching out a smaller, more efficient model for a larger language model emits 14 times more carbon for the same task, like telling that knock-knock joke.

Công trình nghiên cứu gần đây nhất mà tôi dẫn dắt đã chỉ ra rằng việc thay thế một mô hình ngôn ngữ nhỏ hơn, hiệu quả hơn bằng một mô hình ngôn ngữ lớn hơn sẽ phát thải carbon gấp 14 lần cho cùng một tác vụ, chẳng hạn như kể một câu đố "knock-knock".

And as we're putting in these models into cell phones and search engines and smart fridges and speakers, the environmental costs are really piling up quickly.

Và khi chúng ta tích hợp các mô hình này vào điện thoại di động, công cụ tìm kiếm, tủ lạnh thông minh và loa thông minh, chi phí môi trường đang tăng lên một cách nhanh chóng.

So instead of focusing on some future existential risks, let's talk about current tangible impacts and tools we can create to measure and mitigate these impacts.

Thay vì tập trung vào những rủi ro tồn vong trong tương lai, hãy cùng thảo luận về những tác động cụ thể hiện tại và các công cụ chúng ta có thể phát triển để đo lường và giảm thiểu những tác động này.

I helped create CodeCarbon, a tool that runs in parallel to AI training code that estimates the amount of energy it consumes and the amount of carbon it emits.

Tôi đã tham gia phát triển CodeCarbon, một công cụ chạy song song với mã đào tạo AI để ước tính lượng năng lượng mà nó tiêu thụ và lượng carbon mà nó thải ra.

And using a tool like this can help us make informed choices, like choosing one model over the other because it's more sustainable, or deploying AI models on renewable energy, which can drastically reduce their emissions.

Và việc sử dụng một công cụ như thế này có thể giúp chúng ta đưa ra những quyết định có căn cứ, chẳng hạn như lựa chọn một mô hình thay vì mô hình khác vì nó bền vững hơn, hoặc triển khai các mô hình AI trên năng lượng tái tạo, điều này có thể giảm đáng k

But let's talk about other things, because there's other impacts of AI apart from sustainability.

Nhưng hãy nói về những vấn đề khác, vì trí tuệ nhân tạo (AI) còn có những tác động khác ngoài vấn đề bền vững.

For example, it's been really hard for artists and authors to prove that their life's work has been used for training AI models without their consent.

Ví dụ, việc chứng minh rằng tác phẩm cả đời của mình đã bị sử dụng để đào tạo mô hình AI mà không có sự đồng ý của họ thực sự rất khó khăn đối với các nghệ sĩ và tác giả.

And if you want to sue someone, you tend to need proof, right?

Và nếu bạn muốn khởi kiện ai đó, bạn thường cần có bằng chứng, đúng không?

So Spawning AI, an organization that was founded by artists, created this really cool tool called Have I Been Trained?

Vậy, Spawning AI, một tổ chức được thành lập bởi các nghệ sĩ, đã tạo ra một công cụ rất hay có tên là "Have I Been Trained?"

And it lets you search these massive data sets to see what they have on you.

Và nó cho phép bạn tìm kiếm trong các tập dữ liệu khổng lồ này để xem họ có gì về bạn.

Bây giờ tôi thừa nhận, tôi tò mò.

I searched Lion 5B, which is this huge data set of images and text, to see if any images of me were in there.

Tôi đã tìm kiếm trong Lion 5B, một bộ dữ liệu khổng lồ chứa hình ảnh và văn bản, để xem liệu có hình ảnh nào của tôi trong đó không.

Now those two first images, that's me from events I've spoken at.

Hai hình ảnh đầu tiên đó là tôi tại các sự kiện mà tôi đã tham gia phát biểu.

But the rest of the images, none of those are me.

Nhưng những hình ảnh còn lại, không có cái nào là của tôi.

They're probably of other women named Sasha who put photographs of themselves up on the internet.

Chúng có thể là của những phụ nữ khác tên Sasha đã đăng ảnh của mình lên internet.

And this can probably explain why when I query an image generation model to generate a photograph of a woman named Sasha, more often than not I get images of bikini models.

Và điều này có thể giải thích tại sao khi tôi yêu cầu mô hình sinh ảnh tạo ra một bức ảnh của một phụ nữ tên Sasha, hầu hết các kết quả nhận được đều là hình ảnh của các người mẫu bikini.

Sometimes they have two arms, sometimes they have three arms, but they rarely have any clothes on.

Đôi khi chúng có hai cánh tay, đôi khi có ba cánh tay, nhưng hiếm khi chúng mặc quần áo.

And why it can be interesting for people like you and me to search these data sets.

Và tại sao việc tìm kiếm các bộ dữ liệu này có thể thú vị đối với những người như bạn và tôi.

For artists like Carla Ortiz, this provides crucial evidence that her life's work, her And she and two artists used this as evidence to file a class action lawsuit against AI companies for copyright infringement.

Đối với các nghệ sĩ như Carla Ortiz, điều này cung cấp bằng chứng quan trọng cho thấy tác phẩm cả đời của cô, và cô cùng hai nghệ sĩ khác đã sử dụng bằng chứng này để nộp đơn kiện tập thể chống lại các công ty trí tuệ nhân tạo (AI) về vi phạm bản quyền.

And most recently Spawning AI partnered up with Hugging Face, the company where I work at, to create opt-in and opt-out mechanisms for creating these data sets.

Và gần đây nhất, Spawning AI đã hợp tác với Hugging Face, công ty nơi tôi đang làm việc, để tạo ra các cơ chế cho phép người dùng tự nguyện tham gia hoặc từ chối tham gia vào việc tạo ra các bộ dữ liệu này.

Because artwork created by humans shouldn't be an all-you-can-eat buffet for training AI language models.

Vì tác phẩm nghệ thuật do con người tạo ra không nên trở thành một bữa tiệc buffet tự chọn cho việc đào tạo các mô hình ngôn ngữ AI.

The very last thing I want to talk about is bias.

Điều cuối cùng mà tôi muốn đề cập đến là sự thiên vị.

Bạn có thể đã nghe nói về điều này rất nhiều.

Formally speaking, it's when AI models encode patterns and beliefs that can represent stereotypes or racism and sexism.

Theo nghĩa đen, đó là khi các mô hình trí tuệ nhân tạo (AI) mã hóa các mẫu và quan niệm có thể thể hiện định kiến hoặc phân biệt chủng tộc và giới tính.

One of my heroes, Dr. Joy Bolognini, experienced this firsthand when she realized that AI systems wouldn't even detect her face unless she was wearing a white-colored mask.

Một trong những người hùng của tôi, Tiến sĩ Joy Bolognini, đã trải qua điều này một cách trực tiếp khi cô nhận ra rằng các hệ thống trí tuệ nhân tạo (AI) thậm chí không thể nhận diện khuôn mặt của cô trừ khi cô đeo một chiếc khẩu trang màu trắng.

Digging deeper, she found that common facial recognition systems were vastly worse for women of color compared to white men.

Khi đào sâu hơn, cô phát hiện ra rằng các hệ thống nhận diện khuôn mặt thông thường hoạt động kém hiệu quả hơn nhiều đối với phụ nữ da màu so với nam giới da trắng.

And when models like this, biased models like this, are deployed in law enforcement settings, this can result in false accusations, even wrongful imprisonment, which we've seen happen to multiple people in recent months.

Và khi các mô hình như thế này, các mô hình có thiên vị như thế này, được triển khai trong các cơ quan thực thi pháp luật, điều này có thể dẫn đến những cáo buộc sai trái, thậm chí là việc giam giữ oan sai, điều mà chúng ta đã chứng kiến xảy ra với nhiều 

For example, Portia Woodruff was wrongfully accused of carjacking at eight months pregnant because an AI system wrongfully identified her.

Ví dụ, Portia Woodruff đã bị buộc tội sai trái về việc cướp xe ô tô khi đang mang thai 8 tháng vì một hệ thống trí tuệ nhân tạo (AI) đã nhận diện sai cô.

But sadly, these systems are black boxes, and even their creators can't say exactly why they work the way they do.

Nhưng đáng tiếc, những hệ thống này là những "hộp đen", và ngay cả những người tạo ra chúng cũng không thể giải thích chính xác tại sao chúng hoạt động theo cách đó.

And for example, for image generation systems, if you're used in contexts like generating a forensic sketch based on a description of a perpetrator, they take all those biases and they spit them back out for terms like dangerous criminal, terrorist or gang member, which of course is super dangerous when these tools are deployed in society.

Ví dụ, đối với các hệ thống tạo hình ảnh, nếu được sử dụng trong các bối cảnh như tạo bản phác thảo pháp y dựa trên mô tả về đối tượng phạm tội, chúng sẽ lấy tất cả các thành kiến đó và tái hiện chúng dưới các thuật ngữ như "tội phạm nguy hiểm", "khủng bố

And so in order to understand these tools better, I created this tool called the Stable Bias Explorer, which lets you explore the bias of image generation models through the lens of professions.

Và để hiểu rõ hơn về các công cụ này, tôi đã tạo ra một công cụ có tên là Stable Bias Explorer, cho phép bạn khám phá sự thiên vị của các mô hình sinh ảnh thông qua góc nhìn của các ngành nghề.

So try to picture a scientist in your mind.

Hãy thử hình dung một nhà khoa học trong đầu bạn.

Nhiều thứ giống nhau, phải không?

Men in glasses and lab coats, and none of them look like me.

Những người đàn ông đeo kính và mặc áo blouse trắng, và không ai trong số họ trông giống tôi.

And the thing is, is that we looked at all these different image generation models and found a lot of the same thing.

Và vấn đề là, chúng tôi đã xem xét tất cả các mô hình tạo hình ảnh khác nhau và phát hiện ra rất nhiều điểm tương đồng.

Significant representation of whiteness and masculinity across all 150 professions that we looked at.

Sự hiện diện đáng kể của yếu tố da trắng và nam tính trong tất cả 150 ngành nghề mà chúng tôi đã nghiên cứu.

Even if compared to the real world, the US Labor Bureau of Statistics, these models show lawyers as men and CEOs as men almost 100% of the time, even though we all know not all of them are white and male.

Ngay cả khi so sánh với thực tế, theo Cục Thống kê Lao động Hoa Kỳ, các mô hình này vẫn miêu tả luật sư và CEO là nam giới gần như 100% thời gian, mặc dù chúng ta đều biết rằng không phải tất cả họ đều là người da trắng và nam giới.

And sadly, my tool hasn't been used to write legislation yet.

Và đáng tiếc, công cụ của tôi vẫn chưa được sử dụng để soạn thảo luật.

But I recently presented it at a UN event about gender bias as an example of how we can make tools for people from all walks of life, even those who don't know how to code, to engage with and better understand AI, because we use professions, but you can use any terms that are of interest to you.

Nhưng gần đây, tôi đã trình bày nó tại một sự kiện của Liên Hợp Quốc về thiên vị giới tính như một ví dụ về cách chúng ta có thể tạo ra các công cụ cho mọi người từ mọi tầng lớp xã hội, ngay cả những người không biết lập trình, để tương tác và hiểu rõ hơn

And as these models are being deployed, are being woven into the very fabric of our societies, our cell phones, our social media feeds, even our justice systems and our economies have AI in them.

Và khi các mô hình này được triển khai, được tích hợp sâu vào cấu trúc xã hội của chúng ta, từ điện thoại di động, các nền tảng mạng xã hội, cho đến hệ thống tư pháp và nền kinh tế của chúng ta, tất cả đều có sự hiện diện của trí tuệ nhân tạo (AI).

And it's really important that AI stays accessible so that we know both how it works and when it doesn't work.

Và điều quan trọng là trí tuệ nhân tạo (AI) phải luôn dễ tiếp cận để chúng ta có thể hiểu rõ cả cách nó hoạt động và những trường hợp nó không hoạt động.

And there's no single solution for really complex things like bias or copyright or climate change.

Và không có giải pháp duy nhất nào cho những vấn đề phức tạp như thiên vị, bản quyền hay biến đổi khí hậu.

But by creating tools to measure AI's impact, we can start getting an idea of how bad they are and start addressing them as we go.

Nhưng bằng cách tạo ra các công cụ để đo lường tác động của trí tuệ nhân tạo (AI), chúng ta có thể bắt đầu đánh giá mức độ nghiêm trọng của chúng và bắt đầu giải quyết chúng trong quá trình phát triển.

Start creating guardrails to protect society and the planet.

Bắt đầu xây dựng các rào cản bảo vệ xã hội và hành tinh.

And once we have this information, companies can use it in order to say, OK, we're going to choose this model because it's more sustainable, this model because it respects copyright.

Và một khi chúng ta có thông tin này, các công ty có thể sử dụng nó để quyết định, ví dụ như: "Chúng ta sẽ chọn mô hình này vì nó bền vững hơn, mô hình kia vì nó tôn trọng bản quyền."

Legislators who really need information to write laws can use these tools to develop new regulation mechanisms or governance for AI as it gets deployed into society.

Các nhà lập pháp thực sự cần thông tin để soạn thảo luật có thể sử dụng các công cụ này để phát triển các cơ chế quy định mới hoặc hệ thống quản trị cho trí tuệ nhân tạo (AI) khi nó được triển khai vào xã hội.

And users like you and me can use this information to choose AI models that we can trust not to misrepresent us and not to misuse our data.

Và người dùng như bạn và tôi có thể sử dụng thông tin này để lựa chọn các mô hình AI mà chúng ta có thể tin tưởng sẽ không xuyên tạc thông tin của chúng ta và không lạm dụng dữ liệu của chúng ta.

But what did I reply to that email that said that my work is going to destroy humanity?

Nhưng tôi đã trả lời email đó như thế nào, trong đó nói rằng công việc của tôi sẽ hủy diệt nhân loại?

I said that focusing on AI's future existential risks is a distraction from its current very tangible impacts and the work we should be doing right now or even yesterday for reducing these impacts.

Tôi đã nói rằng việc tập trung vào những rủi ro tồn vong tiềm tàng của trí tuệ nhân tạo (AI) trong tương lai là một sự phân tâm khỏi những tác động thực tế hiện tại của nó và công việc mà chúng ta nên làm ngay bây giờ, thậm chí là từ hôm qua, để giảm thiể

Because, yes, AI is moving quickly, but it's not a done deal.

Bởi vì, đúng vậy, trí tuệ nhân tạo (AI) đang phát triển nhanh chóng, nhưng điều đó không có nghĩa là mọi thứ đã được quyết định.

We're building the road as we walk it, and we can collectively decide what direction we want to go in together.

Chúng ta đang xây dựng con đường trong quá trình đi trên nó, và chúng ta có thể cùng nhau quyết định hướng đi mà chúng ta muốn theo đuổi.

Trí tuệ nhân tạo (AI) là nguy hiểm, nhưng không phải vì những lý do bạn nghĩ | Sasha Luccioni | TED (AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED)

Subtitles ListPlay Video

Trí tuệ nhân tạo (AI) là nguy hiểm, nhưng không phải vì những lý do bạn nghĩ | Sasha Luccioni | TED (AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED)

evidence

initiative

impact

sustainable