Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

But first, let's get philosophical철학적인 by starting with this quote by Voltaire, an 18th century Enlightenment philosopher, who said, "Common sense is not so common."

먼저 18 세기 계몽주의 철학자 볼테르의 '상식은 그렇게 흔하지 않다'는 명언으로 철학적 논의를 시작해 보겠습니다.

Turns out this quote couldn't be more relevant to artificial intelligence today.

실제로 이 말은 오늘날 인공지능에게 그 이상으로 관련성이 높은 것이 밝혀졌습니다.

Despite that, AI is an undeniably부인 불가 powerful tool, beating the world-class "Go" champion, acing college admission tests and even passing the bar exam.

그럼에도 불구하고 AI 는 의심할 여지 없이 강력한 도구로, 세계 수준의 바둑 챔피언을 꺾고 대학 입시 시험을 통과했으며 심지어 변호사 시험도 합격했습니다.

I’m a computer scientist of 20 years, and I work on artificial intelligence.

저는 20 년간 컴퓨터 과학자로 일하며 인공지능을 연구하고 있습니다.

I am here to demystify신비 제거 AI.

그래서 오늘은 인공지능의 신비를 풀어내는 이야기를 드리려고 합니다.

So AI today is like a Goliath.

현재의 인공지능은 거인 골리앗과 같습니다.

It is literally very, very large.

말 그대로 매우, 매우 큽니다.

It is speculated추측하다 that the recent ones are trained on tens of thousands of GPUs and a trillion words.

최근 모델들은 수만 개의 GPU 와 1 조 단위의 단어로 훈련된 것으로 추정됩니다.

Such extreme-scale AI models, often referred to as "large language models," appear to demonstrate증명하다 sparks of AGI, artificial general intelligence.

이러한 초규모 AI 모델, 흔히 '대규모 언어 모델'이라고 불리는 것들은 범용 인공지능 (AGI) 의 불꽃을 보여주는 것처럼 보입니다.

Except when it makes small, silly mistakes, which it often does.

다만 자주 저지르는 사소하고 어리석은 실수를 할 때는 예외입니다.

Many believe that whatever mistakes AI makes today can be easily fixed with brute force, bigger scale and more resources.

많은 사람들은 현재 인공지능이 저지르는 모든 실수가 힘으로 규모를 키우고 자원을 더 투입하면 쉽게 고칠 수 있다고 믿습니다.

What possibly could go wrong?

도대체 무엇이 잘못될 수 있다는 것입니까?

So there are three immediate challenges we face already at the societal level.

이미 사회 수준에서 직면하고 있는 세 가지 과제가 있습니다.

First, extreme-scale AI models are so expensive to train, and only a few tech companies can afford to do so.

첫째, 초규모 AI 모델은 훈련 비용이 막대하여 이를 감당할 수 있는 것은 몇몇 테크 기업뿐입니다.

we already see the concentration집중력 of power.

이미 권력의 집중이 드러나고 있습니다.

But what's worse for AI safety, we are now at the mercy of those few tech companies because researchers in the larger community do not have the means to truly inspect and

하지만 AI 안전성 측면에서 더 나쁜 점은, 우리가 이제 몇 안 되는 테크 기업의 손아귀에 놓여 있다는 것입니다. 왜냐하면 더 넓은 커뮤니티의 연구진에게는 이러한 모델을 실제로 검사하고 해부할 수단이 없기 때문입니다.

dissect분석 these models.

이 모델들을 해부합니다.

And let's not forget their massive carbon footprint and the environmental impact.

또한 그들의 막대한 탄소 발자국과 환경 영향에 대해서도 잊어서는 안 됩니다.

And then there are these additional intellectual questions.

그리고 이와 별개로 지적 질문들도 있습니다.

Can AI, without robust튼튼한 common sense, be truly safe for humanity?

견고한 상식 없이 인공지능이 정말로 인류에게 안전한 것일까요?

And is brute-force scale really the only way and even the correct way to teach AI?

또한 힘에 의존한 규모의 확대가 인공지능을 가르치는 유일한 방법이자 올바른 방법일까요?

So I’m often asked these days whether it's even feasible실행 가능 to do any meaningful research without extreme-scale compute.

요즘에는 초규모 컴퓨팅 자원 없이 의미 있는 연구를 수행하는 것 자체가 가능한지 자주 묻습니다.

And I work at a university and nonprofit research institute, so I cannot afford a massive GPU farm to create enormous language models.

저는 대학과 비영리 연구소에서 일하므로 거대한 언어 모델을 만들기 위한 대규모 GPU 팜을 유지할 형편이 아닙니다.

Nevertheless, I believe that there's so much we need to do and can do to make AI sustainable and humanistic인본주의.

그럼에도 불구하고 인공지능을 지속 가능하고 인간 중심적으로 만들기 위해 우리가 해야 할 일과 할 수 있는 일이 많다고 믿습니다.

We need to make AI smaller, to democratize대중화 it.

AI 를 더 작게 만들어 누구나 사용할 수 있게 해야 합니다.

And we need to make AI safer by teaching human norms and values.

그리고 인간의 규범과 가치를 가르쳐 AI 를 더 안전하게 만들어야 합니다.

Perhaps we can draw an analogy유추 from "David and Goliath," here, Goliath being the extreme-scale language models, and seek inspiration from an old-time classic, "The Art of War," which tells us, in

여기서 '다비드와 골리앗'의 비유를 들어보겠습니다. 골리앗은 초대규모 언어 모델을 의미하죠. 그리고 고전인 '손자병법'에서 영감을 얻어볼까요. 거기에는 이렇게 적혀 있습니다.

my interpretation해석, know your enemy, choose your battles, and innovate your weapons.

제 해석으로는 '적을 알고, 싸워야 할 전투를 선택하며, 무기를 혁신하라'는 뜻입니다.

Let's start with the first, know your enemy, which means we need to evaluate AI with scrutiny엄밀한 조사.

먼저 첫 번째인 '적을 알라'부터 시작하겠습니다. 즉, AI 를 엄격하게 평가해야 한다는 뜻입니다.