Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

But first, let's get philosophical哲学的な by starting with this quote by Voltaire, an 18th century Enlightenment philosopher, who said, "Common sense is not so common."

まず、18 世紀の啓蒙思想家ヴォルテールの「常識はそれほど一般的ではない」という言葉から哲学的な議論を始めましょう。

Turns out this quote couldn't be more relevant to artificial intelligence today.

実はこの言葉は、今日の人工知能にとってこれ以上ないほど関連性が高いことがわかりました。

Despite that, AI is an undeniably否定不能 powerful tool, beating the world-class "Go" champion, acing college admission tests and even passing the bar exam.

それにもかかわらず、AI は間違いなく強力なツールであり、世界クラスの囲碁チャンピオンを破り、大学入試に合格し、司法試験にも合格しています。

I’m a computer scientist of 20 years, and I work on artificial intelligence.

私は 20 年間コンピュータサイエンティストとして働き、人工知能の研究をしています。

I am here to demystify神秘解明 AI.

そこで今日は、AI の神秘を解き明かすお話をします。

So AI today is like a Goliath.

現在の AI は巨人ゴリアテのようなものです。

It is literally very, very large.

文字通り、非常に巨大です。

It is speculated推測する that the recent ones are trained on tens of thousands of GPUs and a trillion words.

最近のモデルは数万台の GPU と 1 兆語のデータで訓練されていると推測されています。

Such extreme-scale AI models, often referred to as "large language models," appear to demonstrate証明 sparks of AGI, artificial general intelligence.

このような超規模の AI モデル、通称「大規模言語モデル」は、汎用人工知能（AGI）の火花を示しているように見えます。

Except when it makes small, silly mistakes, which it often does.

ただし、よくある些細で愚かなミスを犯すときは別ですが。

Many believe that whatever mistakes AI makes today can be easily fixed with brute force, bigger scale and more resources.

多くの人は、現在の AI が犯すどんなミスも、力任せに規模を大きくし、リソースを増やすことで簡単に修正できると信じています。

What possibly could go wrong?

いったい何が間違っているというのでしょうか？

So there are three immediate challenges we face already at the societal level.

すでに社会レベルで直面している課題が三つあります。

First, extreme-scale AI models are so expensive to train, and only a few tech companies can afford to do so.

第一に、超規模の AI モデルは訓練コストが莫大で、それを負担できるのは一部のテック企業だけです。

we already see the concentration集中力 of power.

すでに権力の集中が見えています。

But what's worse for AI safety, we are now at the mercy of those few tech companies because researchers in the larger community do not have the means to truly inspect and

しかし、AI の安全性にとってさらに悪いことに、私たちはこれらの少数のテック企業の手に委ねられています。なぜなら、より広いコミュニティの研究者には、これらのモデルを真に検査・分解する手段がないからです。

dissect分析 these models.

これらのモデルを解剖します。

And let's not forget their massive carbon footprint and the environmental impact.

また、彼らの膨大な炭素排出量と環境への影響についても忘れてはいけません。

And then there are these additional intellectual questions.

そして、これらとは別に知的な問いもあります。

Can AI, without robust丈夫な common sense, be truly safe for humanity?

堅牢な常識なしに、AI は本当に人類にとって安全なのでしょうか？

And is brute-force scale really the only way and even the correct way to teach AI?

また、力任せのスケール拡大こそが、AI を教える唯一かつ正しい方法なのでしょうか？

So I’m often asked these days whether it's even feasible実現可能 to do any meaningful research without extreme-scale compute.

最近は、超規模の計算資源なしで意味のある研究を行うことさえ可能なのかとよく聞かれます。

And I work at a university and nonprofit research institute, so I cannot afford a massive GPU farm to create enormous language models.

私は大学と非営利研究機関で働いているため、巨大な言語モデルを作るための大規模 GPU ファームを維持することはできません。

Nevertheless, I believe that there's so much we need to do and can do to make AI sustainable and humanistic人本的.

それでも、AI を持続可能で人間中心のものにするために、私たちがやるべきこと、そしてできることはたくさんあると信じています。

We need to make AI smaller, to democratize大衆化 it.

AI を小さくして、誰でも使えるようにする必要があります。

And we need to make AI safer by teaching human norms and values.

そして、人間の規範や価値観を教えることで、AI をより安全にする必要があります。

Perhaps we can draw an analogy類推 from "David and Goliath," here, Goliath being the extreme-scale language models, and seek inspiration from an old-time classic, "The Art of War," which tells us, in

ここで「ダビデとゴリアテ」の比喩を引きましょう。ゴリアテは超巨大規模の言語モデルです。そして『孫子』という古典からヒントを得ます。そこにはこうあります。

my interpretation解釈, know your enemy, choose your battles, and innovate your weapons.

私の解釈では、『敵を知り、戦うべき戦いを選び、武器を革新せよ』ということです。

Let's start with the first, know your enemy, which means we need to evaluate AI with scrutiny精査.

まず最初の『敵を知れ』から始めましょう。つまり、AI を厳しく評価する必要があるのです。