Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

But first, let's get philosophicalphilosophique by starting with this quote by Voltaire, an 18th century Enlightenment philosopher, who said, "Common sense is not so common."

Mais d'abord, entrons dans le domaine philosophique en commençant par cette citation de Voltaire, un philosophe des Lumières du XVIIIe siècle, qui a dit : « Le bon sens n'est pas si commun. »

Turns out this quote couldn't be more relevant to artificial intelligence today.

Il s'avère que cette citation ne pourrait pas être plus pertinente pour l'intelligence artificielle aujourd'hui.

Despite that, AI is an undeniablyD'une manière qui ne peut être niée ou contestée. powerful tool, beating the world-class "Go" champion, acing college admission tests and even passing the bar exam.

Malgré cela, l'IA est un outil indéniablement puissant, battant le champion mondial de « Go », réussissant les tests d'admission à l'université et même obtenant la qualification au barreau.

I’m a computer scientist of 20 years, and I work on artificial intelligence.

Je suis informaticien depuis 20 ans et je travaille sur l'intelligence artificielle.

I am here to demystifyRendre quelque chose plus facile à comprendre en éliminant le mystère ou la confusion qui l'entoure. AI.

Je suis ici pour démystifier l'IA.

So AI today is like a Goliath.

Aujourd'hui, l'IA ressemble à un Goliath.

It is literally very, very large.

Elle est littéralement très, très grande.

It is speculatedse former une opinion sur quelque chose sans connaître tous les détails ou faits that the recent ones are trained on tens of thousands of GPUs and a trillion words.

On suppose que les modèles récents sont entraînés sur des dizaines de milliers de GPU et un trillion de mots.

Such extreme-scale AI models, often referred to as "large language models," appear to demonstratemontrer clairement quelque chose en donnant des preuves ou des éléments de preuve sparks of AGI, artificial general intelligence.

Ces modèles d'IA à échelle extrême, souvent appelés « grands modèles de langage », semblent montrer des étincelles d'AGI, l'intelligence artificielle générale.

Except when it makes small, silly mistakes, which it often does.

Sauf lorsqu'elle commet de petites erreurs stupides, ce qu'elle fait souvent.

Many believe that whatever mistakes AI makes today can be easily fixed with brute force, bigger scale and more resources.

Beaucoup pensent que toutes les erreurs commises par l'IA aujourd'hui peuvent être facilement corrigées par la force brute, une plus grande échelle et plus de ressources.

What possibly could go wrong?

Que pourrait-il bien mal tourner ?

So there are three immediate challenges we face already at the societal level.

Il y a donc trois défis immédiats auxquels nous sommes déjà confrontés au niveau sociétal.

First, extreme-scale AI models are so expensive to train, and only a few tech companies can afford to do so.

Premièrement, les modèles d'IA à échelle extrême sont si coûteux à entraîner que seule une poignée de entreprises technologiques peut se le permettre.

we already see the concentrationla capacité de diriger tout son effort et son attention sur une seule chose of power.

Nous voyons déjà une concentration du pouvoir.

But what's worse for AI safety, we are now at the mercy of those few tech companies because researchers in the larger community do not have the means to truly inspect and

Mais ce qui est pire pour la sécurité de l'IA, c'est que nous sommes maintenant à la merci de ces quelques entreprises technologiques, car les chercheurs de la communauté plus large n'ont pas les moyens d'inspecter véritablement et

dissectExaminer quelque chose en détail these models.

de disséquer ces modèles.

And let's not forget their massive carbon footprint and the environmental impact.

Et n'oublions pas leur empreinte carbone massive et leur impact environnemental.

And then there are these additional intellectual questions.

Ensuite, il y a ces questions intellectuelles supplémentaires.

Can AI, without robustfort et en bonne santé common sense, be truly safe for humanity?

L'IA, sans bon sens robuste, peut-elle être vraiment sûre pour l'humanité ?

And is brute-force scale really the only way and even the correct way to teach AI?

Et la mise à l'échelle par la force brute est-elle vraiment la seule façon, voire la bonne façon, d'enseigner à l'IA ?

So I’m often asked these days whether it's even feasiblePossible à faire facilement ou commodément. to do any meaningful research without extreme-scale compute.

On me demande souvent ces jours-ci s'il est même faisable de mener toute recherche significative sans calcul à échelle extrême.

And I work at a university and nonprofit research institute, so I cannot afford a massive GPU farm to create enormous language models.

Je travaille dans une université et un institut de recherche à but non lucratif, je ne peux donc pas me payer une immense ferme de GPU pour créer d'énormes modèles de langage.

Nevertheless, I believe that there's so much we need to do and can do to make AI sustainable and humanisticSe concentrer sur les valeurs et les préoccupations humaines plutôt que sur les aspects techniques ou scientifiques..

Néanmoins, je crois qu'il y a tant de choses que nous devons faire et pouvons faire pour rendre l'IA durable et humaniste.

We need to make AI smaller, to democratizeRendre quelque chose accessible à tous it.

Nous devons rendre l'IA plus petite, pour la démocratiser.

And we need to make AI safer by teaching human norms and values.

Et nous devons rendre l'IA plus sûre en lui enseignant les normes et valeurs humaines.

Perhaps we can draw an analogyune comparaison d'une chose avec une autre ayant des caractéristiques similaires from "David and Goliath," here, Goliath being the extreme-scale language models, and seek inspiration from an old-time classic, "The Art of War," which tells us, in

Peut-être pouvons-nous tirer une analogie de « David et Goliath », ici Goliath étant les modèles de langage à échelle extrême, et chercher de l'inspiration dans un classique ancien, « L'Art de la Guerre », qui nous dit,

my interpretationla manière particulière dont quelque chose est compris ou expliqué, know your enemy, choose your battles, and innovate your weapons.

selon mon interprétation, connaissez votre ennemi, choisissez vos batailles et innovez vos armes.

Let's start with the first, know your enemy, which means we need to evaluate AI with scrutinyexamen attentif et complet.

Commençons par le premier : connaissez votre ennemi, ce qui signifie que nous devons évaluer l'IA avec scrutiny.