Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

But first, let's get philosophicalrelacionado con la filosofía by starting with this quote by Voltaire, an 18th century Enlightenment philosopher, who said, "Common sense is not so common."

Pero primero, hagamos algo filosófico comenzando con esta cita de Voltaire, un filósofo de la Ilustración del siglo XVIII, quien dijo: 'El sentido común no es tan común'.

Turns out this quote couldn't be more relevant to artificial intelligence today.

Resulta que esta cita no podría ser más relevante para la inteligencia artificial hoy.

Despite that, AI is an undeniablyIndudable powerful tool, beating the world-class "Go" champion, acing college admission tests and even passing the bar exam.

A pesar de eso, la IA es una herramienta indudablemente poderosa: ha derrotado al campeón mundial de 'Go', ha aprobado exámenes de admisión universitaria e incluso ha superado el examen de la barra.

I’m a computer scientist of 20 years, and I work on artificial intelligence.

Soy científica informática con 20 años de experiencia y trabajo en inteligencia artificial.

I am here to demystifyDesmitificar AI.

Estoy aquí para desmitificar la IA.

So AI today is like a Goliath.

Así que hoy la IA es como un Goliat.

It is literally very, very large.

Es literalmente muy, muy grande.

It is speculatedformar una opinión sobre algo sin conocer todos los detalles o hechos that the recent ones are trained on tens of thousands of GPUs and a trillion words.

Se especula que los modelos recientes se entrenan con decenas de miles de GPUs y un billón de palabras.

Such extreme-scale AI models, often referred to as "large language models," appear to demonstratemostrar algo claramente dando pruebas o evidencia sparks of AGI, artificial general intelligence.

Estos modelos de IA a escala extrema, a menudo denominados 'modelos de lenguaje grandes', parecen mostrar destellos de AGI, inteligencia artificial general.

Except when it makes small, silly mistakes, which it often does.

Excepto cuando comete pequeños errores tontos, lo cual sucede con frecuencia.

Many believe that whatever mistakes AI makes today can be easily fixed with brute force, bigger scale and more resources.

Muchos creen que cualquier error que cometa la IA hoy se puede corregir fácilmente con fuerza bruta, mayor escala y más recursos.

What possibly could go wrong?

¿Qué podría salir mal?

So there are three immediate challenges we face already at the societal level.

Por lo tanto, ya enfrentamos tres desafíos inmediatos a nivel social.

First, extreme-scale AI models are so expensive to train, and only a few tech companies can afford to do so.

Primero, los modelos de IA a escala extrema son tan costosos de entrenar que solo unas pocas empresas tecnológicas pueden permitirse hacerlo.

we already see the concentrationla capacidad de dirigir todo tu esfuerzo y atención a una cosa of power.

Ya vemos la concentración de poder.

But what's worse for AI safety, we are now at the mercy of those few tech companies because researchers in the larger community do not have the means to truly inspect and

Pero lo peor para la seguridad de la IA es que ahora estamos a merced de esas pocas empresas tecnológicas, porque los investigadores de la comunidad más amplia no tienen los medios para inspeccionar y

dissectDisectar these models.

diseccionar estos modelos.

And let's not forget their massive carbon footprint and the environmental impact.

Y no olvidemos su enorme huella de carbono y su impacto ambiental.

And then there are these additional intellectual questions.

Luego están estas preguntas intelectuales adicionales.

Can AI, without robustfuerte y saludable common sense, be truly safe for humanity?

¿Puede la IA, sin un sentido común sólido, ser verdaderamente segura para la humanidad?

And is brute-force scale really the only way and even the correct way to teach AI?

¿Y es la escala por fuerza bruta realmente la única manera e incluso la correcta de enseñar a la IA?

So I’m often asked these days whether it's even feasibleFactible to do any meaningful research without extreme-scale compute.

Así que últimamente me preguntan si siquiera es factible realizar alguna investigación significativa sin computación a escala extrema.

And I work at a university and nonprofit research institute, so I cannot afford a massive GPU farm to create enormous language models.

Trabajo en una universidad y en un instituto de investigación sin fines de lucro, por lo que no puedo permitirme una granja masiva de GPUs para crear modelos de lenguaje enormes.

Nevertheless, I believe that there's so much we need to do and can do to make AI sustainable and humanisticHumanístico.

Sin embargo, creo que hay mucho que necesitamos hacer y podemos hacer para hacer que la IA sea sostenible y humanista.

We need to make AI smaller, to democratizeDemocratizar it.

Necesitamos hacer la IA más pequeña, para democratizarla.

And we need to make AI safer by teaching human norms and values.

Y necesitamos hacer la IA más segura enseñando normas y valores humanos.

Perhaps we can draw an analogyuna comparación de una cosa con otra que tiene características similares from "David and Goliath," here, Goliath being the extreme-scale language models, and seek inspiration from an old-time classic, "The Art of War," which tells us, in

Quizás podamos sacar una analogía de 'David y Goliat', donde Goliat son los modelos de lenguaje a escala extrema, y buscar inspiración en un clásico antiguo, 'El Arte de la Guerra', que nos dice,

my interpretationla forma particular en que se entiende o explica algo, know your enemy, choose your battles, and innovate your weapons.

en mi interpretación, conoce a tu enemigo, elige tus batallas e innova tus armas.

Let's start with the first, know your enemy, which means we need to evaluate AI with scrutinyexamen cuidadoso y completo.

Comencemos con lo primero: conoce a tu enemigo, lo que significa que debemos evaluar la IA con escrutinio.