Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

But first, let's get philosophicalrelativo alla filosofia by starting with this quote by Voltaire, an 18th century Enlightenment philosopher, who said, "Common sense is not so common."

Ma prima, facciamo due chiacchiere filosofiche iniziando con questa citazione di Voltaire, un filosofo dell'Illuminismo del XVIII secolo, che disse: 'Il buon senso non è così comune'.

Turns out this quote couldn't be more relevant to artificial intelligence today.

Si scopre che questa citazione non potrebbe essere più attuale per l'intelligenza artificiale oggi.

Despite that, AI is an undeniablyIn modo che non possa essere negato o contestato. powerful tool, beating the world-class "Go" champion, acing college admission tests and even passing the bar exam.

Nonostante ciò, l'IA è uno strumento indubbiamente potente: ha battuto il campione mondiale di Go, superato i test di ammissione universitaria e persino l'esame di abilitazione alla professione forense.

I’m a computer scientist of 20 years, and I work on artificial intelligence.

Sono un informatico con 20 anni di esperienza e lavoro sull'intelligenza artificiale.

I am here to demystifyRendere qualcosa più facile da capire rimuovendo il mistero o la confusione che lo circonda. AI.

Sono qui per demistificare l'IA.

So AI today is like a Goliath.

Quindi oggi l'IA è come un Golia.

It is literally very, very large.

È letteralmente molto, molto grande.

It is speculatedformare un'opinione su qualcosa senza conoscere tutti i dettagli o i fatti that the recent ones are trained on tens of thousands of GPUs and a trillion words.

Si ipotizza che i modelli recenti siano addestrati su decine di migliaia di GPU e un trilione di parole.

Such extreme-scale AI models, often referred to as "large language models," appear to demonstratemostrare chiaramente qualcosa fornendo prove o evidenze sparks of AGI, artificial general intelligence.

Tali modelli di IA su scala estrema, spesso chiamati "modelli linguistici di grandi dimensioni", sembrano mostrare scintille di AGI, intelligenza artificiale generale.

Except when it makes small, silly mistakes, which it often does.

Tranne quando commette piccoli errori sciocchi, cosa che fa spesso.

Many believe that whatever mistakes AI makes today can be easily fixed with brute force, bigger scale and more resources.

Molti credono che qualsiasi errore commesso oggi dall'IA possa essere facilmente corretto con la forza bruta, una scala maggiore e più risorse.

What possibly could go wrong?

Cosa potrebbe mai andare storto?

So there are three immediate challenges we face already at the societal level.

Ci sono quindi tre sfide immediate che affrontiamo già a livello sociale.

First, extreme-scale AI models are so expensive to train, and only a few tech companies can afford to do so.

In primo luogo, i modelli di IA su scala estrema sono così costosi da addestrare che solo poche aziende tecnologiche possono permetterselo.

we already see the concentrationla capacità di dirigere tutto il proprio sforzo e attenzione su una cosa of power.

Vediamo già una concentrazione di potere.

But what's worse for AI safety, we are now at the mercy of those few tech companies because researchers in the larger community do not have the means to truly inspect and

Ma ciò che è peggio per la sicurezza dell'IA è che ora siamo alla mercé di quelle poche aziende tecnologiche, perché i ricercatori della comunità più ampia non hanno i mezzi per ispezionare davvero e

dissectEsaminare qualcosa in dettaglio these models.

smontare questi modelli.

And let's not forget their massive carbon footprint and the environmental impact.

E non dimentichiamo la loro enorme impronta di carbonio e l'impatto ambientale.

And then there are these additional intellectual questions.

Poi ci sono queste ulteriori questioni intellettuali.

Can AI, without robustrobusto: forte e sano common sense, be truly safe for humanity?

L'IA, senza un solido senso comune, può essere davvero sicura per l'umanità?

And is brute-force scale really the only way and even the correct way to teach AI?

E la scala basata sulla forza bruta è davvero l'unico modo e persino il modo corretto per insegnare all'IA?

So I’m often asked these days whether it's even feasiblePossibile da fare facilmente o comodamente. to do any meaningful research without extreme-scale compute.

Oggi mi viene spesso chiesto se sia anche solo fattibile condurre ricerche significative senza calcoli su scala estrema.

And I work at a university and nonprofit research institute, so I cannot afford a massive GPU farm to create enormous language models.

Lavoro in un'università e in un istituto di ricerca no-profit, quindi non posso permettermi una massiccia fattoria di GPU per creare enormi modelli linguistici.

Nevertheless, I believe that there's so much we need to do and can do to make AI sustainable and humanisticFocalizzato sui valori e le preoccupazioni umani piuttosto che su quelli tecnici o scientifici..

Tuttavia, credo che ci sia molto che dobbiamo fare e possiamo fare per rendere l'IA sostenibile e umanistica.

We need to make AI smaller, to democratizeRendere qualcosa disponibile a tutti it.

Dobbiamo rendere l'IA più piccola, per democratizzarla.

And we need to make AI safer by teaching human norms and values.

E dobbiamo rendere l'IA più sicura insegnando norme e valori umani.

Perhaps we can draw an analogyun paragone tra una cosa e un'altra che ha caratteristiche simili from "David and Goliath," here, Goliath being the extreme-scale language models, and seek inspiration from an old-time classic, "The Art of War," which tells us, in

Forse possiamo trarre un'analogia da "David e Golia": qui Golia rappresenta i modelli linguistici su scala estrema, e cercare ispirazione in un classico antico, "L'arte della guerra", che ci dice,

my interpretationinterpretazione, know your enemy, choose your battles, and innovate your weapons.

nella mia interpretazione, conosci il tuo nemico, scegli le tue battaglie e innova le tue armi.

Let's start with the first, know your enemy, which means we need to evaluate AI with scrutinyesame accurato e completo.

Iniziamo con il primo punto: conosci il tuo nemico, il che significa che dobbiamo valutare l'IA con scrupolo.