Les grands modèles de langage expliqués simplement : fiche pour apprendre l’anglais

Imagine you happen across a short movie script that describes a scene between a person and their AI assistant. Phrasal verbs

Imaginez que vous tombiez par hasard sur un court scénario de film décrivant une scène entre une personne et son assistant IA.

The script has what the person asks the AI,

Le scénario contient ce que la personne demande à l'IA,

but the AI's response has been torn off. Phrasal verbs

mais la réponse de l'IA a été arrachée.

Suppose you also have this powerful magical machine

Supposons que vous ayez également cette puissante machine magique

that can take any text and provide a sensible prediction

qui peut prendre n'importe quel texte et fournir une prédiction sensée

of what word comes next.

du mot qui vient ensuite.

You could then finish the script by feeding in what you have to the machine, Phrasal verbs

Vous pourriez alors terminer le scénario en fournissant ce que vous avez à la machine,

seeing what it would predict to start the AI's answer,

en regardant ce qu'elle prédirait pour commencer la réponse de l'IA,

and then repeating this over and over Phrases

puis en répétant cela encore et encore

with a growing script completing the dialogue.

avec un scénario grandissant pour compléter le dialogue.

When you interact with a chatbot,

Lorsque vous interagissez avec un chatbot,

this is exactly what's happening.

c'est exactement ce qui se passe.

A large language model is a sophisticated mathematical function

Un grand modèle de langage est une fonction mathématique sophistiquée

that predicts what word comes next for any piece of text.

qui prédit le mot qui suit pour n'importe quel morceau de texte.

Instead of predicting one word with certainty, though,

Au lieu de prédire un seul mot avec certitude, cependant,

what it does is assign a probability Grammaire

ce qu'il fait, c'est attribuer une probabilité

to all possible next words.

à tous les mots suivants possibles.

To build a chatbot,

Pour construire un chatbot,

what you do is lay out some text Phrasal verbs

ce que vous faites, c'est exposer un texte

that describes an interaction between a user and a hypothetical AI assistant.

qui décrit une interaction entre un utilisateur et un assistant IA hypothétique.

You add on whatever the user types in Phrasal verbs

Vous ajoutez tout ce que l'utilisateur tape

as the first part of that interaction,

comme première partie de cette interaction,

and then you have the model repeatedly predict the next word

puis vous demandez au modèle de prédire à plusieurs reprises le mot suivant

that such a hypothetical AI assistant would say in response,

qu'un tel assistant IA hypothétique dirait en réponse,

and that's what's presented to the user.

et c'est ce qui est présenté à l'utilisateur.

In doing this,

En faisant cela,

the output tends to look a lot more natural Grammaire

le résultat a tendance à paraître beaucoup plus naturel

if you allow it to select less likely words

si vous lui permettez de sélectionner des mots moins probables

along the way at random. Phrases

en cours de route de manière aléatoire.

So what this means is even though the model itself is deterministic, Grammaire

Ce que cela signifie, c'est que même si le modèle lui-même est déterministe,

a given prompt typically gives a different answer each time it's run. Vocabulaire

une invite donnée donne généralement une réponse différente à chaque exécution.

Models learn how to make these predictions

Les modèles apprennent à faire ces prédictions

by processing an enormous amount of text,

en traitant une énorme quantité de texte,

typically pulled from the internet.

généralement tirée d'Internet.

For a standard human to read the amount of text that was used to train GPT-3,

Pour qu'un humain normal lise la quantité de texte qui a été utilisée pour entraîner GPT-3,

for example,

par exemple,

if they read non-stop 24/7,

s'il lisait sans arrêt 24 heures sur 24, 7 jours sur 7,

it would take over 2600 years.

cela prendrait plus de 2600 ans.

Larger models since then train on much, much more.

Depuis lors, les modèles plus grands s'entraînent sur beaucoup, beaucoup plus.

You can think of training a little bit like tuning the dials on a big machine. Grammaire

Vous pouvez imaginer l'entraînement un peu comme le réglage des cadrans d'une grosse machine.

The way that a language model behaves

La façon dont se comporte un modèle de langage

is entirely determined by these many different continuous values,

est entièrement déterminée par ces nombreuses valeurs continues différentes,

usually called parameters or weights.

généralement appelées paramètres ou poids.

Changing those parameters will change the probabilities

Changer ces paramètres modifiera les probabilités

that the model gives for the next word on a given input.

que le modèle donne pour le mot suivant sur une entrée donnée.

What puts the large in large language model Idiomes

Ce qui met le "grand" dans grand modèle de langage

is how they can have hundreds of billions of these parameters.

c'est la façon dont ils peuvent avoir des centaines de milliards de ces paramètres.

No human ever deliberately sets those parameters.

Aucun humain ne définit jamais délibérément ces paramètres.

Instead, they begin at random,

Au lieu de cela, ils commencent au hasard,

meaning the model just outputs gibberish,

ce qui signifie que le modèle ne produit que du charabia,

but they're repeatedly refined based on many example pieces of text.

mais ils sont continuellement affinés sur la base de nombreux exemples de texte.

One of these training examples could be just a handful of words, Phrases

L'un de ces exemples d'entraînement pourrait être juste une poignée de mots,

or it could be thousands,

ou il pourrait s'agir de milliers,

but in either case,

mais dans tous les cas,

the way this works is to pass in all but the last word from that example Grammaire

la façon dont cela fonctionne est de transmettre tous les mots sauf le dernier de cet exemple

into the model and compare the prediction

dans le modèle et de comparer la prédiction

that it makes with the true last word from the example.

qu'il fait avec le vrai dernier mot de l'exemple.

An algorithm called backpropagation is used to tweak all of the parameters

Un algorithme appelé rétropropagation est utilisé pour ajuster tous les paramètres

in such a way that it makes the model Grammaire

de telle manière qu'il rend le modèle

a little more likely to choose the true last word

un peu plus susceptible de choisir le vrai dernier mot

and a little less likely to choose all the others.

et un peu moins susceptible de choisir tous les autres.

When you do this for many, many trillions of examples,

Lorsque vous faites cela pour des milliers de milliards d'exemples,

not only does the model start to give more accurate predictions on the training data, Grammaire

non seulement le modèle commence à donner des prédictions plus précises sur les données d'entraînement,

but it also starts to make more reasonable predictions

mais il commence également à faire des prédictions plus raisonnables

on text that it's never seen before.

sur des textes qu'il n'a jamais vus auparavant.

Given the huge number of parameters

Étant donné le nombre gigantesque de paramètres

and the enormous amount of training data,

et l'énorme quantité de données d'entraînement,

the scale of computation involved in training a large language model

l'échelle de calcul impliquée dans l'entraînement d'un grand modèle de langage

is mind-boggling. Vocabulaire

est ahurissante.

To illustrate, Fil du propos

Pour illustrer,

imagine that you could perform 1 billion additions and multiplications

imaginez que vous puissiez effectuer 1 milliard d'additions et de multiplications

every single second.

à chaque seconde.

How long do you think that it would take

Combien de temps pensez-vous qu'il vous faudrait

for you to do all of the operations

pour effectuer toutes les opérations

involved in training the largest language models?

impliquées dans l'entraînement des plus grands modèles de langage ?

Do you think it would take a year?

Pensez-vous que cela prendrait un an ?

Maybe something like 10,000 years?

Peut-être quelque chose comme 10 000 ans ?

The answer is actually much more than that.

La réponse est en réalité bien supérieure à cela.

It's well over 100 million years. Phrases

C'est bien plus de 100 millions d'années.

This is only part of the story, though. Idiomes

Cependant, ce n'est qu'une partie de l'histoire.

This whole process is called pretraining.

L'ensemble de ce processus s'appelle le pré-entraînement.

The goal of autocompleting a random passage of text from the internet

Le but de l'auto-complétion d'un passage de texte aléatoire d'Internet

is very different from the goal of being a good AI assistant.

est très différent du but d'être un bon assistant IA.

To address this, Fil du propos

Pour y remédier,

chatbots undergo another type of training, Phrases

les chatbots subissent un autre type d'entraînement,

just as important, called reinforcement learning with human feedback.

tout aussi important, appelé apprentissage par renforcement avec rétroaction humaine.

Workers flag unhelpful or problematic predictions, Vocabulaire

Les travailleurs signalent les prédictions inutiles ou problématiques,

and their corrections further change the model's parameters,

et leurs corrections modifient davantage les paramètres du modèle,

making them more likely to give predictions

les rendant plus susceptibles de donner des prédictions

that users prefer.

que les utilisateurs préfèrent.

Looking back at the pretraining, though, Fil du propos

En repensant au pré-entraînement, cependant,

this staggering amount of computation

cette quantité faramineuse de calcul

is only made possible by using special computer chips Grammaire

n'est rendue possible qu'en utilisant des puces informatiques spéciales

that are optimized for running many, many operations in parallel, Phrases

qui sont optimisées pour exécuter de très nombreuses opérations en parallèle,

known as GPUs.

connues sous le nom de GPU.

However,

Cependant,

not all language models can be easily parallelized.

tous les modèles de langage ne peuvent pas être facilement parallélisés.

Prior to 2017, Vocabulaire

Avant 2017,

most language models would process text one word at a time. Phrases

la plupart des modèles de langage traitaient le texte un mot à la fois.

But then,

Mais alors,

a team of researchers at Google

une équipe de chercheurs chez Google

introduced a new model known as the Transformer.

a introduit un nouveau modèle connu sous le nom de Transformer.

Transformers don't read text from the start to the finish.

Les Transformers ne lisent pas le texte du début à la fin.

They soak it all in at once, Phrasal verbs

Ils l'absorbent tout d'un coup,

in parallel.

en parallèle.

The very first step inside a Transformer,

La toute première étape à l'intérieur d'un Transformer,

and most other language models for that matter, Fil du propos

et de la plupart des autres modèles de langage d'ailleurs,

is to associate each word with a long list of numbers.

est d'associer chaque mot à une longue liste de nombres.

The reason for this is that the training process only works with continuous values, Grammaire

La raison en est que le processus d'entraînement ne fonctionne qu'avec des valeurs continues,

so you have to somehow encode language using numbers,

vous devez donc coder le langage d'une manière ou d'une autre en utilisant des nombres,

and each of these lists of numbers

et chacune de ces listes de nombres

may somehow encode the meaning of the corresponding word.

peut d'une certaine manière coder le sens du mot correspondant.

What makes Transformers unique Grammaire

Ce qui rend les Transformers uniques

is their reliance on a special operation known as attention. Phrases

c'est leur dépendance à une opération spéciale connue sous le nom d'attention.

This operation gives all of these lists of numbers

Cette opération donne à toutes ces listes de nombres

a chance to talk to one another Idiomes

la chance de se parler

and refine the meanings that they encode

et d'affiner les significations qu'elles encodent

based on the context around,

en fonction du contexte environnant,

all done in parallel.

le tout fait en parallèle.

For example,

Par exemple,

the numbers encoding the word bank

les nombres encodant le mot « bank » (banque/rive)

might be changed based on the context surrounding it

pourraient être modifiés en fonction du contexte qui l'entoure

to somehow encode the more specific notion of a river bank.

pour encoder d'une certaine manière la notion plus spécifique d'une rive (river bank).

Transformers typically also include a second type of operation

Les Transformers incluent généralement aussi un deuxième type d'opération

known as a feed-forward neural network,

connu sous le nom de réseau de neurones à propagation avant,

and this gives the model extra capacity

et cela donne au modèle une capacité supplémentaire

to store more patterns about language learned during training.

pour stocker davantage de modèles sur le langage appris pendant l'entraînement.

All of this data repeatedly flows through many different iterations

Toutes ces données circulent de manière répétée à travers de nombreuses itérations différentes

of these two fundamental operations,

de ces deux opérations fondamentales,

and as it does so, Fil du propos

et ce faisant,

the hope is that each list of numbers

l'espoir est que chaque liste de nombres

is enriched to encode whatever information might be needed Grammaire

s'enrichisse pour encoder toute information qui pourrait être nécessaire

to make an accurate prediction

pour faire une prédiction précise

of what word follows in the passage.

du mot qui suit dans le passage.

At the end,

À la fin,

one final function is performed on the last vector in this sequence,

une fonction finale est exécutée sur le dernier vecteur de cette séquence,

which now has had a chance to be influenced by all the other context Grammaire

qui a maintenant eu la chance d'être influencé par tout l'autre contexte

from the input text,

du texte d'entrée,

as well as everything the model learned during training,

ainsi que tout ce que le modèle a appris pendant l'entraînement,

to produce a prediction of the next word.

pour produire une prédiction du mot suivant.

Again,

Encore une fois,

the model's prediction looks like a probability for every possible next word.

la prédiction du modèle ressemble à une probabilité pour chaque mot suivant possible.

Although researchers design the framework for how each of these steps work, Fil du propos

Bien que les chercheurs conçoivent le cadre de fonctionnement de chacune de ces étapes,

it's important to understand that the specific behavior is an emergent phenomenon Vocabulaire

il est important de comprendre que le comportement spécifique est un phénomène émergent

based on how those hundreds of billions of parameters

basé sur la façon dont ces centaines de milliards de paramètres

are tuned during training.

sont ajustés pendant l'entraînement.

This makes it incredibly challenging to determine Grammaire

Cela rend incroyablement difficile la détermination

why the model makes the exact predictions that it does.

de la raison pour laquelle le modèle fait les prédictions exactes qu'il fait.

What you can see is that when you use large language model predictions to autocomplete a prompt, Fil du propos

Ce que vous pouvez voir, c'est que lorsque vous utilisez les prédictions d'un grand modèle de langage pour autocompléter une invite,

the words that it generates

les mots qu'il génère

are uncannily fluent, Vocabulaire

sont d'une fluidité troublante,

fascinating,

fascinants,

and even useful.

et même utiles.

If you're a new viewer

Si vous êtes un nouveau spectateur

and you're curious about more details on how Transformers and attention work,

et que vous êtes curieux d'avoir plus de détails sur le fonctionnement des Transformers et de l'attention,

boy do I have some material for you. Grammaire

j'ai exactement ce qu'il vous faut.

One option is to jump into a series I made about deep learning Phrasal verbs

Une option est de plonger dans une série que j'ai réalisée sur le deep learning

where we visualize and motivate the details of attention Vocabulaire

où nous visualisons et justifions les détails de l'attention

and all the other steps in a Transformer.

et toutes les autres étapes d'un Transformer.

But also, on my second channel,

Mais aussi, sur ma deuxième chaîne,

I just posted a talk that I gave a couple months ago Vocabulaire

je viens de poster une conférence que j'ai donnée il y a quelques mois

about this topic for the company TNG in Munich.

sur ce sujet pour la société TNG à Munich.

Sometimes I actually prefer the content that I make as a casual talk

Parfois, je préfère en fait le contenu que je crée sous forme de conférence informelle

rather than a produced video, Grammaire

plutôt qu'une vidéo produite,

but I leave it up to you which one of these feels like the better follow-on. Idiomes

mais je vous laisse le soin de décider laquelle de ces options semble être la meilleure suite.