Los grandes modelos de lenguaje explicados brevemente: apuntes para aprender inglés

Imagine you happen across a short movie script that describes a scene between a person and their AI assistant. Phrasal verbs

Imagina que te encuentras por casualidad con un breve guion de película que describe una escena entre una persona y su asistente de IA.

The script has what the person asks the AI,

El guion contiene lo que la persona le pregunta a la IA,

but the AI's response has been torn off. Phrasal verbs

pero la respuesta de la IA ha sido arrancada.

Suppose you also have this powerful magical machine

Supón que también tienes esta poderosa máquina mágica

that can take any text and provide a sensible prediction

que puede tomar cualquier texto y proporcionar una predicción sensata

of what word comes next.

de qué palabra viene a continuación.

You could then finish the script by feeding in what you have to the machine, Phrasal verbs

Entonces podrías terminar el guion introduciendo lo que tienes en la máquina,

seeing what it would predict to start the AI's answer,

viendo qué predeciría para comenzar la respuesta de la IA,

and then repeating this over and over Frases

y luego repetir esto una y otra vez

with a growing script completing the dialogue.

con un guion en crecimiento completando el diálogo.

When you interact with a chatbot,

Cuando interactúas con un chatbot,

this is exactly what's happening.

esto es exactamente lo que está sucediendo.

A large language model is a sophisticated mathematical function

Un gran modelo de lenguaje es una función matemática sofisticada

that predicts what word comes next for any piece of text.

que predice qué palabra viene a continuación para cualquier fragmento de texto.

Instead of predicting one word with certainty, though,

Sin embargo, en lugar de predecir una sola palabra con certeza,

what it does is assign a probability Gramática

lo que hace es asignar una probabilidad

to all possible next words.

a todas las posibles siguientes palabras.

To build a chatbot,

Para construir un chatbot,

what you do is lay out some text Phrasal verbs

lo que haces es exponer algún texto

that describes an interaction between a user and a hypothetical AI assistant.

que describe una interacción entre un usuario y un asistente de IA hipotético.

You add on whatever the user types in Phrasal verbs

Añades lo que sea que el usuario escriba

as the first part of that interaction,

como la primera parte de esa interacción,

and then you have the model repeatedly predict the next word

y luego haces que el modelo prediga repetidamente la siguiente palabra

that such a hypothetical AI assistant would say in response,

que tal asistente de IA hipotético diría en respuesta,

and that's what's presented to the user.

y eso es lo que se le presenta al usuario.

In doing this,

Al hacer esto,

the output tends to look a lot more natural Gramática

el resultado tiende a parecer mucho más natural

if you allow it to select less likely words

si le permites seleccionar palabras menos probables

along the way at random. Frases

a lo largo del camino de forma aleatoria.

So what this means is even though the model itself is deterministic, Gramática

Así que lo que esto significa es que, aunque el modelo en sí es determinista,

a given prompt typically gives a different answer each time it's run. Vocabulario

un mensaje dado típicamente da una respuesta diferente cada vez que se ejecuta.

Models learn how to make these predictions

Los modelos aprenden a hacer estas predicciones

by processing an enormous amount of text,

procesando una enorme cantidad de texto,

typically pulled from the internet.

típicamente extraído de internet.

For a standard human to read the amount of text that was used to train GPT-3,

Para que un humano normal lea la cantidad de texto que se usó para entrenar a GPT-3,

for example,

por ejemplo,

if they read non-stop 24/7,

si leyeran sin parar 24 horas al día, 7 días a la semana,

it would take over 2600 years.

les tomaría más de 2600 años.

Larger models since then train on much, much more.

Desde entonces, los modelos más grandes se entrenan en mucho, mucho más.

You can think of training a little bit like tuning the dials on a big machine. Gramática

Puedes pensar en el entrenamiento un poco como ajustar los diales en una gran máquina.

The way that a language model behaves

La forma en que se comporta un modelo de lenguaje

is entirely determined by these many different continuous values,

está completamente determinada por estos muchos valores continuos diferentes,

usually called parameters or weights.

generalmente llamados parámetros o pesos.

Changing those parameters will change the probabilities

Cambiar esos parámetros cambiará las probabilidades

that the model gives for the next word on a given input.

que el modelo da para la siguiente palabra en una entrada determinada.

What puts the large in large language model Modismos

Lo que pone el "gran" en gran modelo de lenguaje

is how they can have hundreds of billions of these parameters.

es cómo pueden tener cientos de miles de millones de estos parámetros.

No human ever deliberately sets those parameters.

Ningún humano establece deliberadamente esos parámetros.

Instead, they begin at random,

En cambio, comienzan al azar,

meaning the model just outputs gibberish,

lo que significa que el modelo simplemente genera tonterías,

but they're repeatedly refined based on many example pieces of text.

pero se refinan repetidamente en base a muchos fragmentos de texto de ejemplo.

One of these training examples could be just a handful of words, Frases

Uno de estos ejemplos de entrenamiento podría ser solo unas pocas palabras,

or it could be thousands,

o podrían ser miles,

but in either case,

pero en cualquier caso,

the way this works is to pass in all but the last word from that example Gramática

la forma en que esto funciona es pasar todas las palabras menos la última de ese ejemplo

into the model and compare the prediction

al modelo y comparar la predicción

that it makes with the true last word from the example.

que hace con la verdadera última palabra del ejemplo.

An algorithm called backpropagation is used to tweak all of the parameters

Un algoritmo llamado retropropagación se utiliza para ajustar todos los parámetros

in such a way that it makes the model Gramática

de tal manera que hace que el modelo

a little more likely to choose the true last word

sea un poco más propenso a elegir la verdadera última palabra

and a little less likely to choose all the others.

y un poco menos propenso a elegir todas las demás.

When you do this for many, many trillions of examples,

Cuando haces esto para muchos, muchos billones de ejemplos,

not only does the model start to give more accurate predictions on the training data, Gramática

el modelo no solo comienza a dar predicciones más precisas en los datos de entrenamiento,

but it also starts to make more reasonable predictions

sino que también comienza a hacer predicciones más razonables

on text that it's never seen before.

en texto que nunca ha visto antes.

Given the huge number of parameters

Dado el enorme número de parámetros

and the enormous amount of training data,

y la enorme cantidad de datos de entrenamiento,

the scale of computation involved in training a large language model

la escala de cálculo involucrada en el entrenamiento de un gran modelo de lenguaje

is mind-boggling. Vocabulario

es asombrosa.

To illustrate, Discurso

Para ilustrar,

imagine that you could perform 1 billion additions and multiplications

imagina que pudieras realizar 1 billón de sumas y multiplicaciones

every single second.

cada segundo.

How long do you think that it would take

¿Cuánto tiempo crees que te tomaría

for you to do all of the operations

hacer todas las operaciones

involved in training the largest language models?

involucradas en el entrenamiento de los modelos de lenguaje más grandes?

Do you think it would take a year?

¿Crees que tomaría un año?

Maybe something like 10,000 years?

¿Tal vez algo así como 10.000 años?

The answer is actually much more than that.

La respuesta es en realidad mucho más que eso.

It's well over 100 million years. Frases

Es bastante más de 100 millones de años.

This is only part of the story, though. Modismos

Sin embargo, esto es solo una parte de la historia.

This whole process is called pretraining.

Todo este proceso se llama preentrenamiento.

The goal of autocompleting a random passage of text from the internet

El objetivo de autocompletar un pasaje aleatorio de texto de internet

is very different from the goal of being a good AI assistant.

es muy diferente del objetivo de ser un buen asistente de IA.

To address this, Discurso

Para abordar esto,

chatbots undergo another type of training, Frases

los chatbots se someten a otro tipo de entrenamiento,

just as important, called reinforcement learning with human feedback.

igual de importante, llamado aprendizaje por refuerzo con retroalimentación humana.

Workers flag unhelpful or problematic predictions, Vocabulario

Los trabajadores marcan predicciones inútiles o problemáticas,

and their corrections further change the model's parameters,

y sus correcciones cambian aún más los parámetros del modelo,

making them more likely to give predictions

haciéndolos más propensos a dar predicciones

that users prefer.

que los usuarios prefieren.

Looking back at the pretraining, though, Discurso

Sin embargo, mirando hacia atrás al preentrenamiento,

this staggering amount of computation

esta asombrosa cantidad de cálculo

is only made possible by using special computer chips Gramática

solo es posible utilizando chips de computadora especiales

that are optimized for running many, many operations in parallel, Frases

que están optimizados para ejecutar muchas, muchas operaciones en paralelo,

known as GPUs.

conocidos como GPU.

However,

Sin embargo,

not all language models can be easily parallelized.

no todos los modelos de lenguaje se pueden paralelizar fácilmente.

Prior to 2017, Vocabulario

Antes de 2017,

most language models would process text one word at a time. Frases

la mayoría de los modelos de lenguaje procesaban el texto una palabra a la vez.

But then,

Pero entonces,

a team of researchers at Google

un equipo de investigadores en Google

introduced a new model known as the Transformer.

introdujo un nuevo modelo conocido como el Transformer.

Transformers don't read text from the start to the finish.

Los Transformers no leen el texto desde el principio hasta el final.

They soak it all in at once, Phrasal verbs

Lo absorben todo a la vez,

in parallel.

en paralelo.

The very first step inside a Transformer,

El primer paso dentro de un Transformer,

and most other language models for that matter, Discurso

y en la mayoría de los otros modelos de lenguaje para el caso,

is to associate each word with a long list of numbers.

es asociar cada palabra con una larga lista de números.

The reason for this is that the training process only works with continuous values, Gramática

La razón de esto es que el proceso de entrenamiento solo funciona con valores continuos,

so you have to somehow encode language using numbers,

por lo que tienes que codificar el lenguaje de alguna manera usando números,

and each of these lists of numbers

y cada una de estas listas de números

may somehow encode the meaning of the corresponding word.

puede de alguna manera codificar el significado de la palabra correspondiente.

What makes Transformers unique Gramática

Lo que hace únicos a los Transformers

is their reliance on a special operation known as attention. Frases

es su dependencia de una operación especial conocida como atención.

This operation gives all of these lists of numbers

Esta operación da a todas estas listas de números

a chance to talk to one another Modismos

la oportunidad de hablar entre sí

and refine the meanings that they encode

y refinar los significados que codifican

based on the context around,

basándose en el contexto alrededor,

all done in parallel.

todo hecho en paralelo.

For example,

Por ejemplo,

the numbers encoding the word bank

los números que codifican la palabra "bank" (banco/orilla)

might be changed based on the context surrounding it

podrían cambiarse según el contexto que los rodea

to somehow encode the more specific notion of a river bank.

para codificar de alguna manera la noción más específica de la orilla de un río.

Transformers typically also include a second type of operation

Los Transformers típicamente también incluyen un segundo tipo de operación

known as a feed-forward neural network,

conocida como una red neuronal prealimentada,

and this gives the model extra capacity

y esto le da al modelo capacidad adicional

to store more patterns about language learned during training.

para almacenar más patrones sobre el lenguaje aprendidos durante el entrenamiento.

All of this data repeatedly flows through many different iterations

Todos estos datos fluyen repetidamente a través de muchas iteraciones diferentes

of these two fundamental operations,

de estas dos operaciones fundamentales,

and as it does so, Discurso

y a medida que lo hace,

the hope is that each list of numbers

la esperanza es que cada lista de números

is enriched to encode whatever information might be needed Gramática

se enriquezca para codificar cualquier información que pueda ser necesaria

to make an accurate prediction

para hacer una predicción precisa

of what word follows in the passage.

de qué palabra sigue en el pasaje.

At the end,

Al final,

one final function is performed on the last vector in this sequence,

se realiza una función final en el último vector de esta secuencia,

which now has had a chance to be influenced by all the other context Gramática

que ahora ha tenido la oportunidad de ser influenciado por todo el otro contexto

from the input text,

del texto de entrada,

as well as everything the model learned during training,

así como todo lo que el modelo aprendió durante el entrenamiento,

to produce a prediction of the next word.

para producir una predicción de la siguiente palabra.

Again,

Una vez más,

the model's prediction looks like a probability for every possible next word.

la predicción del modelo parece una probabilidad para cada posible siguiente palabra.

Although researchers design the framework for how each of these steps work, Discurso

Aunque los investigadores diseñan el marco de cómo funciona cada uno de estos pasos,

it's important to understand that the specific behavior is an emergent phenomenon Vocabulario

es importante entender que el comportamiento específico es un fenómeno emergente

based on how those hundreds of billions of parameters

basado en cómo esos cientos de miles de millones de parámetros

are tuned during training.

se ajustan durante el entrenamiento.

This makes it incredibly challenging to determine Gramática

Esto hace que sea increíblemente desafiante determinar

why the model makes the exact predictions that it does.

por qué el modelo hace las predicciones exactas que hace.

What you can see is that when you use large language model predictions to autocomplete a prompt, Discurso

Lo que puedes ver es que cuando usas las predicciones de un gran modelo de lenguaje para autocompletar un mensaje,

the words that it generates

las palabras que genera

are uncannily fluent, Vocabulario

son asombrosamente fluidas,

fascinating,

fascinantes,

and even useful.

e incluso útiles.

If you're a new viewer

Si eres un espectador nuevo

and you're curious about more details on how Transformers and attention work,

y tienes curiosidad sobre más detalles sobre cómo funcionan los Transformers y la atención,

boy do I have some material for you. Gramática

vaya que tengo algo de material para ti.

One option is to jump into a series I made about deep learning Phrasal verbs

Una opción es saltar a una serie que hice sobre el aprendizaje profundo

where we visualize and motivate the details of attention Vocabulario

donde visualizamos y motivamos los detalles de la atención

and all the other steps in a Transformer.

y todos los demás pasos en un Transformer.

But also, on my second channel,

Pero también, en mi segundo canal,

I just posted a talk that I gave a couple months ago Vocabulario

acabo de publicar una charla que di hace un par de meses

about this topic for the company TNG in Munich.

sobre este tema para la empresa TNG en Múnich.

Sometimes I actually prefer the content that I make as a casual talk

A veces realmente prefiero el contenido que hago como una charla casual

rather than a produced video, Gramática

en lugar de un video producido,

but I leave it up to you which one of these feels like the better follow-on. Modismos

pero te dejo a ti decidir cuál de estos se siente como la mejor continuación.