Grandes Modelos de Linguagem explicados de forma breve: material de estudo de inglês

Imagine you happen across a short movie script that describes a scene between a person and their AI assistant. Verbos frasais

Imagine que você depara com um roteiro curto de filme que descreve uma cena entre uma pessoa e seu assistente de IA.

The script has what the person asks the AI,

O roteiro contém o que a pessoa pergunta à IA,

but the AI's response has been torn off. Verbos frasais

mas a resposta da IA foi arrancada.

Suppose you also have this powerful magical machine

Suponha que você também tenha essa poderosa máquina mágica

that can take any text and provide a sensible prediction

que pode pegar qualquer texto e fornecer uma previsão sensata

of what word comes next.

de qual palavra vem a seguir.

You could then finish the script by feeding in what you have to the machine, Verbos frasais

Você poderia então terminar o roteiro alimentando o que você tem na máquina,

seeing what it would predict to start the AI's answer,

vendo o que ela preveria para iniciar a resposta da IA,

and then repeating this over and over Frases

e depois repetindo isso várias e várias vezes

with a growing script completing the dialogue.

com um roteiro crescente completando o diálogo.

When you interact with a chatbot,

Quando você interage com um chatbot,

this is exactly what's happening.

é exatamente isso que está acontecendo.

A large language model is a sophisticated mathematical function

Um grande modelo de linguagem é uma função matemática sofisticada

that predicts what word comes next for any piece of text.

que prevê qual palavra vem a seguir para qualquer trecho de texto.

Instead of predicting one word with certainty, though,

Em vez de prever uma palavra com certeza, no entanto,

what it does is assign a probability Gramática

o que ele faz é atribuir uma probabilidade

to all possible next words.

a todas as possíveis palavras seguintes.

To build a chatbot,

Para construir um chatbot,

what you do is lay out some text Verbos frasais

o que você faz é dispor algum texto

that describes an interaction between a user and a hypothetical AI assistant.

que descreve uma interação entre um usuário e um hipotético assistente de IA.

You add on whatever the user types in Verbos frasais

Você adiciona o que quer que o usuário digite

as the first part of that interaction,

como a primeira parte dessa interação,

and then you have the model repeatedly predict the next word

e então você faz o modelo prever repetidamente a próxima palavra

that such a hypothetical AI assistant would say in response,

que tal hipotético assistente de IA diria em resposta,

and that's what's presented to the user.

e é isso que é apresentado ao usuário.

In doing this,

Ao fazer isso,

the output tends to look a lot more natural Gramática

o resultado tende a parecer muito mais natural

if you allow it to select less likely words

se você permitir que ele selecione palavras menos prováveis

along the way at random. Frases

ao longo do caminho de forma aleatória.

So what this means is even though the model itself is deterministic, Gramática

Então o que isso significa é que, embora o modelo em si seja determinístico,

a given prompt typically gives a different answer each time it's run. Vocabulário

um determinado prompt normalmente dá uma resposta diferente cada vez que é executado.

Models learn how to make these predictions

Os modelos aprendem como fazer essas previsões

by processing an enormous amount of text,

processando uma quantidade enorme de texto,

typically pulled from the internet.

normalmente extraído da internet.

For a standard human to read the amount of text that was used to train GPT-3,

Para um humano padrão ler a quantidade de texto que foi usada para treinar o GPT-3,

for example,

por exemplo,

if they read non-stop 24/7,

se eles lessem sem parar 24 horas por dia, 7 dias por semana,

it would take over 2600 years.

levaria mais de 2600 anos.

Larger models since then train on much, much more.

Modelos maiores desde então treinam em muito, muito mais.

You can think of training a little bit like tuning the dials on a big machine. Gramática

Você pode pensar no treinamento um pouco como ajustar os mostradores de uma grande máquina.

The way that a language model behaves

A maneira como um modelo de linguagem se comporta

is entirely determined by these many different continuous values,

é totalmente determinada por esses muitos e diferentes valores contínuos,

usually called parameters or weights.

geralmente chamados de parâmetros ou pesos.

Changing those parameters will change the probabilities

Mudar esses parâmetros mudará as probabilidades

that the model gives for the next word on a given input.

que o modelo dá para a próxima palavra em uma determinada entrada.

What puts the large in large language model Figurado

O que coloca o "grande" em um grande modelo de linguagem

is how they can have hundreds of billions of these parameters.

é como eles podem ter centenas de bilhões desses parâmetros.

No human ever deliberately sets those parameters.

Nenhum humano define deliberadamente esses parâmetros.

Instead, they begin at random,

Em vez disso, eles começam aleatoriamente,

meaning the model just outputs gibberish,

o que significa que o modelo apenas emite rabiscos ou palavras sem sentido,

but they're repeatedly refined based on many example pieces of text.

mas eles são repetidamente refinados com base em muitos exemplos de texto.

One of these training examples could be just a handful of words, Frases

Um desses exemplos de treinamento pode ser apenas um punhado de palavras,

or it could be thousands,

ou pode ser milhares,

but in either case,

mas em qualquer caso,

the way this works is to pass in all but the last word from that example Gramática

a forma como isso funciona é passar todas, exceto a última palavra daquele exemplo

into the model and compare the prediction

para o modelo e comparar a previsão

that it makes with the true last word from the example.

que ele faz com a verdadeira última palavra do exemplo.

An algorithm called backpropagation is used to tweak all of the parameters

Um algoritmo chamado retropropagação é usado para ajustar todos os parâmetros

in such a way that it makes the model Gramática

de tal forma que torna o modelo

a little more likely to choose the true last word

um pouco mais propenso a escolher a verdadeira última palavra

and a little less likely to choose all the others.

e um pouco menos propenso a escolher todas as outras.

When you do this for many, many trillions of examples,

Quando você faz isso para muitos, muitos trilhões de exemplos,

not only does the model start to give more accurate predictions on the training data, Gramática

não só o modelo começa a dar previsões mais precisas nos dados de treinamento,

but it also starts to make more reasonable predictions

mas também começa a fazer previsões mais razoáveis

on text that it's never seen before.

em textos que ele nunca viu antes.

Given the huge number of parameters

Dado o enorme número de parâmetros

and the enormous amount of training data,

e a enorme quantidade de dados de treinamento,

the scale of computation involved in training a large language model

a escala de computação envolvida no treinamento de um grande modelo de linguagem

is mind-boggling. Vocabulário

é incompreensível.

To illustrate, Discurso

Para ilustrar,

imagine that you could perform 1 billion additions and multiplications

imagine que você pudesse realizar 1 bilhão de adições e multiplicações

every single second.

a cada segundo.

How long do you think that it would take

Quanto tempo você acha que levaria

for you to do all of the operations

para você fazer todas as operações

involved in training the largest language models?

envolvidas no treinamento dos maiores modelos de linguagem?

Do you think it would take a year?

Você acha que levaria um ano?

Maybe something like 10,000 years?

Talvez algo em torno de 10.000 anos?

The answer is actually much more than that.

A resposta é na verdade muito mais do que isso.

It's well over 100 million years. Frases

É bem mais de 100 milhões de anos.

This is only part of the story, though. Figurado

Isso é apenas parte da história, no entanto.

This whole process is called pretraining.

Todo esse processo é chamado de pré-treinamento.

The goal of autocompleting a random passage of text from the internet

O objetivo de preencher automaticamente uma passagem aleatória de texto da internet

is very different from the goal of being a good AI assistant.

é muito diferente do objetivo de ser um bom assistente de IA.

To address this, Discurso

Para resolver isso,

chatbots undergo another type of training, Frases

os chatbots passam por outro tipo de treinamento,

just as important, called reinforcement learning with human feedback.

tão importante quanto, chamado aprendizado por reforço com feedback humano.

Workers flag unhelpful or problematic predictions, Vocabulário

Os trabalhadores sinalizam previsões inúteis ou problemáticas,

and their corrections further change the model's parameters,

e suas correções mudam ainda mais os parâmetros do modelo,

making them more likely to give predictions

tornando-os mais propensos a dar previsões

that users prefer.

que os usuários preferem.

Looking back at the pretraining, though, Discurso

Olhando para trás no pré-treinamento, porém,

this staggering amount of computation

essa quantidade impressionante de computação

is only made possible by using special computer chips Gramática

só é possível através do uso de chips de computador especiais

that are optimized for running many, many operations in parallel, Frases

que são otimizados para executar muitas, muitas operações em paralelo,

known as GPUs.

conhecidos como GPUs.

However,

No entanto,

not all language models can be easily parallelized.

nem todos os modelos de linguagem podem ser facilmente paralelizados.

Prior to 2017, Vocabulário

Antes de 2017,

most language models would process text one word at a time. Frases

a maioria dos modelos de linguagem processava o texto uma palavra de cada vez.

But then,

Mas então,

a team of researchers at Google

uma equipe de pesquisadores do Google

introduced a new model known as the Transformer.

introduziu um novo modelo conhecido como Transformer.

Transformers don't read text from the start to the finish.

Os Transformers não leem o texto do começo ao fim.

They soak it all in at once, Verbos frasais

Eles absorvem tudo de uma vez,

in parallel.

em paralelo.

The very first step inside a Transformer,

O primeiro passo dentro de um Transformer,

and most other language models for that matter, Discurso

e na maioria dos outros modelos de linguagem aliás,

is to associate each word with a long list of numbers.

é associar cada palavra a uma longa lista de números.

The reason for this is that the training process only works with continuous values, Gramática

O motivo para isso é que o processo de treinamento só funciona com valores contínuos,

so you have to somehow encode language using numbers,

então você tem que de alguma forma codificar a linguagem usando números,

and each of these lists of numbers

e cada uma dessas listas de números

may somehow encode the meaning of the corresponding word.

pode de alguma forma codificar o significado da palavra correspondente.

What makes Transformers unique Gramática

O que torna os Transformers únicos

is their reliance on a special operation known as attention. Frases

é a sua dependência de uma operação especial conhecida como atenção.

This operation gives all of these lists of numbers

Essa operação dá a todas essas listas de números

a chance to talk to one another Figurado

a chance de conversarem entre si

and refine the meanings that they encode

e refinar os significados que elas codificam

based on the context around,

com base no contexto ao redor,

all done in parallel.

tudo feito em paralelo.

For example,

Por exemplo,

the numbers encoding the word bank

os números que codificam a palavra "bank" (banco/margem)

might be changed based on the context surrounding it

podem ser alterados com base no contexto que a envolve

to somehow encode the more specific notion of a river bank.

para de alguma forma codificar a noção mais específica da margem de um rio.

Transformers typically also include a second type of operation

Os Transformers geralmente também incluem um segundo tipo de operação

known as a feed-forward neural network,

conhecida como uma rede neural feed-forward,

and this gives the model extra capacity

e isso dá ao modelo capacidade extra

to store more patterns about language learned during training.

para armazenar mais padrões sobre a linguagem aprendidos durante o treinamento.

All of this data repeatedly flows through many different iterations

Todos esses dados fluem repetidamente através de muitas iterações diferentes

of these two fundamental operations,

dessas duas operações fundamentais,

and as it does so, Discurso

e enquanto o faz,

the hope is that each list of numbers

a esperança é que cada lista de números

is enriched to encode whatever information might be needed Gramática

seja enriquecida para codificar qualquer informação que possa ser necessária

to make an accurate prediction

para fazer uma previsão precisa

of what word follows in the passage.

de qual palavra se segue na passagem.

At the end,

No final,

one final function is performed on the last vector in this sequence,

uma função final é executada no último vetor dessa sequência,

which now has had a chance to be influenced by all the other context Gramática

que agora teve a chance de ser influenciado por todo o outro contexto

from the input text,

do texto de entrada,

as well as everything the model learned during training,

bem como por tudo o que o modelo aprendeu durante o treinamento,

to produce a prediction of the next word.

para produzir uma previsão da próxima palavra.

Again,

Novamente,

the model's prediction looks like a probability for every possible next word.

a previsão do modelo se parece com uma probabilidade para cada possível palavra seguinte.

Although researchers design the framework for how each of these steps work, Discurso

Embora os pesquisadores projetem a estrutura de como cada um desses passos funciona,

it's important to understand that the specific behavior is an emergent phenomenon Vocabulário

é importante entender que o comportamento específico é um fenômeno emergente

based on how those hundreds of billions of parameters

baseado em como essas centenas de bilhões de parâmetros

are tuned during training.

são ajustados durante o treinamento.

This makes it incredibly challenging to determine Gramática

Isso torna incrivelmente desafiador determinar

why the model makes the exact predictions that it does.

por que o modelo faz exatamente as previsões que faz.

What you can see is that when you use large language model predictions to autocomplete a prompt, Discurso

O que você pode ver é que quando você usa as previsões de um grande modelo de linguagem para preencher automaticamente um prompt,

the words that it generates

as palavras que ele gera

are uncannily fluent, Vocabulário

são extraordinariamente fluentes,

fascinating,

fascinantes,

and even useful.

e até mesmo úteis.

If you're a new viewer

Se você é um novo espectador

and you're curious about more details on how Transformers and attention work,

e está curioso sobre mais detalhes sobre como os Transformers e a atenção funcionam,

boy do I have some material for you. Gramática

nossa, eu tenho muito material para você.

One option is to jump into a series I made about deep learning Verbos frasais

Uma opção é entrar em uma série que fiz sobre aprendizado profundo

where we visualize and motivate the details of attention Vocabulário

onde visualizamos e motivamos os detalhes da atenção

and all the other steps in a Transformer.

e todos os outros passos de um Transformer.

But also, on my second channel,

Mas também, no meu segundo canal,

I just posted a talk that I gave a couple months ago Vocabulário

acabei de postar uma palestra que dei alguns meses atrás

about this topic for the company TNG in Munich.

sobre este tema para a empresa TNG em Munique.

Sometimes I actually prefer the content that I make as a casual talk

Às vezes, na verdade eu prefiro o conteúdo que faço como uma palestra casual

rather than a produced video, Gramática

em vez de um vídeo produzido,

but I leave it up to you which one of these feels like the better follow-on. Figurado

mas deixo para você decidir qual desses parece ser a melhor continuação.