Giải thích ngắn gọn về Mô hình Ngôn ngữ Lớn: tài liệu học tiếng Anh

Imagine you happen across a short movie script that describes a scene between a person and their AI assistant. Cụm động từ

Hãy tưởng tượng bạn tình cờ xem được một kịch bản phim ngắn mô tả một cảnh giữa một người và trợ lý AI của họ.

The script has what the person asks the AI,

Kịch bản có nội dung người đó hỏi AI,

but the AI's response has been torn off. Cụm động từ

nhưng phần phản hồi của AI đã bị xé đi.

Suppose you also have this powerful magical machine

Giả sử bạn cũng có cỗ máy ma thuật đầy sức mạnh này

that can take any text and provide a sensible prediction

có thể lấy bất kỳ văn bản nào và đưa ra dự đoán hợp lý

of what word comes next.

về từ nào sẽ xuất hiện tiếp theo.

You could then finish the script by feeding in what you have to the machine, Cụm động từ

Sau đó, bạn có thể hoàn thành kịch bản bằng cách đưa những gì bạn có vào máy,

seeing what it would predict to start the AI's answer,

xem nó sẽ dự đoán gì để bắt đầu câu trả lời của AI,

and then repeating this over and over Cụm từ

và sau đó lặp đi lặp lại điều này nhiều lần

with a growing script completing the dialogue.

với một kịch bản ngày càng dài để hoàn thiện cuộc đối thoại.

When you interact with a chatbot,

Khi bạn tương tác với một chatbot,

this is exactly what's happening.

đây chính xác là những gì đang diễn ra.

A large language model is a sophisticated mathematical function

Mô hình ngôn ngữ lớn là một hàm toán học phức tạp

that predicts what word comes next for any piece of text.

dự đoán từ nào tiếp theo cho bất kỳ đoạn văn bản nào.

Instead of predicting one word with certainty, though,

Tuy nhiên, thay vì dự đoán một từ một cách chắc chắn,

what it does is assign a probability Ngữ pháp

những gì nó làm là gán một xác suất

to all possible next words.

cho tất cả các từ tiếp theo có thể xảy ra.

To build a chatbot,

Để xây dựng một chatbot,

what you do is lay out some text Cụm động từ

những gì bạn làm là trình bày một số văn bản

that describes an interaction between a user and a hypothetical AI assistant.

mô tả tương tác giữa người dùng và một trợ lý AI giả định.

You add on whatever the user types in Cụm động từ

Bạn thêm vào bất cứ thứ gì người dùng nhập

as the first part of that interaction,

như là phần đầu tiên của sự tương tác đó,

and then you have the model repeatedly predict the next word

và sau đó bạn để mô hình liên tục dự đoán từ tiếp theo

that such a hypothetical AI assistant would say in response,

mà một trợ lý AI giả định như vậy sẽ nói để phản hồi,

and that's what's presented to the user.

và đó là những gì được trình bày cho người dùng.

In doing this,

Khi làm điều này,

the output tends to look a lot more natural Ngữ pháp

đầu ra có xu hướng trông tự nhiên hơn nhiều

if you allow it to select less likely words

nếu bạn cho phép nó chọn các từ ít có khả năng xảy ra hơn

along the way at random. Cụm từ

dọc theo quá trình một cách ngẫu nhiên.

So what this means is even though the model itself is deterministic, Ngữ pháp

Vì vậy, điều này có nghĩa là mặc dù bản thân mô hình có tính tất định,

a given prompt typically gives a different answer each time it's run. Cách dùng từ

một lời nhắc nhất định thường đưa ra một câu trả lời khác nhau mỗi khi nó chạy.

Models learn how to make these predictions

Các mô hình học cách đưa ra những dự đoán này

by processing an enormous amount of text,

bằng cách xử lý một lượng lớn văn bản,

typically pulled from the internet.

thường được lấy từ internet.

For a standard human to read the amount of text that was used to train GPT-3,

Ví dụ, để một con người bình thường đọc lượng văn bản đã được sử dụng để đào tạo GPT-3,

for example,

chẳng hạn,

if they read non-stop 24/7,

nếu họ đọc không ngừng nghỉ 24/7,

it would take over 2600 years.

sẽ mất hơn 2600 năm.

Larger models since then train on much, much more.

Các mô hình lớn hơn kể từ đó đào tạo trên dữ liệu nhiều hơn thế rất, rất nhiều.

You can think of training a little bit like tuning the dials on a big machine. Ngữ pháp

Bạn có thể coi việc đào tạo hơi giống như việc điều chỉnh các núm trên một cỗ máy lớn.

The way that a language model behaves

Cách mà một mô hình ngôn ngữ hoạt động

is entirely determined by these many different continuous values,

hoàn toàn được xác định bởi rất nhiều giá trị liên tục khác nhau này,

usually called parameters or weights.

thường được gọi là tham số hoặc trọng số.

Changing those parameters will change the probabilities

Việc thay đổi các tham số đó sẽ thay đổi xác suất

that the model gives for the next word on a given input.

mà mô hình đưa ra cho từ tiếp theo với một đầu vào nhất định.

What puts the large in large language model Thành ngữ

Điều đặt chữ "lớn" trong mô hình ngôn ngữ lớn

is how they can have hundreds of billions of these parameters.

là cách chúng có thể có hàng trăm tỷ tham số này.

No human ever deliberately sets those parameters.

Không có con người nào cố tình thiết lập các tham số đó.

Instead, they begin at random,

Thay vào đó, chúng bắt đầu một cách ngẫu nhiên,

meaning the model just outputs gibberish,

nghĩa là ban đầu mô hình chỉ xuất ra những từ vô nghĩa,

but they're repeatedly refined based on many example pieces of text.

nhưng chúng liên tục được tinh chỉnh dựa trên nhiều đoạn văn bản ví dụ.

One of these training examples could be just a handful of words, Cụm từ

Một trong những ví dụ đào tạo này có thể chỉ là một vài từ,

or it could be thousands,

hoặc có thể là hàng ngàn từ,

but in either case,

nhưng trong cả hai trường hợp,

the way this works is to pass in all but the last word from that example Ngữ pháp

cách thức hoạt động là truyền tất cả các từ, trừ từ cuối cùng từ ví dụ đó

into the model and compare the prediction

vào mô hình và so sánh dự đoán

that it makes with the true last word from the example.

mà nó đưa ra với từ cuối cùng thực sự từ ví dụ.

An algorithm called backpropagation is used to tweak all of the parameters

Một thuật toán gọi là lan truyền ngược được sử dụng để tinh chỉnh tất cả các tham số

in such a way that it makes the model Ngữ pháp

theo cách làm cho mô hình

a little more likely to choose the true last word

có khả năng chọn từ cuối cùng thực sự cao hơn một chút

and a little less likely to choose all the others.

và ít có khả năng chọn tất cả các từ khác hơn một chút.

When you do this for many, many trillions of examples,

Khi bạn làm điều này cho hàng nghìn tỷ ví dụ,

not only does the model start to give more accurate predictions on the training data, Ngữ pháp

mô hình không chỉ bắt đầu đưa ra các dự đoán chính xác hơn trên dữ liệu đào tạo,

but it also starts to make more reasonable predictions

mà nó còn bắt đầu đưa ra những dự đoán hợp lý hơn

on text that it's never seen before.

trên những văn bản mà nó chưa từng thấy trước đây.

Given the huge number of parameters

Với số lượng tham số khổng lồ

and the enormous amount of training data,

và lượng dữ liệu đào tạo cực lớn,

the scale of computation involved in training a large language model

quy mô tính toán liên quan đến việc đào tạo một mô hình ngôn ngữ lớn

is mind-boggling. Cách dùng từ

là đáng kinh ngạc.

To illustrate, Mạch ý

Để minh họa,

imagine that you could perform 1 billion additions and multiplications

hãy tưởng tượng rằng bạn có thể thực hiện 1 tỷ phép cộng và phép nhân

every single second.

mỗi giây.

How long do you think that it would take

Bạn nghĩ sẽ mất bao lâu

for you to do all of the operations

để bạn thực hiện tất cả các phép toán

involved in training the largest language models?

liên quan đến việc đào tạo các mô hình ngôn ngữ lớn nhất?

Do you think it would take a year?

Bạn nghĩ sẽ mất một năm?

Maybe something like 10,000 years?

Có thể khoảng 10.000 năm chăng?

The answer is actually much more than that.

Câu trả lời thực sự còn hơn thế rất nhiều.

It's well over 100 million years. Cụm từ

Nó là hơn 100 triệu năm.

This is only part of the story, though. Thành ngữ

Tuy nhiên, đây chỉ là một phần của câu chuyện.

This whole process is called pretraining.

Toàn bộ quá trình này được gọi là tiền đào tạo (pretraining).

The goal of autocompleting a random passage of text from the internet

Mục tiêu của việc tự động hoàn thành một đoạn văn bản ngẫu nhiên từ internet

is very different from the goal of being a good AI assistant.

rất khác so với mục tiêu trở thành một trợ lý AI tốt.

To address this, Mạch ý

Để giải quyết vấn đề này,

chatbots undergo another type of training, Cụm từ

các chatbot trải qua một loại đào tạo khác,

just as important, called reinforcement learning with human feedback.

cũng quan trọng không kém, được gọi là học tăng cường từ phản hồi của con người.

Workers flag unhelpful or problematic predictions, Cách dùng từ

Công nhân gắn cờ các dự đoán không hữu ích hoặc có vấn đề,

and their corrections further change the model's parameters,

và những sửa chữa của họ tiếp tục làm thay đổi các tham số của mô hình,

making them more likely to give predictions

khiến chúng có nhiều khả năng đưa ra các dự đoán

that users prefer.

mà người dùng thích hơn.

Looking back at the pretraining, though, Mạch ý

Tuy nhiên, nhìn lại quá trình tiền đào tạo,

this staggering amount of computation

khối lượng tính toán đáng kinh ngạc này

is only made possible by using special computer chips Ngữ pháp

chỉ có thể thực hiện được bằng cách sử dụng các chip máy tính đặc biệt

that are optimized for running many, many operations in parallel, Cụm từ

được tối ưu hóa để chạy rất, rất nhiều phép toán song song,

known as GPUs.

được gọi là GPU.

However,

Tuy nhiên,

not all language models can be easily parallelized.

không phải tất cả các mô hình ngôn ngữ đều có thể dễ dàng song song hóa.

Prior to 2017, Cách dùng từ

Trước năm 2017,

most language models would process text one word at a time. Cụm từ

hầu hết các mô hình ngôn ngữ sẽ xử lý văn bản mỗi lần một từ.

But then,

Nhưng sau đó,

a team of researchers at Google

một nhóm các nhà nghiên cứu tại Google

introduced a new model known as the Transformer.

đã giới thiệu một mô hình mới có tên là Transformer.

Transformers don't read text from the start to the finish.

Transformer không đọc văn bản từ đầu đến cuối.

They soak it all in at once, Cụm động từ

Chúng tiếp thu tất cả cùng một lúc,

in parallel.

song song.

The very first step inside a Transformer,

Bước đầu tiên bên trong một Transformer,

and most other language models for that matter, Mạch ý

và hầu hết các mô hình ngôn ngữ khác về mặt này,

is to associate each word with a long list of numbers.

là liên kết mỗi từ với một danh sách dài các con số.

The reason for this is that the training process only works with continuous values, Ngữ pháp

Lý do cho điều này là quá trình đào tạo chỉ hoạt động với các giá trị liên tục,

so you have to somehow encode language using numbers,

vì vậy bạn phải bằng cách nào đó mã hóa ngôn ngữ bằng cách sử dụng các con số,

and each of these lists of numbers

và mỗi danh sách các con số này

may somehow encode the meaning of the corresponding word.

có thể bằng cách nào đó mã hóa ý nghĩa của từ tương ứng.

What makes Transformers unique Ngữ pháp

Điều làm cho các Transformer trở nên độc đáo

is their reliance on a special operation known as attention. Cụm từ

là chúng dựa vào một phép toán đặc biệt được gọi là attention (sự chú ý).

This operation gives all of these lists of numbers

Phép toán này cung cấp cho tất cả các danh sách số này

a chance to talk to one another Thành ngữ

một cơ hội để nói chuyện với nhau

and refine the meanings that they encode

và tinh chỉnh các ý nghĩa mà chúng mã hóa

based on the context around,

dựa trên ngữ cảnh xung quanh,

all done in parallel.

tất cả được thực hiện song song.

For example,

Ví dụ,

the numbers encoding the word bank

các con số mã hóa từ "bank" (ngân hàng/bờ sông)

might be changed based on the context surrounding it

có thể bị thay đổi dựa trên ngữ cảnh xung quanh nó

to somehow encode the more specific notion of a river bank.

để bằng cách nào đó mã hóa khái niệm cụ thể hơn về một bờ sông (river bank).

Transformers typically also include a second type of operation

Transformer thường cũng bao gồm một loại phép toán thứ hai

known as a feed-forward neural network,

được gọi là mạng nơ-ron truyền thẳng (feed-forward neural network),

and this gives the model extra capacity

và điều này cung cấp cho mô hình thêm dung lượng

to store more patterns about language learned during training.

để lưu trữ nhiều mẫu hơn về ngôn ngữ đã học trong quá trình đào tạo.

All of this data repeatedly flows through many different iterations

Tất cả dữ liệu này liên tục chảy qua nhiều lần lặp khác nhau

of these two fundamental operations,

của hai phép toán cơ bản này,

and as it does so, Mạch ý

và khi nó làm như vậy,

the hope is that each list of numbers

hy vọng là mỗi danh sách số

is enriched to encode whatever information might be needed Ngữ pháp

được làm phong phú để mã hóa bất kỳ thông tin nào có thể cần thiết

to make an accurate prediction

để đưa ra dự đoán chính xác

of what word follows in the passage.

về từ nào theo sau trong đoạn văn.

At the end,

Vào cuối cùng,

one final function is performed on the last vector in this sequence,

một hàm cuối cùng được thực hiện trên vectơ cuối cùng trong chuỗi này,

which now has had a chance to be influenced by all the other context Ngữ pháp

vectơ này hiện đã có cơ hội bị ảnh hưởng bởi tất cả các ngữ cảnh khác

from the input text,

từ văn bản đầu vào,

as well as everything the model learned during training,

cũng như mọi thứ mà mô hình đã học được trong quá trình đào tạo,

to produce a prediction of the next word.

để tạo ra dự đoán về từ tiếp theo.

Again,

Một lần nữa,

the model's prediction looks like a probability for every possible next word.

dự đoán của mô hình trông giống như một xác suất cho mọi từ tiếp theo có thể xảy ra.

Although researchers design the framework for how each of these steps work, Mạch ý

Mặc dù các nhà nghiên cứu thiết kế khuôn khổ cho cách thức hoạt động của mỗi bước này,

it's important to understand that the specific behavior is an emergent phenomenon Cách dùng từ

nhưng điều quan trọng cần hiểu là hành vi cụ thể là một hiện tượng nổi bật (emergent phenomenon)

based on how those hundreds of billions of parameters

dựa trên cách hàng trăm tỷ tham số đó

are tuned during training.

được điều chỉnh trong quá trình đào tạo.

This makes it incredibly challenging to determine Ngữ pháp

Điều này làm cho việc xác định cực kỳ khó khăn

why the model makes the exact predictions that it does.

tại sao mô hình lại đưa ra chính xác những dự đoán như vậy.

What you can see is that when you use large language model predictions to autocomplete a prompt, Mạch ý

Những gì bạn có thể thấy là khi bạn sử dụng các dự đoán của mô hình ngôn ngữ lớn để tự động hoàn thành một lời nhắc,

the words that it generates

những từ mà nó tạo ra

are uncannily fluent, Cách dùng từ

trôi chảy đến kỳ lạ,

fascinating,

hấp dẫn,

and even useful.

và thậm chí hữu ích.

If you're a new viewer

Nếu bạn là một người xem mới

and you're curious about more details on how Transformers and attention work,

và bạn tò mò về nhiều chi tiết hơn về cách Transformer và attention hoạt động,

boy do I have some material for you. Ngữ pháp

tôi có một số tài liệu tuyệt vời cho bạn.

One option is to jump into a series I made about deep learning Cụm động từ

Một lựa chọn là nhảy vào một loạt video tôi làm về deep learning

where we visualize and motivate the details of attention Cách dùng từ

nơi chúng tôi trực quan hóa và thúc đẩy các chi tiết về attention

and all the other steps in a Transformer.

và tất cả các bước khác trong một Transformer.

But also, on my second channel,

Nhưng ngoài ra, trên kênh thứ hai của tôi,

I just posted a talk that I gave a couple months ago Cách dùng từ

tôi vừa đăng một buổi nói chuyện mà tôi đã thực hiện vài tháng trước

about this topic for the company TNG in Munich.

về chủ đề này cho công ty TNG ở Munich.

Sometimes I actually prefer the content that I make as a casual talk

Đôi khi tôi thực sự thích những nội dung tôi tạo dưới dạng một buổi nói chuyện thông thường

rather than a produced video, Ngữ pháp

hơn là một video được sản xuất kỹ lưỡng,

but I leave it up to you which one of these feels like the better follow-on. Thành ngữ

nhưng tôi để bạn quyết định xem nội dung nào trong số này có vẻ là phần tiếp theo tốt hơn.