อธิบายโมเดลภาษาขนาดใหญ่ (LLM) อย่างย่อ: บทเรียนภาษาอังกฤษ

Imagine you happen across a short movie script that describes a scene between a person and their AI assistant. กริยาวลี

ลองจินตนาการว่าคุณบังเอิญเจอบทภาพยนตร์สั้นๆ ที่อธิบายฉากระหว่างคนกับผู้ช่วย AI ของพวกเขา

The script has what the person asks the AI,

ในบทมีสิ่งที่คนถาม AI

but the AI's response has been torn off. กริยาวลี

แต่ส่วนที่เป็นคำตอบของ AI ถูกฉีกขาดไป

Suppose you also have this powerful magical machine

สมมติว่าคุณมีเครื่องจักรวิเศษที่ทรงพลัง

that can take any text and provide a sensible prediction

ที่สามารถรับข้อความใดๆ แล้วให้คำทำนายที่สมเหตุสมผลว่า

of what word comes next.

คำต่อไปคืออะไร

You could then finish the script by feeding in what you have to the machine, กริยาวลี

คุณก็สามารถเติมบทให้จบได้โดยการป้อนข้อมูลที่คุณมีลงในเครื่อง

seeing what it would predict to start the AI's answer,

ดูว่ามันจะทำนายคำเริ่มต้นคำตอบของ AI ว่าอย่างไร

and then repeating this over and over วลี

แล้วทำซ้ำแบบนี้ไปเรื่อยๆ

with a growing script completing the dialogue.

พร้อมกับบทที่ยาวขึ้นจนจบบทสนทนา

When you interact with a chatbot,

เมื่อคุณโต้ตอบกับแชทบอท

this is exactly what's happening.

นี่คือสิ่งที่กำลังเกิดขึ้นจริงๆ

A large language model is a sophisticated mathematical function

โมเดลภาษาขนาดใหญ่คือฟังก์ชันทางคณิตศาสตร์ที่ซับซ้อน

that predicts what word comes next for any piece of text.

ที่ทำนายว่าคำต่อไปสำหรับข้อความใดๆ จะเป็นคำว่าอะไร

Instead of predicting one word with certainty, though,

แต่แทนที่จะทำนายคำเดียวด้วยความแน่ใจ

what it does is assign a probability ไวยากรณ์

สิ่งที่มันทำคือกำหนดค่าความน่าจะเป็น

to all possible next words.

ให้กับทุกคำที่เป็นไปได้ที่จะตามมา

To build a chatbot,

ในการสร้างแชทบอท

what you do is lay out some text กริยาวลี

สิ่งที่คุณต้องทำคือวางข้อความบางส่วน

that describes an interaction between a user and a hypothetical AI assistant.

ที่อธิบายการโต้ตอบระหว่างผู้ใช้กับผู้ช่วย AI สมมติ

You add on whatever the user types in กริยาวลี

คุณเพิ่มสิ่งที่ผู้ใช้พิมพ์เข้าไป

as the first part of that interaction,

ในฐานะส่วนแรกของการโต้ตอบนั้น

and then you have the model repeatedly predict the next word

จากนั้นให้โมเดลทำนายคำต่อไปซ้ำๆ

that such a hypothetical AI assistant would say in response,

ที่ผู้ช่วย AI สมมติจะพูดเพื่อตอบกลับ

and that's what's presented to the user.

และนั่นคือสิ่งที่นำเสนอต่อผู้ใช้

In doing this,

ในการทำเช่นนี้

the output tends to look a lot more natural ไวยากรณ์

ผลลัพธ์มักจะดูเป็นธรรมชาติมากขึ้นเยอะ

if you allow it to select less likely words

ถ้าคุณอนุญาตให้มันเลือกคำที่มีความเป็นไปได้น้อยกว่า

along the way at random. วลี

ในระหว่างทางแบบสุ่ม

So what this means is even though the model itself is deterministic, ไวยากรณ์

ดังนั้นสิ่งนี้หมายความว่า แม้ว่าตัวโมเดลเองจะถูกกำหนดไว้ตายตัว

a given prompt typically gives a different answer each time it's run. การใช้คำ

แต่พรอมต์ที่ให้ไปมักจะให้คำตอบที่ต่างกันในแต่ละครั้งที่รัน

Models learn how to make these predictions

โมเดลเรียนรู้วิธีการทำนายเหล่านี้

by processing an enormous amount of text,

โดยการประมวลผลข้อความจำนวนมหาศาล

typically pulled from the internet.

ซึ่งมักจะดึงมาจากอินเทอร์เน็ต

For a standard human to read the amount of text that was used to train GPT-3,

สำหรับคนธรรมดา หากจะอ่านข้อความจำนวนเท่ากับที่ใช้ฝึก GPT-3

for example,

ตัวอย่างเช่น

if they read non-stop 24/7,

ถ้าพวกเขาอ่านแบบไม่หยุดพักตลอด 24 ชั่วโมง 7 วัน

it would take over 2600 years.

จะใช้เวลามากกว่า 2600 ปี

Larger models since then train on much, much more.

ตั้งแต่นั้นมา โมเดลที่ใหญ่กว่าก็ฝึกฝนด้วยข้อมูลที่เยอะกว่านี้มาก

You can think of training a little bit like tuning the dials on a big machine. ไวยากรณ์

คุณสามารถนึกถึงการฝึกฝนว่าคล้ายกับการปรับปุ่มหมุนบนเครื่องจักรขนาดใหญ่

The way that a language model behaves

วิธีการแสดงพฤติกรรมของโมเดลภาษา

is entirely determined by these many different continuous values,

ถูกกำหนดโดยค่าต่อเนื่องที่แตกต่างกันมากมายเหล่านี้ทั้งหมด

usually called parameters or weights.

ซึ่งมักจะเรียกว่าพารามิเตอร์หรือน้ำหนัก

Changing those parameters will change the probabilities

การเปลี่ยนพารามิเตอร์เหล่านั้นจะเปลี่ยนความน่าจะเป็น

that the model gives for the next word on a given input.

ที่โมเดลให้มาสำหรับคำต่อไปจากอินพุตที่กำหนด

What puts the large in large language model สำนวน

สิ่งที่ทำให้โมเดลภาษาขนาดใหญ่มีความ "ใหญ่"

is how they can have hundreds of billions of these parameters.

คือการที่มันสามารถมีพารามิเตอร์เหล่านี้ได้หลายแสนล้านตัว

No human ever deliberately sets those parameters.

ไม่มีมนุษย์คนไหนจงใจตั้งค่าพารามิเตอร์เหล่านั้น

Instead, they begin at random,

แต่พวกมันเริ่มต้นด้วยการสุ่ม

meaning the model just outputs gibberish,

หมายความว่าตอนแรกโมเดลจะพ่นแต่คำที่ไม่มีความหมาย

but they're repeatedly refined based on many example pieces of text.

แต่จะถูกปรับแต่งซ้ำๆ โดยอิงจากตัวอย่างข้อความมากมาย

One of these training examples could be just a handful of words, วลี

หนึ่งในตัวอย่างการฝึกอบรมเหล่านี้อาจเป็นเพียงคำไม่กี่คำ

or it could be thousands,

หรืออาจเป็นหลายพันคำ

but in either case,

แต่ไม่ว่ากรณีใด

the way this works is to pass in all but the last word from that example ไวยากรณ์

วิธีที่มันทำงานคือการส่งผ่านทุกคำในตัวอย่างยกเว้นคำสุดท้าย

into the model and compare the prediction

เข้าไปในโมเดล แล้วเปรียบเทียบคำทำนาย

that it makes with the true last word from the example.

ที่มันสร้างขึ้นกับคำสุดท้ายที่แท้จริงจากตัวอย่าง

An algorithm called backpropagation is used to tweak all of the parameters

อัลกอริทึมที่เรียกว่า backpropagation (การแพร่กลับ) ถูกนำมาใช้เพื่อปรับแต่งพารามิเตอร์ทั้งหมด

in such a way that it makes the model ไวยากรณ์

ในลักษณะที่ทำให้โมเดล

a little more likely to choose the true last word

มีโอกาสเลือกคำสุดท้ายที่แท้จริงได้มากขึ้นเล็กน้อย

and a little less likely to choose all the others.

และมีโอกาสเลือกคำอื่นๆ ได้น้อยลงเล็กน้อย

When you do this for many, many trillions of examples,

เมื่อคุณทำสิ่งนี้กับตัวอย่างหลายล้านล้านครั้ง

not only does the model start to give more accurate predictions on the training data, ไวยากรณ์

โมเดลไม่เพียงเริ่มให้คำทำนายที่แม่นยำขึ้นกับข้อมูลที่ใช้ฝึกเท่านั้น

but it also starts to make more reasonable predictions

แต่มันยังเริ่มทำนายได้อย่างมีเหตุผลมากขึ้น

on text that it's never seen before.

กับข้อความที่มันไม่เคยเห็นมาก่อนด้วย

Given the huge number of parameters

ด้วยจำนวนพารามิเตอร์ที่มหาศาล

and the enormous amount of training data,

และข้อมูลการฝึกอบรมที่มากมายมหาศาล

the scale of computation involved in training a large language model

ระดับการคำนวณที่ใช้ในการฝึกโมเดลภาษาขนาดใหญ่

is mind-boggling. การใช้คำ

จึงน่าเหลือเชื่อจนทำให้แทบคลั่ง

To illustrate, ลำดับความ

เพื่ออธิบายให้เห็นภาพ

imagine that you could perform 1 billion additions and multiplications

ลองจินตนาการว่าคุณสามารถคำนวณการบวกและคูณ 1 พันล้านครั้ง

every single second.

ได้ในทุกๆ วินาที

How long do you think that it would take

คุณคิดว่าจะต้องใช้เวลานานแค่ไหน

for you to do all of the operations

ในการที่คุณจะทำโอเปอเรชันทั้งหมด

involved in training the largest language models?

ที่เกี่ยวข้องกับการฝึกโมเดลภาษาที่ใหญ่ที่สุด?

Do you think it would take a year?

คุณคิดว่าจะใช้เวลา 1 ปีไหม?

Maybe something like 10,000 years?

หรืออาจจะสัก 10,000 ปี?

The answer is actually much more than that.

ความจริงแล้วคำตอบคือมากกว่านั้นมาก

It's well over 100 million years. วลี

มันใช้เวลามากกว่า 100 ล้านปีเสียอีก

This is only part of the story, though. สำนวน

แต่อย่างไรก็ตาม นี่เป็นเพียงส่วนหนึ่งของเรื่องราวเท่านั้น

This whole process is called pretraining.

กระบวนการทั้งหมดนี้เรียกว่าการฝึกฝนล่วงหน้า (pretraining)

The goal of autocompleting a random passage of text from the internet

เป้าหมายของการเติมข้อความสุ่มจากอินเทอร์เน็ตให้สมบูรณ์อัตโนมัตินั้น

is very different from the goal of being a good AI assistant.

แตกต่างอย่างมากจากเป้าหมายของการเป็นผู้ช่วย AI ที่ดี

To address this, ลำดับความ

เพื่อจัดการกับสิ่งนี้

chatbots undergo another type of training, วลี

แชทบอทจะผ่านการฝึกอีกประเภทหนึ่ง

just as important, called reinforcement learning with human feedback.

ที่สำคัญพอๆ กัน เรียกว่าการเรียนรู้แบบเสริมกำลังด้วยความคิดเห็นของมนุษย์ (RLHF)

Workers flag unhelpful or problematic predictions, การใช้คำ

ทีมงานจะทำเครื่องหมายคำทำนายที่ไม่มีประโยชน์หรือมีปัญหา

and their corrections further change the model's parameters,

และการแก้ไขของพวกเขาจะเปลี่ยนพารามิเตอร์ของโมเดลต่อไป

making them more likely to give predictions

ทำให้มันมีแนวโน้มที่จะให้คำทำนาย

that users prefer.

แบบที่ผู้ใช้ชื่นชอบมากขึ้น

Looking back at the pretraining, though, ลำดับความ

แต่เมื่อมองกลับไปที่การฝึกฝนล่วงหน้า

this staggering amount of computation

ปริมาณการคำนวณที่น่าตกใจนี้

is only made possible by using special computer chips ไวยากรณ์

เป็นไปได้ก็ต่อเมื่อใช้ชิปคอมพิวเตอร์พิเศษ

that are optimized for running many, many operations in parallel, วลี

ที่ได้รับการปรับแต่งมาเพื่อให้รันโอเปอเรชันจำนวนมากมายพร้อมๆ กัน (แบบขนาน)

known as GPUs.

ซึ่งรู้จักกันในชื่อ GPU

However,

อย่างไรก็ตาม

not all language models can be easily parallelized.

ไม่ใช่ว่าโมเดลภาษาทั้งหมดจะสามารถนำมาทำแบบขนานได้ง่ายๆ

Prior to 2017, การใช้คำ

ก่อนปี 2017

most language models would process text one word at a time. วลี

โมเดลภาษาส่วนใหญ่จะประมวลผลข้อความทีละคำ

But then,

แต่แล้ว

a team of researchers at Google

ทีมนักวิจัยของ Google

introduced a new model known as the Transformer.

ก็ได้แนะนำโมเดลใหม่ที่รู้จักกันในชื่อ Transformer

Transformers don't read text from the start to the finish.

Transformer ไม่ได้อ่านข้อความตั้งแต่ต้นจนจบ

They soak it all in at once, กริยาวลี

พวกมันดูดซับเนื้อหาทั้งหมดในคราวเดียว

in parallel.

ในแบบขนาน

The very first step inside a Transformer,

ขั้นตอนแรกสุดภายใน Transformer

and most other language models for that matter, ลำดับความ

และรวมถึงโมเดลภาษาอื่นๆ ส่วนใหญ่ด้วย

is to associate each word with a long list of numbers.

คือการจับคู่แต่ละคำกับรายการตัวเลขยาวๆ

The reason for this is that the training process only works with continuous values, ไวยากรณ์

เหตุผลก็คือกระบวนการฝึกอบรมใช้ได้กับค่าที่ต่อเนื่องเท่านั้น

so you have to somehow encode language using numbers,

ดังนั้นคุณจึงต้องเข้ารหัสภาษาด้วยตัวเลขด้วยวิธีใดวิธีหนึ่ง

and each of these lists of numbers

และรายการตัวเลขแต่ละชุดนี้

may somehow encode the meaning of the corresponding word.

อาจเข้ารหัสความหมายของคำที่สอดคล้องกันในทางใดทางหนึ่ง

What makes Transformers unique ไวยากรณ์

สิ่งที่ทำให้ Transformer ไม่เหมือนใคร

is their reliance on a special operation known as attention. วลี

คือการพึ่งพาโอเปอเรชันพิเศษที่รู้จักกันในชื่อ attention (ความสนใจ)

This operation gives all of these lists of numbers

โอเปอเรชันนี้ให้รายการตัวเลขเหล่านี้ทั้งหมด

a chance to talk to one another สำนวน

มีโอกาสได้สื่อสารพูดคุยกัน

and refine the meanings that they encode

และปรับแต่งความหมายที่มันเข้ารหัสไว้

based on the context around,

โดยพิจารณาจากบริบทรอบข้าง

all done in parallel.

ทั้งหมดทำแบบขนาน

For example,

ตัวอย่างเช่น

the numbers encoding the word bank

ตัวเลขที่เข้ารหัสคำว่า "bank" (ธนาคาร/ตลิ่ง)

might be changed based on the context surrounding it

อาจถูกเปลี่ยนแปลงโดยขึ้นอยู่กับบริบทที่ล้อมรอบมัน

to somehow encode the more specific notion of a river bank.

เพื่อเข้ารหัสแนวคิดที่เจาะจงมากขึ้นของตลิ่งแม่น้ำ (river bank)

Transformers typically also include a second type of operation

โดยทั่วไป Transformer ยังมีโอเปอเรชันอีกประเภทหนึ่ง

known as a feed-forward neural network,

รู้จักกันในชื่อ โครงข่ายประสาทเทียมแบบป้อนไปข้างหน้า (feed-forward neural network)

and this gives the model extra capacity

และสิ่งนี้ทำให้โมเดลมีความจุพิเศษ

to store more patterns about language learned during training.

ในการจัดเก็บรูปแบบเกี่ยวกับภาษาเพิ่มเติมที่เรียนรู้ระหว่างการฝึก

All of this data repeatedly flows through many different iterations

ข้อมูลทั้งหมดนี้จะไหลซ้ำๆ ผ่านการวนลูป (iterations) ที่แตกต่างกันมากมาย

of these two fundamental operations,

ของโอเปอเรชันพื้นฐานสองประเภทนี้

and as it does so, ลำดับความ

และเมื่อเป็นเช่นนั้น

the hope is that each list of numbers

ความหวังก็คือรายการตัวเลขแต่ละรายการ

is enriched to encode whatever information might be needed ไวยากรณ์

จะถูกทำให้สมบูรณ์ขึ้นเพื่อเข้ารหัสข้อมูลใดๆ ที่อาจจำเป็น

to make an accurate prediction

เพื่อสร้างคำทำนายที่แม่นยำ

of what word follows in the passage.

ว่าคำอะไรจะตามมาในบทความ

At the end,

ในตอนท้าย

one final function is performed on the last vector in this sequence,

ฟังก์ชันสุดท้ายอย่างหนึ่งจะถูกดำเนินการกับเวกเตอร์ตัวสุดท้ายในลำดับนี้

which now has had a chance to be influenced by all the other context ไวยากรณ์

ซึ่งตอนนี้มีโอกาสได้รับอิทธิพลจากบริบทอื่นๆ ทั้งหมด

from the input text,

จากข้อความอินพุตแล้ว

as well as everything the model learned during training,

รวมถึงทุกสิ่งที่โมเดลเรียนรู้ระหว่างการฝึก

to produce a prediction of the next word.

เพื่อสร้างคำทำนายสำหรับคำถัดไป

Again,

ขอย้ำอีกครั้ง

the model's prediction looks like a probability for every possible next word.

คำทำนายของโมเดลดูเหมือนเป็นค่าความน่าจะเป็นสำหรับทุกคำถัดไปที่เป็นไปได้

Although researchers design the framework for how each of these steps work, ลำดับความ

แม้ว่านักวิจัยจะออกแบบโครงร่างว่าแต่ละขั้นตอนเหล่านี้ทำงานอย่างไร

it's important to understand that the specific behavior is an emergent phenomenon การใช้คำ

สิ่งสำคัญที่ต้องเข้าใจก็คือพฤติกรรมเฉพาะตัวนั้นเป็นปรากฏการณ์ฉุกเฉิน (emergent phenomenon)

based on how those hundreds of billions of parameters

ซึ่งขึ้นอยู่กับว่าพารามิเตอร์หลายแสนล้านตัวเหล่านั้น

are tuned during training.

ถูกปรับแต่งอย่างไรในระหว่างการฝึก

This makes it incredibly challenging to determine ไวยากรณ์

สิ่งนี้ทำให้มันท้าทายอย่างเหลือเชื่อในการพิจารณาว่า

why the model makes the exact predictions that it does.

ทำไมโมเดลถึงทำนายออกมาเป็นแบบนั้นเป๊ะๆ

What you can see is that when you use large language model predictions to autocomplete a prompt, ลำดับความ

สิ่งที่คุณเห็นก็คือ เมื่อคุณใช้คำทำนายของโมเดลภาษาขนาดใหญ่เพื่อเติมพรอมต์ให้สมบูรณ์อัตโนมัติ

the words that it generates

คำที่มันสร้างขึ้น

are uncannily fluent, การใช้คำ

ไหลลื่นจนน่าขนลุก

fascinating,

น่าหลงใหล

and even useful.

และยังมีประโยชน์อีกด้วย

If you're a new viewer

หากคุณเป็นผู้ชมหน้าใหม่

and you're curious about more details on how Transformers and attention work,

และคุณอยากรู้รายละเอียดเพิ่มเติมว่า Transformer และ attention ทำงานอย่างไร

boy do I have some material for you. ไวยากรณ์

ผมมีเนื้อหาดีๆ มาให้คุณเลยครับ

One option is to jump into a series I made about deep learning กริยาวลี

ทางเลือกหนึ่งคือเข้าไปดูซีรีส์ที่ผมทำไว้เกี่ยวกับ deep learning

where we visualize and motivate the details of attention การใช้คำ

ซึ่งเราจะได้เห็นภาพและกระตุ้นให้เข้าใจรายละเอียดของ attention

and all the other steps in a Transformer.

และขั้นตอนอื่นๆ ทั้งหมดใน Transformer

But also, on my second channel,

แต่ในช่องที่สองของผมด้วย

I just posted a talk that I gave a couple months ago การใช้คำ

ผมเพิ่งโพสต์งานบรรยายที่ผมไปพูดเมื่อสองสามเดือนก่อน

about this topic for the company TNG in Munich.

เกี่ยวกับหัวข้อนี้ให้กับบริษัท TNG ในเมืองมิวนิก

Sometimes I actually prefer the content that I make as a casual talk

บางครั้งผมก็ชอบเนื้อหาที่ผมทำเป็นบรรยายแบบสบายๆ

rather than a produced video, ไวยากรณ์

มากกว่าวิดีโอที่ผ่านการโปรดักชัน

but I leave it up to you which one of these feels like the better follow-on. สำนวน

แต่ผมปล่อยให้คุณตัดสินใจเองว่าอันไหนจะเหมาะที่จะดูเป็นลำดับต่อไป