AI는 세상을 어떻게 바꿀까?: 영어 학습 노트

In the coming years,

앞으로 몇 년 안에,

artificial intelligence is probably going to change your life and likely the entire world. 문법

인공지능은 아마도 당신의 삶과 세계 전체를 변화시킬 것입니다.

But people have a hard time agreeing on exactly how. 문법

하지만 사람들은 정확히 어떻게 변할지에 대해 쉽게 동의하지 못합니다.

The following are excerpts from a World Economic Forum interview

다음은 세계경제포럼 인터뷰의 발췌문으로,

where renowned computer science professor and AI expert Stuart Russell helps separate the sense from the nonsense. 관용구

저명한 컴퓨터 과학 교수이자 AI 전문가인 스튜어트 러셀이 의미 있는 것과 무의미한 것을 구별하도록 도와줍니다.

There's a big difference between asking a human to do something 문법

인간에게 무언가를 하라고 부탁하는 것과

and giving that as the objective to an AI system.

그것을 AI 시스템에 목표로 부여하는 것에는 큰 차이가 있습니다.

When you ask a human to fetch you a cup of coffee,

인간에게 커피 한 잔을 가져다 달라고 부탁할 때,

you don't mean this should be their life's mission 전개 흐름

이것이 그들의 인생의 사명이어야 한다거나

and nothing else in the universe matters,

우주의 다른 어떤 것도 중요하지 않다는 의미는 아닙니다.

even if they have to kill everybody else in Starbucks to get you the coffee before it closes.

설령 가게가 문을 닫기 전에 커피를 가져오기 위해 스타벅스에 있는 다른 모든 사람을 죽여야 한다고 해도

They should do that.

그렇게 해야 한다는 뜻은 아니죠.

No, that's not what you mean, right?

아니요, 그런 뜻이 아니잖아요, 그렇죠?

You mean all the other things that we mutually care about,

우리가 서로 신경 쓰는 다른 모든 것들도

they should factor into your behavior as well. 표현 묶음

그들의 행동에 요소로 작용해야 한다는 뜻입니다.

And the problem with the way we build AI systems now is we give them a fixed objective, right? 어휘 쓰임

현재 우리가 AI 시스템을 구축하는 방식의 문제점은 고정된 목표를 부여한다는 것입니다.

The algorithms require us to specify everything in the objective.

알고리즘은 우리가 목표에 모든 것을 명시하도록 요구합니다.

And if you say,

만약 당신이,

you know, can we fix the acidification of the oceans? 어휘 쓰임

우리가 바다의 산성화를 고칠 수 있을까? 라고 묻는다면

Yeah, you could have a catalytic reaction that does that extremely efficiently, but,

네, 그것을 매우 효율적으로 수행하는 촉매 반응을 일으킬 수 있지만,

you know, it consumes a quarter of the oxygen in the atmosphere,

그 과정에서 대기 중 산소의 4분의 1을 소비하게 되고,

which would apparently cause us to die fairly slowly and unpleasantly over the course of several hours.

이는 분명히 우리가 몇 시간에 걸쳐 상당히 느리고 고통스럽게 죽게 만들 것입니다.

Um, so how do we avoid this problem, right?

음, 그럼 우리는 이 문제를 어떻게 피할 수 있을까요, 그렇죠?

You might say, okay, well,

당신은 이렇게 말할 수도 있습니다. 좋아요, 그럼,

just be more careful about specifying the objective, right?

목표를 지정할 때 좀 더 조심하면 되잖아요.

Don't forget the, you know, atmospheric oxygen.

잊지 마, 대기 중의 산소 같은 거 말이야.

And then, of course,

그러면 당연하게도,

some side effect of the reaction in the ocean poisons all the fish.

바다에서의 반응의 어떤 부작용이 모든 물고기를 독살합니다.

Okay, well, I meant don't kill the fish

좋아요, 음, 내 말은 물고기를 죽이지 말라는 뜻이었어요

either. And then, well, what about the seaweed?

또한요. 그럼, 음, 해초는 어쩌죠?

Okay, well, don't do anything that's going to cause all the seaweed to die.

좋아요, 음, 모든 해초를 죽게 만들 어떤 일도 하지 마세요.

And on and on and on, right? 전개 흐름

그리고 계속해서 이어지겠죠, 그렇죠?

And the reason that we don't have to do that with humans is that humans often know that they don't know all the things that we care about. 해설

우리가 인간에게 그렇게 할 필요가 없는 이유는 인간은 우리가 신경 쓰는 모든 것을 자신이 다 알지는 못한다는 사실을 종종 알기 때문입니다.

If you ask a human to get you a cup of coffee,

만약 인간에게 커피 한 잔을 가져다 달라고 부탁했는데,

you know, and you happen to be in the Hotel George Sand in Paris,

마침 파리의 호텔 조르주 상드에 있었고,

where the coffee is, I think, 13 Euros a cup,

거기 커피는 제 생각엔 한 잔에 13유로쯤 할 겁니다.

it's entirely reasonable to come back and say,

돌아와서 이렇게 말하는 것은 전적으로 합리적입니다.

well, it's 13 Euros.

저, 13유로인데요.

Are you sure you want it or I could go next door and you know get one? 말투와 의도

정말 드시겠어요, 아니면 옆집에 가서 하나 사 올까요?

It's a perfectly normal thing for a person to do, right?

이건 사람이 하기에 지극히 정상적인 행동이죠, 안 그런가요?

To ask,

질문하는 거요,

you know, I'm going to repaint your house.

제가 당신의 집을 다시 칠할 건데요.

Is it okay if I take off the drainpipes and then put them back? 말투와 의도

배수관을 떼어냈다가 다시 달아도 괜찮을까요?

We don't think of this as a terribly sophisticated capability, 어휘 쓰임

우리는 이것을 대단히 정교한 능력이라고 생각하지 않지만,

but AI systems don't have it because the way we build them now,

지금의 구축 방식 때문에 AI 시스템은 이 능력을 갖고 있지 않습니다.

they have to know the full objective.

그들은 전체 목표를 알아야만 하니까요.

If we build systems that know that they don't know what the objective is,

만약 목표가 무엇인지 모른다는 것을 아는 시스템을 구축한다면,

then they start to exhibit these behaviors like asking for permission

그들은 대기 중의 모든 산소를 제거하기 전에

before getting rid of all the oxygen in the atmosphere. 구동사

허락을 구하는 것과 같은 행동을 보이기 시작합니다.

In all these senses,

이 모든 의미에서,

control over the AI system comes from the machine's uncertainty about what the true objective is. 전개 흐름

AI 시스템에 대한 통제력은 진정한 목표가 무엇인지에 대한 기계의 불확실성에서 비롯됩니다.

It's when you build machines that believe with certainty that they have the objective, 문법

자신이 목표를 가지고 있다고 확신하는 기계를 만들 때,

that's when you get this sort of psychopathic behavior. 어휘 쓰임

바로 그때 이런 사이코패스적인 행동을 보게 되는 것입니다.

And I think we see the same thing in humans.

그리고 저는 인간에게서도 같은 것을 본다고 생각합니다.

What happens when general purpose AI hits the real economy? 어휘 쓰임

범용 AI가 실물 경제에 타격을 주면 무슨 일이 일어날까요?

How do things change?

상황은 어떻게 변할까요?

Can we adapt?

우리는 적응할 수 있을까요?

You know, this is a very old point.

이건 아주 오래된 지적입니다.

Amazingly,

놀랍게도,

Aristotle actually has a passage where he says,

아리스토텔레스의 글 중에는 실제로 이런 구절이 있습니다.

look,

보라,

if we had fully automated weaving machines and plectrums that could pluck the lyre and produce music without any humans, 문화 배경

만약 우리가 인간 없이도 리라를 뜯고 음악을 만들어낼 수 있는 전자동 베틀과 피크를 갖게 된다면,

then we wouldn't need any workers.

우리에겐 어떤 노동자도 필요하지 않을 것이다.

That idea,

그 아이디어는,

which I think it was Keynes who called it technological unemployment in 1930,

1930년에 케인스가 '기술적 실업'이라고 불렀던 것 같은데,

is very obvious to people, right?

사람들에게는 매우 명백한 일이죠, 그렇죠?

They think,

그들은 생각합니다.

yeah, of course,

네, 당연하죠,

if the machine does the work,

기계가 일을 한다면,

then I'm going to be unemployed.

나는 실업자가 될 거야.

If you think about the warehouses that companies like Amazon are operating for e-commerce,

아마존 같은 기업들이 전자상거래를 위해 운영하는 창고를 생각해보면,

they are half automated.

절반 정도 자동화되어 있습니다.

The way it works is that on an old warehouse where you've got tons of stuff piled up all over the place 전개 흐름

예전 방식은 여기저기 산더미처럼 물건이 쌓여 있는 낡은 창고에서

and the humans go and rummage around and then bring it back and send it off, 구동사

인간이 가서 뒤적거리며 찾아온 뒤 발송하는 식이었지만,

there's a robot who goes and gets the shelving unit that contains the thing that you need,

이제는 당신이 필요로 하는 물건이 들어있는 선반 장치를 가져오는 로봇이 있습니다.

but the human has to pick the object out of the bin or the off the shelf because that's still too difficult. 구동사

하지만 여전히 인간이 쓰레기통이나 선반에서 물건을 골라내야 합니다. 그건 아직 너무 어렵기 때문이죠.

But, you know, at the same time,

하지만, 동시에,

would you make a robot that is accurate enough to be able to pick pretty much any object 문법

당신이 살 수 있는 매우 다양한 물건들 중에서

within a very wide variety of objects that you can buy?

거의 모든 물건을 집어낼 수 있을 만큼 정확한 로봇을 만드시겠습니까?

And that would at a stroke eliminate three or four million jobs. 관용구

그리고 그것은 단번에 300만에서 400만 개의 일자리를 없앨 것입니다.

There's an interesting story that E.M. Forster wrote where everyone is entirely machine dependent. 문화 배경

E.M. 포스터가 쓴 흥미로운 이야기가 있는데, 거기서 모든 사람은 전적으로 기계에 의존합니다.

The story is really about the fact that if you hand over the management of your civilization to machines, 구동사

이 이야기가 진정으로 말하고자 하는 바는, 문명의 관리를 기계에 넘겨주면,

you then lose the incentive to understand it yourself or to teach the next generation how to understand it. 표현 묶음

당신은 스스로 그것을 이해하거나 다음 세대에게 어떻게 이해하는지 가르칠 동기를 잃게 된다는 사실입니다.

And you can see WALL-E actually as a modern version where everyone is enfeebled and infantilized by the machine. 어휘 쓰임

WALL-E를 모든 사람이 기계에 의해 나약해지고 유아화된 현대판이라고 볼 수 있습니다.

And that hasn't been possible up to now,

그리고 그것은 지금까지는 불가능했습니다.

right?

그렇죠?

We put a lot of our civilization into books,

우리는 문명의 많은 부분을 책 속에 담았지만,

but the books can't run it for us. 어휘 쓰임

책이 우리를 위해 그것을 운영해 줄 수는 없습니다.

And so we always have to teach the next generation.

그래서 우리는 항상 다음 세대를 가르쳐야만 합니다.

If you work it out,

계산해 보면,

it's about a trillion person years of teaching and learning in an unbroken chain 전개 흐름

그것은 끊어지지 않은 사슬 속에서 약 1조 인년(person years)의 가르침과 배움이며,

that goes back tens of thousands of generations.

수만 세대 전으로 거슬러 올라갑니다.

What happens if that chain breaks?

그 사슬이 끊어지면 어떻게 될까요?

And I think that's something we have to understand as AI moves forward.

AI가 발전함에 따라 그것이 우리가 이해해야 할 점이라고 생각합니다.

The actual date of arrival of general purpose AI you're not going to be able to pinpoint, right? 어휘 쓰임

범용 AI가 도착하는 정확한 날짜를 당신은 집어낼 수 없을 것입니다, 그렇죠?

It isn't a single day.

그건 단 하루가 아닙니다.

It's also not the case that it's all or nothing. 관용구

모 아니면 도인 경우도 아닙니다.

The impact is going to be increasing.

그 영향력은 점점 더 커질 것입니다.

So with every advance in AI,

그래서 AI가 발전할 때마다,

it significantly expands the range of tasks. 표현 묶음

작업의 범위는 크게 확장됩니다.

So in that sense,

그런 의미에서,

I think most experts say by the end of the century,

대부분의 전문가들은 세기말쯤에는

we're very very likely to have general purpose AI. 문법

우리가 범용 AI를 갖게 될 가능성이 매우 높다고 말하는 것 같습니다.

The median is something around 2045. 어휘 쓰임

중간값은 2045년 정도입니다.

I'm a little more on the conservative side. 어휘 쓰임

저는 조금 더 보수적인 편입니다.

I think the problem is harder than we think.

저는 이 문제가 우리가 생각하는 것보다 어렵다고 생각합니다.

I like what John McCarthy,

저는 존 매카시가 한 말을 좋아합니다.

who was sort of one of the founders of AI,

그는 일종의 AI 창립자 중 한 명이었는데,

when he was asked this question,

이 질문을 받았을 때,

he said,

그가 말하길,

well, somewhere between 5 and 500 years. 관용구

음, 5년에서 500년 사이 어딘가겠죠.

And we're going to need,

그리고 우리는 필요할 것입니다,

I think,

제 생각에는,

several Einsteins to make it happen.

그것을 실현할 몇 명의 아인슈타인이.

But how will the economy change in the meantime?

하지만 그동안 경제는 어떻게 변할까요?

Will it be able to keep growing?

계속 성장할 수 있을까요?

Watch this video to hear economist Kate Raworth explain why growth is not always a good thing.

이 비디오를 시청하여 경제학자 케이트 레이워스가 왜 성장이 항상 좋은 것만은 아닌지 설명하는 것을 들어보세요.

Or continue to expand your understanding of economics

또는 세계경제포럼의 유튜브 채널에서

on the World Economic Forum's YouTube channel.

경제학에 대한 이해를 계속 넓혀가세요.