AIは世界をどう変えるのか？：英語学習ノート

In the coming years,

今後数年で、

artificial intelligence is probably going to change your life and likely the entire world. 文法

人工知能はおそらくあなたの生活を、そしておそらく世界全体を変えることになるでしょう。

But people have a hard time agreeing on exactly how. 文法

しかし、人々はそれが正確にどのように起こるのかについて、なかなか意見が一致しません。

The following are excerpts from a World Economic Forum interview

以下は世界経済フォーラムのインタビューの抜粋で、

where renowned computer science professor and AI expert Stuart Russell helps separate the sense from the nonsense. 慣用句

著名なコンピューターサイエンスの教授でありAIの専門家であるスチュアート・ラッセルが、意味のあることと無意味なことを区別するのを手助けしています。

There's a big difference between asking a human to do something 文法

人間に何かを頼むことと、

and giving that as the objective to an AI system.

それをAIシステムの目的として与えることには、大きな違いがあります。

When you ask a human to fetch you a cup of coffee,

人間にコーヒーを買ってくるよう頼むとき、

you don't mean this should be their life's mission 話の流れ

それが彼らの人生の使命であるべきだとか、

and nothing else in the universe matters,

宇宙の他のすべてはどうでもいいとか、

even if they have to kill everybody else in Starbucks to get you the coffee before it closes.

たとえ閉店前にコーヒーを手に入れるためにスターバックスの他の全員を殺さなければならないとしても、

They should do that.

そうすべきだという意味ではありません。

No, that's not what you mean, right?

いや、そういう意味じゃないですよね？

You mean all the other things that we mutually care about,

私たちが共通して気にかけている他のすべてのことも、

they should factor into your behavior as well. フレーズ

自分の行動に考慮に入れるべきだという意味です。

And the problem with the way we build AI systems now is we give them a fixed objective, right? 語彙

現在私たちがAIシステムを構築する方法の問題点は、固定された目的を与えていることです。

The algorithms require us to specify everything in the objective.

アルゴリズムは、目的におけるすべてを指定することを私たちに要求します。

And if you say,

もしあなたが、

you know, can we fix the acidification of the oceans? 語彙

海洋の酸性化を解決できないか、と言ったとします。

Yeah, you could have a catalytic reaction that does that extremely efficiently, but,

ええ、それを非常に効率的に行う触媒反応を起こすことはできるかもしれませんが、

you know, it consumes a quarter of the oxygen in the atmosphere,

大気中の酸素の4分の1を消費してしまい、

which would apparently cause us to die fairly slowly and unpleasantly over the course of several hours.

数時間かけて非常に不快でゆっくりとした死を私たちにもたらすことになるでしょう。

Um, so how do we avoid this problem, right?

うーん、ではどうすればこの問題を避けられるのか、ですよね？

You might say, okay, well,

あなたは言うかもしれません、わかった、じゃあ、

just be more careful about specifying the objective, right?

目的を指定する時にもっと慎重になればいいんだ、と。

Don't forget the, you know, atmospheric oxygen.

忘れないで、大気中の酸素を。

And then, of course,

それから、もちろん、

some side effect of the reaction in the ocean poisons all the fish.

海での反応の副作用がすべての魚を毒殺してしまいます。

Okay, well, I meant don't kill the fish

わかった、ええと、魚も殺さないでという意味だったんだ

either. And then, well, what about the seaweed?

それもね。それなら、ええと、海藻はどうなるの？

Okay, well, don't do anything that's going to cause all the seaweed to die.

わかった、ええと、海藻がすべて死ぬようなことはしないで。

And on and on and on, right? 話の流れ

そして、これが延々と続くわけです。

And the reason that we don't have to do that with humans is that humans often know that they don't know all the things that we care about. 解説

人間に対してそうしなくて済む理由は、人間はしばしば、私たちが気にかけているすべてのことを自分が知っているわけではないと自覚しているからです。

If you ask a human to get you a cup of coffee,

人間にコーヒーを買ってくるよう頼んだとして、

you know, and you happen to be in the Hotel George Sand in Paris,

あなたがパリのホテル・ジョルジュ・サンドにいて、

where the coffee is, I think, 13 Euros a cup,

そこのコーヒーが、確か1杯13ユーロだった場合、

it's entirely reasonable to come back and say,

戻ってきてこう言うのは完全に理にかなっています。

well, it's 13 Euros.

あの、13ユーロですが、

Are you sure you want it or I could go next door and you know get one? 意図と語調

本当にいいですか、それとも隣の店に行って買ってきましょうか？と。

It's a perfectly normal thing for a person to do, right?

これは人として完全に普通の行動ですよね？

To ask,

尋ねることは、

you know, I'm going to repaint your house.

あなたの家を塗り直すつもりですが、

Is it okay if I take off the drainpipes and then put them back? 意図と語調

排水管を外してからまた元に戻してもいいですか？って。

We don't think of this as a terribly sophisticated capability, 語彙

私たちはこれをそれほど高度な能力だとは考えていませんが、

but AI systems don't have it because the way we build them now,

現在のAIシステムにはそれがありません。なぜなら、今の構築方法では、

they have to know the full objective.

完全な目的を知らなければならないからです。

If we build systems that know that they don't know what the objective is,

目的が何であるかを知らないということを自覚しているシステムを作れば、

then they start to exhibit these behaviors like asking for permission

大気中のすべての酸素を取り除く前に、

before getting rid of all the oxygen in the atmosphere. 句動詞

許可を求めるといった行動を取り始めるようになります。

In all these senses,

これらすべての意味において、

control over the AI system comes from the machine's uncertainty about what the true objective is. 話の流れ

AIシステムの制御は、本当の目的が何であるかについての機械の不確実性から生じるのです。

It's when you build machines that believe with certainty that they have the objective, 文法

目的を持っていると確信している機械を作った時こそ、

that's when you get this sort of psychopathic behavior. 語彙

この種のサイコパス的な行動が引き起こされるのです。

And I think we see the same thing in humans.

そして、これは人間にも同じことが言えると思います。

What happens when general purpose AI hits the real economy? 語彙

汎用AIが実体経済に打撃を与えた時、何が起こるのでしょうか？

How do things change?

物事はどう変わるのか？

Can we adapt?

私たちは適応できるのか？

You know, this is a very old point.

これは非常に古い指摘です。

Amazingly,

驚くべきことに、

Aristotle actually has a passage where he says,

アリストテレスには実際にこんな一節があります。

look,

見てごらん、

if we had fully automated weaving machines and plectrums that could pluck the lyre and produce music without any humans, 文化背景

もし全自動の織機や、人間がいなくても竪琴を弾いて音楽を奏でる爪弾きがあれば、

then we wouldn't need any workers.

労働者は一人も必要なくなるだろう、と。

That idea,

そのアイデアは、

which I think it was Keynes who called it technological unemployment in 1930,

1930年にケインズが技術的失業と呼んだものだと思いますが、

is very obvious to people, right?

人々にとって非常に明白ですよね？

They think,

彼らはこう考えます、

yeah, of course,

ええ、当然、

if the machine does the work,

機械が仕事をするなら、

then I'm going to be unemployed.

私は失業することになる、と。

If you think about the warehouses that companies like Amazon are operating for e-commerce,

Amazonのような企業がeコマースのために運営している倉庫を思い浮かべれば、

they are half automated.

それらは半分自動化されています。

The way it works is that on an old warehouse where you've got tons of stuff piled up all over the place 話の流れ

その仕組みは、あちこちに大量の物が積み上げられた古い倉庫で、

and the humans go and rummage around and then bring it back and send it off, 句動詞

人間が行って探し回り、持ち帰って発送するというものでしたが、

there's a robot who goes and gets the shelving unit that contains the thing that you need,

今ではロボットがあなたの必要なものが入った棚のユニットを取りに行き、

but the human has to pick the object out of the bin or the off the shelf because that's still too difficult. 句動詞

しかし、箱や棚から対象物を取り出すのは人間がやらなければなりません。まだ難しすぎるからです。

But, you know, at the same time,

しかし、同時に、

would you make a robot that is accurate enough to be able to pick pretty much any object 文法

あなたが買うことができる非常に多種多様な物体の中から、

within a very wide variety of objects that you can buy?

ほとんどどんなものでも掴めるほど正確なロボットを作りますか？

And that would at a stroke eliminate three or four million jobs. 慣用句

それは一挙に300万から400万の仕事を奪うでしょう。

There's an interesting story that E.M. Forster wrote where everyone is entirely machine dependent. 文化背景

E・M・フォースターが書いた興味深い物語があり、そこでは誰もが完全に機械に依存しています。

The story is really about the fact that if you hand over the management of your civilization to machines, 句動詞

その物語が本当に伝えているのは、文明の管理を機械に委ねてしまうと、

you then lose the incentive to understand it yourself or to teach the next generation how to understand it. フレーズ

自分自身でそれを理解しようとしたり、次の世代に理解の仕方を教えようとする動機を失うという事実です。

And you can see WALL-E actually as a modern version where everyone is enfeebled and infantilized by the machine. 語彙

WALL-Eは、機械によって誰もが弱体化し幼児化された現代版だと考えることができます。

And that hasn't been possible up to now,

そして、それは今まで不可能でした、

right?

ですよね？

We put a lot of our civilization into books,

私たちは文明の多くを本の中に書き残しましたが、

but the books can't run it for us. 語彙

本は私たちのためにそれを動かすことはできません。

And so we always have to teach the next generation.

だから私たちは常に次の世代に教えなければなりません。

If you work it out,

計算してみれば、

it's about a trillion person years of teaching and learning in an unbroken chain 話の流れ

それは途切れることのない連鎖における約1兆人年の教えと学びであり、

that goes back tens of thousands of generations.

何万世代も前に遡るものです。

What happens if that chain breaks?

その連鎖が途切れたらどうなるでしょうか？

And I think that's something we have to understand as AI moves forward.

AIが進歩するにつれて、それは私たちが理解しなければならないことだと思います。

The actual date of arrival of general purpose AI you're not going to be able to pinpoint, right? 語彙

汎用AIの正確な到着日を特定することはできませんよね？

It isn't a single day.

それは特定の一日ではありません。

It's also not the case that it's all or nothing. 慣用句

また、すべてかゼロかというわけでもありません。

The impact is going to be increasing.

その影響は増大していくでしょう。

So with every advance in AI,

したがって、AIが進歩するごとに、

it significantly expands the range of tasks. フレーズ

タスクの範囲が大幅に広がります。

So in that sense,

そういう意味で、

I think most experts say by the end of the century,

ほとんどの専門家は今世紀末までに、

we're very very likely to have general purpose AI. 文法

私たちが汎用AIを手にする可能性が非常に高いと言っていると思います。

The median is something around 2045. 語彙

中央値は2045年あたりです。

I'm a little more on the conservative side. 語彙

私はもう少し保守的な立場です。

I think the problem is harder than we think.

問題は私たちが思っているよりも難しいと思います。

I like what John McCarthy,

私はジョン・マッカーシーの言葉が好きです。

who was sort of one of the founders of AI,

彼はAIの創設者の一人のような存在ですが、

when he was asked this question,

この質問をされたとき、

he said,

彼はこう言いました。

well, somewhere between 5 and 500 years. 慣用句

まあ、5年から500年の間だろうね、と。

And we're going to need,

そして、私たちには必要になるでしょう、

I think,

私はそう思います、

several Einsteins to make it happen.

それを実現するための数人のアインシュタインが。

But how will the economy change in the meantime?

しかし、その間に経済はどう変わるのでしょうか？

Will it be able to keep growing?

成長し続けることができるのでしょうか？

Watch this video to hear economist Kate Raworth explain why growth is not always a good thing.

経済学者ケイト・ラワースが、なぜ成長が常に良いことではないのかを説明するこのビデオをご覧ください。

Or continue to expand your understanding of economics

または、世界経済フォーラムのYouTubeチャンネルで、

on the World Economic Forum's YouTube channel.

経済学への理解を深め続けてください。