【AI論1】人が神になるとき歴史の概念が消滅する（ユヴァル・ノア・ハラリ）

2017-12-062019-01-31AI・自動化, 文明文化の話

AIを通じて未来を考える企画を2回に分けてお届けする。

最初は歴史学者ユヴァル・ノア・ハラリ氏のインタビュー記事。ハラリ氏は人工知能（AI）ビジネスや研究の現場で起きている現実の、さらにその先を文明論的な視点で論じている。

AIの開発はコンピューターの開発とは次元が違う。人類の文明や地球環境に与える影響は計り知れない。コンピューターは脳という身体の一部位の拡張に過ぎないが、AIの場合、究極的には生命体としての人間に置き換わる可能性すらあるからだ。究極の物質主義なのだが、果たして人類は知性（あるいは人間の意識そのもの）をコーディング可能なのだろうか？言い換えれば、人間の知性＝アルゴリズムなのだろうか？

ヒトは神になれるのか？

以下の引用において、インタビュワーの発言は黒、ハラリ氏の発言は青で記す。

出典：Historian: Human History ‘Will End When Men Become Gods’

In the following interview, he discusses the new authority of “dataism” and godlike powers of science to redesign humanity and create an inorganic, new species ― artificial intelligence.

「ベストセラー『サピエンス全史』の著者でイスラエルの歴史家ユヴァル・ノア・ハラリ（Yuval Noah Harari）氏の新著が『Homo Deus』だ。これに関連してデータイズム（dataism）が獲得しつつある権威、神に近づいた科学が人間を設計し直すパワー、とくに非有機の新しい種 ―人工知能（AI: Artificial Intelligence）― などについてのインタビューをお届けしよう。」

参考：ユヴァル・ノア・ハラリ

WorldPost: In your previous book, Sapiens, you observed that humans are the only species that can organize themselves around abstract ideas or codes ― myth, religion, ideology. In your new book, Homo Deus, you argue that a new ideology has arisen ― “dataism” ― that is the new organizing principle of humanity.

「『サピエンス全史』では、ヒトが、抽象的な思考やコードをもとに神話や宗教やイデオロギーを組み上げ、自己編成する唯一の生物種だと書かれていました。

新作『Homo Deus』では、ヒトの新たな自己編成原理としてデータイズムをあげ、新たなイデオロギーとしての台頭を指摘していらっしゃいます」

When big data is married to biology ― happening as we speak ― you worry that it will reduce the biological organism to a set of information that can be organized by programmed algorithms to seek a desired outcome. Those who subscribe to this view that “the organism is an algorithm” believe that the genome of humans and other species can be designed to order and that, if computers can process and place into patterns more information than the human brain can, then we can also create a new non-biological species ― artificial intelligence.

「これは現在進行中の話ですが、ビッグデータと生物学が結婚すれば、プログラムしたアルゴリズムが希望の結果を生物有機体として組み上げますが、そうなると人間は単なる情報セットになってしまうという懸念があります。

“生体＝アルゴリズム” 論者はヒトゲノムも他の生物のゲノムもDTO可能だといいます。コンピューターの方がヒトの脳より速く情報を処理してパターン化できるのであれば、当然、非生物種である人工知能がつくれるわけですが。」

To be sure, deciphering a deadly virus to stem a spreading plague is something humanity would welcome. But what does it mean to be human in the age of the algorithm if all that it means to be human ― love, empathy, creativity, agony ― falls between lines of code? Are such godlike powers then a great benefit to humanity, or do they portend a dark future?

「凶悪なウイルスを解読してスパムを退治するような機能はみんな歓迎すると思います。でも、アルゴリズムの時代に人間であることの意味は何でしょう。

愛や共感や創造性や苦悩といった、これまで人間らしさだと言われてきたものが、コード行の塊に過ぎないとしたら、神のような計算力は人類にとって福音なのでしょうか、それとも暗い未来の予兆なのでしょうか？」

ヒトは文字通り神になりつつある

Yuval Noah Harari: Like every major invention, it has both a good and bad potential. But the scale is completely different. I titled the book Homo Deus because we really are becoming gods in the most literal sense possible.

We are acquiring abilities that have always been thought to be divine abilities ― in particular, the ability to create life. And we can do with that whatever we want.

「これまでの大発明と同様、いい面と悪い面があります。でも今回の発明はスケールが桁違いです。本のタイトルを “Homo Deus”（神人）としたのは正真正銘、文字通りの意味でヒトは神になろうとしているからです。

人間はこれまで神の領域と考えられてきた能力、とくに生命を創造する能力を獲得しつつあります。しかもいかようにも生命を作り上げることができるのです。」

You talked earlier about how humans create networks of cooperation around abstractions. I don’t like the word “abstractions” very much because most people don’t think in abstractions. That is too difficult for them.

They think in stories. And the best stories are not abstract; they are concrete. If you think about the great religions that have united large parts of humankind, people believe gods are very concrete ― there is an angry old man in the sky, and if I do something wrong, he will punish me.

「先ほど人間は抽象能力をもとに協力のネットワークをつくると仰いましたが、個人的に抽象ということばがあまり好きではないんです。ほとんどの人は抽象的には考えません。難しすぎますから。

その代りストーリーで考えるんです。よく出来たストーリは抽象的ではなく具体的です。大きな人口を束ねてきた大宗教を考えてください。人々は神を具体的な存在として信じています。怒れる男が天空にいて、地上の人間は悪いことをすると罰せられるのです」

In the book, I use the term “fiction,” not abstraction, because what really unites humans are fictional stories. That is also the case with the new revolution that is now unfolding. It is not going to be an abstract revolution but a very concrete one.

「本のなかでは抽象の代わりにフィクションということばを使っています。人々を束ねているのは虚構の物語ですから。いま起きている革命も同じことです。抽象的な革命じゃなくて具体的な革命なんです」

データイズムは人が依拠する権威の変遷に注目

The basic idea of dataism is a shift in authority. Previously, authority resided above the clouds and descended down to the pope, the king or the czar.

Then for the last two or three centuries, authority came down from the clouds and took up residence in people’s hearts.

Your feelings became the highest source of authority. The emotions of the voters in a democracy, not his or her rationality, became the number one authority in politics. In the economics of the consumer society, it is the feelings of the customer that drive every market. The feelings of the individual are the prime authority in ethics. “If it feels good, do it” is the basic ethical ideal of humanism.

「データイズムは基本的に権威の変遷という面に着目しています。従来、権威は雲の上にあって、法王や王様や皇帝へ降りてくるものでした。この二、三世紀の間は、権威が雲から降りてヒトの心のなかに入りました。

個人の感情が最高権威になったのです。民主政治では投票者の理性ではなく感情がナンバーワンの権威ですし、消費経済では消費者の感情が市場を動かしています。倫理においても同じで『感情の赴くままに行動せよ』というのが理想としての基本倫理なわけですね。」

So authority came down from the clouds, moved to the human heart and now authority is shifting back to the Google cloud and the Microsoft cloud. Data, and the ability to analyze data, is the new source of authority.

If you have a problem in life, whether it is what to study, whom to marry or whom to vote for, you don’t ask God above or your feelings inside, you ask Google or Facebook.

If they have enough data on you, and enough computing power, they know what you feel already and why you feel that way. Based on that, they can allegedly make much better decisions on your behalf than you can on your own.

「権威が空からヒトのこころへ降りてきたと思ったら、今度は逆にグーグルクラウドやマイクソフトクラウドへ神上がっている。つまりデータ、あるいはデータの解析能力が権威の新たな源泉になったわけです。

いまの人は生活で問題が生じると、たとえば何を勉強しようか、誰と結婚しようか、誰に投票しようかというとき、天にまします神にも内なる感情にも相談しません。グーグルやフェイスブックに相談します。

向こうにあなたに関する十分なデータと計算力があれば、向こうではあなたが感じていることが、その理由も含めて、すでにわかっているのです。そのデータに基づけば、向こうはあなたに代わって、あなた自身より優れた決断ができることになっています。」

WorldPost: Is that the ultimate objectivization of reality ― that which reduces your identity to only what data is known or collected? Or is it the opposite: subjectivization as the pure reflection of personal choices and preferences fed back to you? Or, compounded by the subjective bias of the algorithm inputs, is it both: subjective objectification?

「それって、ある人について、いまわかっているか集まっているデータが、その人のアイデンティティになるっていう意味で、究極的な現実の客観化ではありませんか？それとも逆に、個人的な選択や嗜好が純粋に反映しフィードバックされたという意味で、主観化なのでしょうか？あるいは、アルゴリズムへのインプットに主観的バイアスがかかっている点を加味すれば、その両方、主観的な客観化でしょうか？」

Harari: Do you mean is it true?

「それが正しいかという意味ですか？」

WorldPost: What I’m getting at is that there seems to be a double movement going on simultaneously. Data-absorbing, peer-driven social media enables the collection of massive information on a person organized into the ultimate objectification of reality through mathematical algorithms.

At the same time, we are seeing an explosion of the “subjectivization of facts” ― alternative facts, fake news ― that is unmoored from any objective reality other than the likes or dislikes of your very similar peers.

「わたしの理解していることろでは、2つの動きが並行して進んでいます。ソーシャルメディアはユーザー同士が交わすデータを吸い上げて膨大な情報を集積し、数学アルゴで究極的な現実の客観化を行っています。

それと同時に、もう一つの事実やフェイクニュースなど、事実の主観化の爆発的な増加も目撃されているわけです。これは、よく似た境遇の人間の好き嫌いを基準にしたもので、客観的な現実の制約を離れたものを事実しているわけです」

Harari: I don’t think the “subjectivization of facts” is anything new in what is happening now. This has been going on for thousands of years. All the big religions have been organized around fake news. Just think of the Bible. Fake news lasts forever in some cases.

「いま起きている事実の主観化は何も新しい現象とは思いません。何千年も前から大宗教はフェイクニュースをめぐって組織されてきました。特定のケースではフェイクニュースは恒久化しているくらいで」

WorldPost: Eternal fake news…

「永遠なるフェイクニュースですか・・・」

人間の歴史は真実ではなくストーリーを採用する

Harari: In big historical struggles, history does not go to the truth. It goes to the most effective story. And very often, the most effective story is not true. The idea that people sooner or later will discover that something is untrue usually doesn’t happen, as in the case of all the big religions.

「大きな対立を見ればわかりますが、人間の歴史は真実に辿り着きません。真実ではなくて、最も効果的なストーリーに落ち着くんです。もっとも効果的なストーリーというのはたいてい真実ではありません。そのうち真実でないことが認識されるという考えがありますが、大宗教の例でも明らかなように、実際にはそうならないものです」

With regard to the algorithms, there is a good chance, too, that this will be just a myth that they are the highest source of authority with all the answers. But people will believe that. They will voluntarily, consensually, give the algorithm that kind of authority. And that will be the reality in which we live.

「アルゴリズムがすべての答えをもった最高の権威だというのも単なる神話に過ぎないかもしれません。でも人々はそう信じるんです。自発的にであれ、合意の上であれ、人がアルゴリズムに権威を与えるのです。それがわたしたちの生きる現実です」

We see it happening all around us. If you apply to the bank for a loan or for a job at a big corporation, very likely your application is being processed by an algorithm and not by a human being.

Let’s say the algorithm refuses you, and you are not hired. You go to the company and ask why, and they say, “Because the algorithm said no.” And then you ask, “Why did it say no?” And they will say, “We don’t know. If we thought we could get a good reading by ourselves, we wouldn’t need an algorithm.”

「周りを見渡せばすでにそうなっていますよ。銀行に融資を申請したり大企業の採用に応募したりすると、非常に高い確率で人間ではなくアルゴリズムが審査を行います。

アルゴリズムがあなたを弾けば『アルゴがダメと判定しました』で、申請は却下されます。『どうしてですか？』ときいても、返ってくる答えは『わかりません。人間がうまく判断できるくらいならそもそもアルゴは必要ないです』」

差別対象が特定の集団から個人に移行するかもしれない

The thing about the new generation of computer algorithms is that machines are now able to learn by themselves. They sift through immense piles of data and they, at least allegedly, find patterns that humans are unable to find, including whether you are a good fit for that job. And we trust that more and more.

There are some very good things about this, but also some big dangers. In the 20th century, we had this big fight over statistical discrimination against entire groups of people ― African Americans, women, gays or Jews ― based on faulty information.

「新世代アルゴの特徴は機械が自己学習する能力にあります。膨大なデータをふるいにかけ、少なくても理論的には、人間が見つけられないパターンを発見します。それであなたに応募した仕事への適性があるかないか判定するんです。人間はどんどん機械の結論を信用するようになっています。

これにはいい点もありますが、危険な点もあります。20世紀は、アフリカ系アメリカ人、女性、ゲイ、ユダヤ人といった特定の人たちに対して、誤った情報をベースに統計学的な差別が行われ、大きな争いを引き起こしました。」

People now look back to those days and say, “We must refight those battles.” Yes, perhaps some of them need to be refought. But as a military strategist, I know that people tend to prepare themselves for the previous war, and they miss the coming war.

The much bigger danger in the coming decades won’t be this group discrimination, but something far more Kafkaesque ― discrimination against individuals. It doesn’t give you a loan. It doesn’t hire you. The algorithm doesn’t like you. The algorithm is not discriminating against you because you are Jewish, Muslim or gay, but because you are you.

「現代人はその頃を振り返って『もう一度闘うべきだ』というわけですが、確かにそうすべきケースもあるでしょう。でも軍事分析にも携わっているわたしに言わせれば、人は過去の戦いに備える傾向があって、目前に迫る戦争を見落とすものなのです。

今後何十年の争点になるのは特定グループへの差別ではなく、もっとカフカ的な、個人への差別です。アルゴはあなたにお金を貸さず、あなたを雇いません。アルゴに嫌われているわけです。アルゴはあなたがユダヤ人だから、イスラム教徒だから、ゲイだから嫌っているのではなく、あなたがあなただから嫌っているのです」

There is something about your data that the algorithm doesn’t like. It is not about some category you fall into you. It is only you. There is something that is different about you versus everyone else that raises some warning sign. And you don’t even know what it is. And even if you know what it is, you can’t create a political movement around it because there is no one else in the world who suffers from this particular discrimination.

「アルゴが嫌う何かがあなたにはある。あなたが何らかのカテゴリに当てはまるから嫌うのではない。あなた自体がまずいんです。他の人と違う何かが警告を発しているのです。あなたはそれが何なのかわからない。たとえわかったとして、その何かをもとに政治運動は起こせない。あなたとまったく同じ差別を被っている人は世界のどこにもいないからです」

The other side of the coin that is being talked about widely these days is the capacity to individualize. You can write a book for one person. You can compose music or a movie just for one person. So we are developing the capacity to create for one person but also the capacity to oppress just one person.

The Israeli military is extremely excited about the potential of having the first total surveillance system, to be used in the occupied territories. They will actually be able to follow each and every person instead of relying on statistics.

「同じコインの裏側として、個人化の機能が最近広く論じられています。たった一人のために本を書ける。音楽や映画がつくれる。たった一人のために何をつくる能力とは、裏を返せば、たった一人の個人を抑圧する能力なわけです。

イスラエル軍は初の総合監視システムの実現可能性に色めき立っています。そのシステムができれば、統計情報を使わずに、特定の個人を追跡可能になるからです」

WorldPost: Here, too, we have the same dialectic: by missing all those intangibles that make each of us a person, all those things that fall between lines of code that don’t fit into the pattern being searched, individuation by an algorithm is actually a form of depersonalization.

「ここにもまた弁証法的矛盾がありますね。わたしたちを人間たらしめている無形のもの、コード行の塊のなかにあるパターン検索不能なもの、そういうものすべてが失われることで、アルゴによる個人化が実際は一種の非人格化につながるわけでしょ」

Doesn’t this kind of depersonalization ― particularly when big data and the algorithm merge with biology to reduce being to nothing more than an immune system ― prepare the way for a “Brave New Biocracy” that will manage human life from “sperm to worm, womb to tomb?” In short, individuation by an algorithm diminishes, not advances, human autonomy, no?

「こうした非人格化が進むと、特にビッグデータとアルゴが生物学に統合されて存在が単なる免疫系に還元されてしまうと、人間の命は『すばらしいビオクラシー』の世界で「精子から虫へ、子宮から墓場へ」管理されるようになるでしょうか？アルゴによる個人化は人間の自律性を進化させる代わりに抑制するのでしょうか？」

医療用アルゴリズムに期待されるもの

Harari: Yes. But again, there is both a danger and a promise. There are many good things about these medical algorithms. Today, you have hundreds of millions of people around the world who have no health care. They don’t have a doctor to diagnose a disease and to recommend treatment.

Within a very short time, you will be able to have a much better AI doctor on your smartphone in a village in Colombia than the president of the U.S. has today from human doctors.

The big battle in this regard in the 21st century will be between privacy and health. And health will win. Most people will be willing to give up their privacy in exchange for much better health care, based on 24-hour monitoring of what’s happening inside their bodies.

「この点に関連しますが、21世紀はプライバシーと健康が大きな問題になります。でも健康が勝つでしょう。人々はプライバシーは犠牲にしてでも、24時間体内の様子をチェックしてくれるヘルスケアを選ぶと思います」

Very soon people will walk around with biometric sensors on or even inside their bodies and will allow Facebook, the Chinese government or whomever to constantly monitor what’s happening in their bodies.

The day the first cancer cell starts to multiply and spread, someone at Google or at the health authority will know and will be able to very easily nip the cancer in the bud.

The day a flu epidemic starts, they will immediately know who are carrying it, and they can take very effective, quick and cheap action to prevent it. So the promises are enormous.

「近い将来、人々は生体センターを身につけるか体内に埋め込むかして、フェイスブックか中国政府か誰かわかりませんが、常時体内チェックをしてもらうことになるでしょう。

最初のがん細胞が増殖と感染を開始したその日に、グーグルか健康機関の誰かが異変をキャッチし、早期治療できるようになります。

インフルエンザウイルスがパンデミックの兆候を見せた瞬間に、感染者を特定し、迅速・安価かつ効果的な予防アクションを起こせます。このように医療用アルゴには大きな展望もあるわけです」

The dangers are also enormous. Just think of a place like North Korea. People will be walking around with biometric bracelets. If you see a picture of Kim Jong Un on a wall and your blood pressure elevates, which the algorithm correlates with some emotion like anger, then that is the end of you.

「同時にとても大きな危険もあります。北朝鮮のような場所を考えてください。生体センサー付きのブレスレットの装着が国民に義務付けられたとします。壁に貼ってある金正恩の写真を見た人の血圧が上がった場合、もしアルゴがそれを怒りの感情と関連付けていれば、その人の人生はそこで終わりです」

WorldPost: China already is developing a system of “social credit” that correlates all your observable behavior ― what you buy, who you talk to, whether you throw trash on the ground ― and gives you a score that will follow you through your life as you apply for college or a home loan. It will also be used to assess political loyalty and monitor official corruption.

「観察可能な行動をすべて関連付けるソーシャルクレジットのシステムは、すでに中国政府が開発中ですね。何を買ったか、誰と話したか、外でごみを捨てたか、そうした行動がすべて生涯スコアに記録され、スコアに応じて大学入学や住宅ローンが許可されたり却下されたりするわけです。当然、政治的忠誠度や共産党官僚の腐敗度の評定にも利用されるでしょう」

Harari: We will see more and more of that everywhere. With all the genuine objections and worries that you have expressed, what will ram such a future through the wall is health. People will voluntarily give up their privacy.

「似たようなことは世界各地で起きるでしょうね。いまあなたが言われたような懸念や反対意見をすべてひっくるめて、そういう未来への障害を突破する鍵はやはり健康問題だと思います。健康のためなら、間違いなく人はプライバシーを犠牲にします。」

WorldPost: Health care is the idol that confirms belief in the god of dataism.

「ヘルスケアがデータイズムの神への信仰を確認する偶像になると・・・」

Harari: Exactly.

「仰る通りです」

データイズムとシンギュラリティ

WorldPost: How does your idea of dataism relate to the notion of the “singularity”? Do you see singularity as a kind of scientific Tower of Babel of hubris, a kind of Anthropocene surge, an algorithmic imperialism over all life?

Ecology, on the other hand, proposes an equilibrium between nature and human potential. Where does your idea fit within that matrix?

「あなたの仰るデータイズムとシンギュラリティという考えの関連性はどうなりますか？あなたにとって、シンギュラリティとは傲慢の象徴―、科学が築くバベルの塔ですか？人新世のある種の爆発的高まり、つまりアルゴによる全生命への帝国主義のような？

他方には、エコロジーという考えがあって、自然と人間の可能性の間の平衡を提唱しています。データイズムは、こうした未来のマトリックス（母体）においてどこに位置しますか？」

Harari: Dataism is very close to singularity. I see singularity as the point beyond which our imagination completely fails because our imagination itself is only the manipulation of what we so far know.

There are many things that can bring about the shift to singularity. It could be advances in bioengineering, in machine intelligence or a combination of the two. It could be some completely new technology not yet on the horizon.

The key point is that you reach a certain level of technological development that renders all of our assumptions about everything we know about humans and the world irrelevant, because all that can be changed.

「データイズムの考えはシンギュラリティに非常に近いです。わたしはシンギュラリティとは、そこを超えると人間の想像力が完全に破綻する地点だと見ています。想像力とは、すでに人間が知っていることの操作に過ぎないからです。

シンギュラリティへの移行を引き起こしそうな要素はたくさんあります。バイオ工学の進化や機械知能が、あるいはその組み合わせが原因になりえます。まだ人間に見えていないまったく新しい技術が登場することも考えられます。

いずれにしても重要なのは、技術進歩というものは、これまでわたしたちの人間や世界に関する思い込みがすべて無意味になる、そういう地点に到達するということです。思い込みはいつか訂正されざるを得ません」

エコロジーのいう均衡を取り戻そうとすれば弊害の方が大きい

WorldPost: The ecological perspective is more about the equilibrium it would seek to balance the promise and perils of dataism so we get more of the benefit and less of the darker downside. You seem to be saying we ought to just go with the flow and commit to our mutation.

「エコロジーの視点は、もっとデータイズムの功と罪とをうまくバランスさせて、なるべく明るい面を取り暗黒面を減らすような均衡の実現を重視していると思います。いまのお説ですと、このまま流れに身を任せ、突然変異に賭けろと仰っているように聞こえますが・・・」

Harari: I’m not saying singularity or dataism are good. I am only looking at the long trajectory of human history. Humans have been getting more and more out of equilibrium as we advance in time.

When you try to manipulate the system even more to bring back balance to an earlier state, you solve some of the problems, but the side effects only increase the disequilibrium. So you have more problems. The human reaction then is that we need even more control, even more manipulation.

「わたしはシンギュラリティがいいともデータイズムがいいとも言っていません。人類史の長い軌跡を見ているに過ぎないのです。人類は時間経過とともに均衡状態から逸脱してきました。

システムをいじって前の状態にバランスを戻そうとすると、一部の問題は解決するでしょうが、その副作用で不均衡が増大して問題はむしろ増えてしまいます。そうなると、人間はもっと制御を強め、もっといじくろうとします。」

Go back to the 19th century and read Marx and the Communist Manifesto ― he says, “All that is solid melts into air.”

His reading of history is that the key characteristic of modern society is that it requires constant change and disruption. The implication is that you cannot live in equilibrium. For modern society, equilibrium is death. Everything collapses if you reach a point of equilibrium. In the case of the economy, it depends on constant growth. If we reach a point of zero growth and continue with that for more than a few years, the entire system will probably collapse.

「19世紀に戻ってマルクスの共産党宣言を読んでみましょうか。『堅牢なものは悉く気化する』と言っています。

マルクスの歴史理解によれば、近代社会の最大の特徴は不断の更新と破壊を要請する点にあります。これは均衡状態には生きえないことを暗示します。現代社会にとって均衡とは死なのです。均衡点に達した瞬間、すべては崩れ去ります。経済について言えば、経済は不断に成長しなければなりません。ゼロ成長を数年も続ければ、経済システム全体が崩壊するでしょう」

WorldPost: Your book Homo Deus, it seems to me, is really a brilliant update of Goethe’s Faust. In that masterpiece of literature, the Earth Spirit puts down Faust’ hubris as a great achiever of earthly accomplishment by saying, “You are equal to the spirit you understand,” meaning human’s limited understanding is not at the level of the gods. Do you agree?

「わたしから見ると、あなたの『Homo Deus』はゲーテの『ファウスト』の素晴らしいアップデートなんです。あの文学の傑作に出てくる地の霊ですが、地上で成しえるすべての達成者としてファウストの傲慢をやりこめます。『お前に分かる霊にこそお前は似ている』というセリフは、人間の限定的な理解力は神のレベルに到達していないことを意味しています。そうでしょう？」

己を超え出ないという人文主義的な抑制の道徳が永遠である保証はない

Harari: Not really. Faust, like Frankenstein or “The Matrix,” still has a humanist perspective. These are myths that try to assure humans that there is never going to be anything better than you. If you try to create something better than you, it will backfire and not succeed.

「ちょっと違いますね。ファウストには、フランケンシュタインや映画『マトリックス』同様、人文主義者の視点が感じられます。これらの作品は人間以上の存在は存在しないことを証明しようとする神話だと思います。人間以上のものをつくろうとすれば、バックファイヤーで焼かれ成功しません」

The basic structure of all these morality tales is: Act I, humans try to create utopia by some technological wizardry; Act II, something goes wrong; Act III, dystopia. This is very comforting to humans because it tells them it is impossible to go beyond you.

The reason I like Aldous Huxley’s Brave New World so much is that it plays with the scenario: Act I, we try to create a utopia; Act II, it succeeds. That is far more frightening ― something will come that is better than before.

「このような道徳噺の基本構造は決まっています。第一幕、人間は魔法のテクノロジーでユートピアを築こうとする。第二幕、不具合が起こる。第三幕、ディストピアが生まれる。なぜそうなるかといえば、人間を超え出ることは不可能だと教えているわけですから安心快適なのです。

わたしがオルダス・ハクスリーの『すばらしい新世界』の大ファンなのはそのシナリオをからかっているからです。第一幕、ユートピアを作ろうとする、第二幕、それに成功する。前よりいいものが来る―、これは人間にとってとても恐ろしいことです」

WorldPost: But success is a failure that destroys human autonomy and dignity?

「でもその場合、成功は人間の自律と尊厳を破壊する失敗なのではありませんか？」

Harari: That is an open question. The basic humanist tendency is to think that way. But maybe not.

「まだ未解決の問題です。わたしがいったのはそれが人間の基本的傾向だということです。でも本当は違うのかもしれません」

人間が神になったときいわゆる歴史は終わる

WorldPost: But all of history up to this point teaches that lesson. You are saying it is different now?

「しかし現在までの歴史は、傲慢は躓くと教えています。これからは違うと仰りたいのでしょうか？」

Harari: Going back to the Earth Spirit and Faust, humans are now about to do something that natural selection never managed to do, which is to create inorganic life ― AI.

If you look at this in the cosmic terms of 4 billion years of life on Earth, not even in the short term of 50,000 years or so of human history, we are on the verge of breaking out of the organic realm.

Then we can go to the Earth Spirit and say, “What do you think about that? We are equal to the spirit we understand, not you.”

「ファウスト地の霊の話に戻れば、ヒトはいまAIという無機的生命をつくろうとしています。自然淘汰でも為しえなかったことをやろうとしているということです。

宇宙規模で考えれば、地球生命40億年のうち5万年かそこいらの歴史しか持たない人類は、有機体の領域を押し広げるとば口にいるわけです。

領域を押し広げた後ならば、地の霊に向かって『これをどう思う？俺たちはお前にではなく、俺たちに分かる霊に似ている』と言えるのではないでしょうか」

Human history began when men created gods. It will end when men become gods.

「人間の歴史は人間が神をつくったとき始まりました。人間が神になったとき歴史は終わるはずです」

＜記事終わり＞

続編は次のリンクからどうぞ。

【AI論02】AI革命に人間の政治経済が追いつけない（ユヴァル・ノア・ハラリ）

前回に引き続き、AIのもたらす未来について歴史家ハラリ氏の考察を紹介する。 出典：AI革命に備え再起 ...

 https://tokoshie-jp.com/2017/12/07/world-trend-lack-of-socioeconomic-m...

ハラリ氏の本

主に人類の過去を扱った出世作

サピエンス全史（上） 文明の構造と人類の幸福 [ ユヴァル・ノア・ハラリ ] 価格:2,052円 (2019/1/31 14:49時点) 感想(12件)

サピエンス全史（下） 文明の構造と人類の幸福 [ ユヴァル・ノア・ハラリ ] 価格:2,052円 (2019/1/31 14:53時点) 感想(8件)

解説本

まんがでわかるサピエンス全史の読み方 [ 山形浩生 ] 価格:1,080円 (2019/1/31 14:54時点) 感想(0件)

こちらでは人類の未来を扱う（続編的な位置づけ）

ホモ・デウス　上 テクノロジーとサピエンスの未来 [ ユヴァル・ノア・ハラリ ] 価格:2,052円 (2019/1/31 14:57時点) 感想(5件)

ホモ・デウス　下 テクノロジーとサピエンスの未来 [ ユヴァル・ノア・ハラリ ] 価格:2,052円 (2019/1/31 14:55時点) 感想(3件)