【AI論02】AI革命に人間の政治経済が追いつけない（ユヴァル・ノア・ハラリ）

2017-12-072019-01-31AI・自動化, 文明文化の話

前回に引き続き、AIのもたらす未来について歴史家ハラリ氏の考察を紹介する。

出典：AI革命に備え再起動せよ（”Reboot for the AI revolution” by Yuval Noah Harari October 17, 2017）

As artificial intelligence puts many out of work, we must forge new economic, social and educational systems, argues Yuval Noah Harari.

「人工知能は多くの人から職を奪う。新たな経済・社会・政治システムの構築を急ぐべきだ」とハラリ氏はいう。

仕事の世界にAI革命がもたらす大変化

The ongoing artificial-intelligence revolution will change almost every line of work, creating enormous social and economic opportunities ― and challenges.

Some believe that intelligent computers will push humans out of the job market and create a new ‘useless class’; others maintain that automation will generate a wide range of new human jobs and greater prosperity for all. Almost everybody agrees that we should take action to prevent the worst-case scenarios.

「いま進んでいるAI革命は、ほぼ例外なくすべての産業における仕事のあり方を変える。それは社会生活や経済においてビッグチャンスの到来であるとともに、巨大な危機の到来でもある。

ある人たちはAIコンピューターが人間を労働市場から追い出し、”不要者クラス” を作り出すと考える。別の人たちは自動化により膨大な雇用が創出され、いまより豊かな未来が待っているのだと主張する。どちらの陣営も最悪のシナリオを回避する行動を起こすべきだという点では一致している。」

The automation revolution is emerging from the confluence of two scientific tidal waves. Computer scientists are developing artificial intelligence (AI) algorithms that can learn, analyse massive amounts of data and recognize patterns with superhuman efficiency. At the same time, biologists and social scientists are deciphering human emotions, desires and intuitions.

The merger of infotech and biotech is giving rise to algorithms that can successfully analyse us and communicate with us, and that may soon outperform human doctors, drivers, soldiers and bankers in such tasks. These algorithms could eventually push hundreds of millions out of the job market.

「自動化革命はコンピューター科学と生命科学・社会科学という2つの科学潮流が合流したところから生まれた。前者はAIアルゴリズムの開発を通じて膨大なデータを解析し、超人的な能率性でパターンを認識し、自己学習できる人工知能をつくった。後者は人間の感情、欲望、本能などの解読を試みてきた。

そして情報技術とバイオ技術が融合した結果、人間を緻密に解析し、人間とコミュニケートできるアルゴリズムを生みだした。人間より優秀なAIの医者、運転手、兵士、銀行家が生まれるのは時間の問題だ。ゆくゆくは何千万何億万の人が仕事を奪われる可能性も否定できない。」

Governments might decide to deliberately slow down the pace of automation, to lessen the resulting shocks and allow time for readjustments. But it will probably be both impossible and undesirable to prevent automation and job loss completely. That would mean giving up the immense positive potential of AI and robotics.

If self-driving vehicles drive more safely and cheaply than humans, it would be counterproductive to ban them just to protect the jobs of taxi and lorry drivers.

「各国政府は故意に自動化のペースを遅らせることで、大量失職のショックを和らげ、事態への適応策を探る時間を稼ごうとするかもしれない。ただ自動化や失業を完全に食い止めることは不可能だし、望ましくもない。そんなことをしたら、AIやロボティクスの巨大な可能性の芽を摘んでしまう。

自動運転機能付きのクルマの方が安全に走行し、移動経費を減らしてくるなら、タクシーやトラックの運転手の失業対策で自動運転車を規制することは非生産的な行為であろう。」

A more sensible strategy is to create new jobs. In particular, as routine jobs are automated, opportunities for new non-routine jobs will mushroom.

For example, general physicians who focus on diagnosing known diseases and administering familiar treatments will probably be replaced by AI doctors. Precisely because of that, there will be more money to pay human experts to do groundbreaking medical research, develop new medications and pioneer innovative surgical techniques. This calls for economic entrepreneurship and legal dexterity. Above all, it necessitates a revolution in education.

「それよりは新しい雇用を作り出す方が理にかなっている。特に定型業務は自動化されるので、非定型業務が雨後のタケノコのように生まれてくるだろう。

例えば、既往症の診察や通常治療に携わっている一般医師はAIドクターに職を奪われるがゆえに、革新的な医学研究や新薬の開発、手技の新開発などに再就職のチャンスが広がるだろう。それに伴い、新たな事業の立ち上げや柔軟な法的対応が必要になる。とりわけ教育には革命的変化が求められる。」

生涯にわたる再教育・再訓練が必要になる

Lifelong learning
To make use of the new opportunities, people will need radical, lifelong retraining. The AI revolution won’t be a single event after which the job market and the educational system will settle into a new equilibrium. Rather, it will be a cascade of ever-bigger disruptions.

Even today, few employees expect to work in the same job for their entire life (see go.nature.com/2ymdvjs). By 2050, not just the idea of ‘a job for life’, but even the idea of ‘a profession for life’ might seem antediluvian. It will become increasingly difficult to know what to teach schoolchildren and university students.

生涯学習
「新しい機会をものにするには、生涯にわたり徹底した再教育・再訓練が必要になる。AI革命は、革命後に労働市場と教育システムとの再均衡が起こるような一回限りのイベントではない。むしろ時代が進むにつれ、より広範に段階的な技術的破壊が押し寄せる性質のものでる。

すでに現時点で、生涯いまと同じ仕事を行う従業員はほぼ皆無になると予想されている。2050年までに一生の仕事どころ一生の職業という概念さえ時代遅れになっているかもしれない。学校で大学で何を教えればいいのか、予測することは益々困難になっていく。」

Predicting the future was never easy. If you lived in China 1,000 years ago, there were many things you didn’t know: the empire might collapse in 50 years; the Khitans might invade, or a new plague might kill millions. Nevertheless, you did know that most people would still work as farmers and weavers, rulers would still need men to fight in their armies and administer their taxes, women would still have few opportunities beyond marriage and life expectancy would still be about 40 years.

「未来予測はつねに容易でない。1000年前の中国の住人が、50年以内に帝国が滅びること、モンゴルの契丹が攻めてくること、伝染病で数百万の人口が失われること―、それらのことを事前に予知することは無理だった。しかし大きな目で眺めれば、多くの人間は相変わらず農民や織工として暮らし、為政者は軍隊を雇い徴税を行った。女性は結婚以上の仕事に恵まれることは稀で、平均寿命は40年くらいだった。」

Hence, in 1017, poor Chinese parents taught their children how to plant rice or weave silk, and wealthier parents taught their boys how to read and write, or to fight on horseback, and their girls to be modest and obedient housewives. It was obvious that these skills would still be needed. In 2017, by contrast, we have no such certainties about the future of jobs, gender, economics or even death.

「西暦1017年、貧しい中国の両親は子どもに米作と絹織りを教え、豊かな両親は男の子には読み書きや馬上で戦う術を教え、女の子には慎み深く従順であるよう教えていた。当時そうした仕事が将来も変わらないことは自明だったからだ。

これとは対照的に、2017年のいま、未来の仕事、ジェンダー、経済、あるいは死に方に関して、1000年前の中国人と同じ確信を持てる人はいない。」

Human psychology, too, might turn out to be a key hurdle. Change is always stressful. Already we face an epidemic of stress and anxiety. As the volatility of the job market and of individual careers increases, we may wonder whether everyone will have the emotional stamina necessary for a life of constant flux. We may need more-effective stress-reduction techniques ? ranging from drugs through neurofeedback to meditation ― to cope.

「人間の心理も重要なハードルになるかもしれない。変化はつねに大きなストレスを伴う。いまでもストレスと不安が大きく広がっているのに、いま以上に労働市場や個人のキャリアが変転すれば、変動の激しい生活に耐えうる感情のスタミナを持つ人の方が少ないだろう。そうした環境に対応して、もっと効果的にストレスを緩和できる薬品、ニューロフィードバック、瞑想法などの開発が求められるかもしれない。」

Creating new jobs might prove easier than retraining people to fill them. A huge useless class might appear, owing to both an absolute lack of jobs and a lack of relevant education and mental flexibility.

「一生かけて再訓練するより、新しい仕事をつくる方が簡単だと証明される可能性がないとは言えない。しかし完全失業の結果、あるいは教育不足や情緒的不安定の結果、本当に “不要者クラス” が出現する可能性も同様に否定できない。」

AIで知能の開発は進んだが人工的な意識の研究は手つかず

Test cases
It is particularly important to identify as early as possible the potential winners and losers from new technologies. Rosy overall statistics can hide growing gaps between disparate groups. Automation might have a very different impact on men and women, on 40-somethings and 20-somethings, on the university-educated and the illiterate.

AI革命のテストケース
「新技術が生む未来の勝者と敗者を早期に識別することが重要だ。楽観的な統計学的予測は、グループ間で広がる格差を覆い隠してしまう。自動化により受けるインパクトは性別、年齢差（40代と20代など）、学歴差（大卒と無学者）などで大きく違う可能性があるのである。」

The winners and losers are not the usual suspects.

In the clinic, for example, automation might prove more of a threat to doctors than to nurses. Many physicians focus almost exclusively on processing information: they absorb medical data, analyse them and produce a diagnosis. Nurses also need good motor and emotional skills, to give a painful injection, replace a bandage and listen with care. We will probably have an AI family doctor on our smartphone years before we have a reliable nurse robot.

「現在の想定のみに基づいて勝者と敗者を選り分けるのは難しい。

例えば、医療の世界で自動化の脅威に晒されるのは看護師よりもむしろ医者かもしれない。医者の大半は情報処理者に近い。過去の診断データを読み、解析し、診断を行う。看護師はそれより体力と感情の制御スキルが必要な仕事だ。痛い注射を打ち、包帯を変え、熱心に患者の話を聴く。そうなると、信頼できる看護師ロボットができる何年も前に、スマートホンに入ったAI主治医が実現する可能性が高い。」

Exploring the relationship between intelligence and consciousness will also be crucial to understanding the economic, professional and ethical rapport between future computers and humans. We are seeing a tremendous development in computer intelligence, but zero development in computer consciousness.

Just as aeroplanes fly faster than birds without ever developing feathers, so computers could come to solve problems and even to analyse human feelings much better than humans, without ever developing feelings. Studying these differences will help us to predict what AI can and cannot do, and to decide what should be kept out of its control.

「未来の経済や専門職市場、あるいは倫理における人間とコンピューターの関係を考えるうえでは、知能と意識の関係の探求が決定的に重要だ。コンピューターの知能の開発は長足の進歩を遂げたが、コンピューターの意識の開発はまったく手つかずだ。

羽をつくらなくて鳥より早く飛べる飛行機のように、コンピューターは、コンピューター用の感情をつくらなくても、人間より早く問題の答えを見つけ、人間よりうまく人間の感情を分析できるようになるかもしれない。知能と意識（感情）の違いを研究すれば、AIにできることとできないことを予測し、事前にAIに制御させる仕事と制御させない仕事を決められるようになるはずだ。」

参考：人工知識

チェスと自動運転車はAI実証の代表的テストケース

There are a few areas in which AI has already made significant strides that, in my view, offer test cases for the impact of modern automation on the world of work.

「私見では、すでにAIが長足の進歩を遂げた分野が数種ある。これは未来の仕事の世界にAIによる自動化がどんな影響を与えるかを知るためのテストケースになると思う。」

In chess, it has been 20 years since IBM’s Deep Blue computer thrashed Gary Kasparov. Yet humans still play chess, and ‘centaur’ teams of humans-plus-AIs can outperform both.

This seems at first to bode well for the future: the job market could nurture people who can leverage, rather than compete with, AI. Yet the balance of power in centaur teams is constantly shifting. Computers are becoming so good at chess that the humans are gradually losing value, and could soon become irrelevant. The same thing might happen in other human?AI teams.

「例えば、チェスの世界ではIBM製のディープ・ブルーが20年前にガルリ・カスパロフ氏を破った。いまでも人間はチェスをしているが、”ケンタウロス” という人間とAIの混成チームは誰よりも成績が良い。

これは未来の労働市場でAIと競うのではなくAIを活用する人間が出てくるという意味では朗報に聞こえるが、ケンタウロス・チームではつねにAIと人間の割合が変化している。コンピューターはどんどんチェスがうまくなていて、人間のメンバーは徐々に存在価値を失いつつある。無用のメンバーになる日は近いかもしれない。」

Self-driving vehicles are another important test case. The race to produce self-driving vehicles now pits old steel giants such as Mercedes-Benz against new silicon giants such as Google. Transport leverages one of the core advantages of AI: connectivity. Even if a single computer-driven car is less competent than a good human driver, a network of computer-driven cars is still likely to be much safer and more efficient than the chaos of fallible human drivers that currently dominates the roads.

「自動運転車も重要なテストケースだ。開発競争はメルセデスベンツのような大手自動車メーカーとグーグルなどの大手テクノロジー会社の間で行われている。輸送は接続性が重要なので、AIの最大のメリットを活かせる分野だ。単一機搭載車は運転のうまい人間にはかなわない。しかし当てにならない人間の運転で道路が占領されている現在のカオス状態より、コンピューター制御車のネットワークの方がずっと安全で効率的だろう。」

Today, about 1.25 million people are killed annually in car accidents, more than 90% of which are estimated to be caused by human errors. When two human drivers approach the same junction, they might miscommunicate and collide. But computer-driven vehicles can be connected ― the chances that they might miscommunicate and collide are therefore much smaller. Similarly, it is easier to ensure that automated vehicles comply with rules such as speed limits (not to mention the ban on drink driving), even as those rules change.

「今日、年間125万人が自動車事故で亡くなっている。事故の90%以上は人間のミスによるものだ。交差点で出くわした人間の運転するクルマはコミュニケーションミスから衝突する可能性があるが、相互接続されたコンピューター制御車が交信エラーで衝突する可能性はそれよりずっと小さい。同様に、交通法規は変わるとしても、自動運転車は時速制限などの交通法規を破る可能性は大変低い（飲酒運転については言うまでもない）。」

Self-driving vehicles illustrate two important points.

First, that in some fields it might make sense to replace all humans with robots and computers, even if individually some humans do a better job.

Second, that when change comes to some realms, it might do so suddenly, not step-wise.

「自動運転車の事例が示唆する重要なポイントは2つあると思う。

まず、個人によっては機械より優秀な人間がいるとしても、ロボットやコンピューターに完全に人間の代わりをやらせた方がいい分野が存在するということ。

さらに、AIは段階的にではなく一気に導入されるだろうということである。」

The military is another important bellwether, because armies are early adopters of much technology. Human soldiers carry a very high economic and political price tag, so replacing people with computers on the battlefield has proved attractive. The most advanced armies now increasingly rely on relatively small numbers of experts coupled with sophisticated and autonomous technologies, such as drones, robots, smart bombs, cyberworms and algorithms that sift through a mass of data.

「軍事利用も重要な先行分野になるだろう。軍隊は新技術の導入を先駆けて行うからだ。兵士の命は経済的にも政治的にも高くつくが、戦場で人の代わりにコンピューターが戦うのは魅力的な選択肢だ。最新式の軍隊では、ドローン、ロボット、スマート爆弾、サイバー
ワーム（自己複製型マルウェア）、大量データ分析アルゴリズムなど、先端の自動化技術の導入が進み、専門要員の数が減りつつある。」

This shift has produced new classes of military jobs in maintenance, remote control, programming and cybersecurity. The US armed forces need 30 people to operate every Predator or Reaper drone flying over Syria, and analysing the harvest of information occupies at least 80 more. A careful study of the military job market might tell us a lot about potential future developments in the civilian economy.

「このような変化はメンテナンス、遠隔操作、プログラミング、サイバーセキュリティなど新たな軍務を生んでいる。シリア上空で使われている無人航空機のプレデターやリーパーを操縦するには30名が、収集情報の解析には80名の要員が必要である。こうした軍務市場の実績データを詳しく調べれば、将来の民間労働市場に関する知見が得られやすいと思う。」

AIが要請する新たな政経社会秩序

New order
With insights gleaned from early warning signs and test cases, scholars should strive to develop new socio-economic models. The old ones no longer hold.

For example, twentieth-century socialism assumed that the working class was crucial to the economy, and socialist thinkers tried to teach the proletariat how to translate its immense economic power into political clout. In the twenty-first century, if the masses lose their economic value they might have to struggle against irrelevance rather than exploitation.

新たな社会・経済的秩序
「こうした早期の警告サインとテストケースで得られた知見をもとに、専門家は新たな社会経済モデルの構築を図るべきである。従来モデルは役立たない。

例えば、20世紀の社会主義は労働者階級が経済の必須要素だと考え、左派学者はプロレタリアートに彼らの巨大な経済パワーで政治権力を強奪するよう教唆した。しかし21世紀、経済価値を失った大衆が闘うべきものはブルジョワジーの搾取ではなく、彼ら自身の非有用性になるのである。」

One new model has been gaining increasing attention and popularity: universal basic income (UBI). UBI suggests that the government should tax the rich and big corporations to provide every person with a stipend covering his or her basic needs. This will cushion the poor against job loss and economic dislocation, and protect the rich from populist rage. It will also free the masses to engage in more creative forms of work that might not currently have economic value, or to pursue further education.

「近年、注目と人気を集めている新しいモデルに全国民への最低所得保証（UBI: universal basic income）だ。UBIとは政府が富裕層や大企業から徴収した税金を、生活の最低限の必要を満たせるほどの給付金として全国民に配る制度である。これにより失業もしくは経済混乱で困窮した人々を保護するとともに、暴動などから富裕層を守る。さらには経済価値が低く嫌々している仕事から大衆を解放し、よりやり甲斐のある仕事に就かせる効果、あるいは彼らに新たな教育を受けさせる効果をなどを狙っている。」

In January 2017, Finland began a 2-year experiment, providing 2,000 unemployed citizens with €560 (US$657) per month, irrespective of whether they work. Similar experiments are under way in the Canadian province of Ontario, in the Italian city of Livorno and in several Dutch cities.

2017年1月、フィンランドは2年間のベーシックインカム試験導入を開始した。2000人の失業・就業者を対象に毎月560ユーロ（約7万円）を支給する。カナダのオンタリオ州、イタリアのリヴォルノ市、オランダの数市でも同様の試験が行われている。

参考：フィンランドのベーシックインカム実験、開始4カ月後の変化

Of course, such national and municipal schemes might not solve the worst problems. Globalization has made people in one country utterly dependent on markets in others, and automation might unravel large parts of this global trade network with disastrous consequences for the weakest links. AI might generate immense wealth in hi-tech hubs such as Silicon Valley and Bangalore, while devastating the economies of underdeveloped countries that rely on cheap labour, such as Honduras and Bangladesh.

「このような国・自治体レベルの所得保証を実施しても最悪の事態は回避されないかもしれない。グローバル化によりどの国の国民も外国市場に深く依存しており、自動化技術がグローバルな交易ネットワークの多くを解体すれば、ネットワークの最も弱い部分に壊滅的な打撃を与えるだろう。AIはシリコンバレーやバンガロールのようなハイテク基地には莫大な富をもたらすが、ホンジュラスやバングラデシュのように安価な労働力で食っている低開発国の経済にはひどい仕打ちとなるのではないか。」

US voters might conceivably agree that taxes paid by tech giants Amazon and Google for their US business should be used to give stipends to unemployed coalminers in Pennsylvania or jobless taxi-drivers in New York. But they are unlikely to send their taxes to Honduras. We are still far from having any feasible models for a post-work economy, society or political system, and we don’t have much time to formulate them.

「アメリカの有権者はアマゾンやグーグルなどのハイテク・ジャイアントが国内活動の対価に支払った税金を、ペンシルバニアの炭鉱失業者やニューヨークで失職したタクシードライバーへの給付金として使うことにはおそらく賛成すると見られる。しかし、余ったタクシーをホンジュラスに送ることはないだろう。このように、自動化後のポストワーク経済・社会・政治のシステムに関して実現可能なモデルは整備にはほど遠いが、整備までに猶予された時間はあまり残っていないのである。」

In the nineteenth century, the Industrial Revolution created new conditions and problems that none of the existing social, economic and political models could cope with. Consequently, humankind had to develop completely new models ― liberal democracies, communist dictatorships and fascist regimes. It took more than a century of terrible wars and revolutions to experiment with these, separate the wheat from the chaff and implement the best solutions.

「19世紀の産業革命でも、既存の社会・経済・政治モデルが通用しない、新たな事態と問題が起こった。人類は新しい現実に即して、新たなモデルを構築した。それが自由民主主義、共産党独裁、ファシスト体制である。これらの実験は1世紀以上の時間をかけて行われた。その間、悲惨な戦争と革命が起こって、良いシステムと悪いシステムの選別が行われ、最終的には最良と思われるシステムが実現した。」

The challenges posed in the twenty-first century by the merger of infotech and biotech are arguably bigger than those thrown up by steam engines, railways, electricity and fossil fuels. Given the immense destructive power of our modern civilization, we cannot afford more failed models, world wars and bloody revolutions. We have to do better this time.

「情報技術とバイオ技術の結合がもたらす困難は、蒸気機関や鉄道や電気や化石燃料が突きつけた困難を間違いなく上回ると思われる。現代文明のもつ巨大な破壊力を考えれば、様々なモデルを試している場合ではないし、世界戦争や血塗られた革命で解決を試みる場合でもない。今度こそ絶対うまくやらなければならないのである。」

<記事終わり>

ハラリ氏の本

主に人類の過去を扱った出世作

解説本

こちらでは人類の未来を扱う（続編的な位置づけ）