仕事の関係でとある外部の講習会に出て、一般社団法人のお偉いさんに言われたことが「君たちの仕事はいずれAIに取って代わられる」である。おそらく色々な職種の勉強会等で、このようなお言葉をAIのこともさっぱり分からないお偉いさん達が言ってるんだろうなー、と思って聞いてました。知識があってAIのことについて理解があれば、こんな発言はしないので、こういう発言をする人達はAIに関しては、無知だと思っていいので無視してよいでしょう。
そのわけは現時点でのAIについて知見は以前よりも進歩しているので、単純に諸手を上げて歓迎するものでもないようです。それを詳しく書かれているのが『LIFE3.0ー人工知能時代に人間であるということ』という本
そもそも書名のLIFE3.0てなんぞ？ 本書では、LIFE1.0：細菌、ハードウェアとソフトウェアは進化するだけで、自分ではハードもソフトもどちらも設計できない。LIFE2.0：人類、ハードウェアは進化するだけで、ソフトウェアの大部分を設計できる。たとえば産まれてからソフトウェアに学習するプロセスを経て脳にプログラムされる（設計できる）。LIFE3.0：汎用型人工知能、ハードウェアもソフトウェアも設計できるとこの本では定義している。（境界域もあります。たとえば、LIFE1.6はチーターとかね）
つまり人間並みの知能を持ったAIが、自らに続くAIを設計して次々産み出すことができるものをLIFE3.0とこの本では呼ぶらしい。一般的にはそれが起こる転換点をシンギュラリティと言われている。ただし、そこで産み出されたAIが必ずしも人間の意思を受け継ぐAIではない可能性がある。そこで、人間の意思を踏襲しつつ、AIが独自で人類の意思に反して進化しないように規則を整わせるプロジェクトがこの本で語られている。AI懐疑派と思われているイーロン・マスクも筆者の働きに賛同し、筆者のテクノロジーを管理する研究所へ協力している（メディアはこういうの大きく取り上げない）。そのプロジェクトについては、この本の終わりに書かれていて、その他は現在〜未来までのAIについて割いている。
現在のAIは狭いシステム内で特化している。たとえば、囲碁や将棋の対戦や過去の臨床データをもとにした病気の診断などがそうである。それらのAIが狭いシステム内から抜け出し汎用化され、(これを汎用型AI「Artificial General Intelligence」以下AGIと呼ぶ)知識を使い人間並みの判断力や思考能力を得た場合、どのような危機をもたらすのか？ということもこの本では想定している。さらにどのようにAGIを制御するか？も提案しているのだ。
さらに、AGIについての法的整備が急務を訴えることも具体的に述べていたり、AGIと共存するためには、人間は将来どのような職についたらいいのかを考え、今の子どもたちには機械にはうまくできない職業、つまり人間関係や予測不可能な事柄や創造性が関係する職業を選んだほうがいいと語ったりもしている。
とりわけこの本のスゴイところは、遥か未来に話が飛び、AGIが行う惑星間移動とその惑星探査の構想が語られているところや、AGIがいたるところで進化し、それらがあたかも生命であることが当たり前になっていて、AGIと共存している（もしくは支配されている）人間のあり方や社会様式など、SF設定のような話も真面目に考えていること。
最終章では人間の自由意思の存在にまで至っている。この最終章についておじさんには、ちと難しくなってきたので、いまこれを書きながら再読中。
いやはや、全編にわたって内容が濃すぎではないのか！AIの話を期待して読んだら、AGIの安全性からその未来、宇宙、自由意思と思考の旅が続いて、着地したとおもったら、筆者が主催したAIの安全性管理の研究会議にイーロン・マスクが登場し研究所への多額の資金を提供してくれたことが語られている。
AIだけでなく、近未来の科学的予測もふんだんにあるし、引用の論文資料（Kindleだとそこからリンクをたどることができる）を眺めるだけで、お腹いっぱいにしてくれるおまけだらけの本でオススメです。
『全脳エミュレーションの時代』ロビン・ハンソン、『意識はいつ生まれるのか』ジュリオ・トノーニ、『ファスト&スロー』ダニエル カーネマン、『ホモ・デウス』ユヴァル・ノア・ハラリ など、関連する近年の書籍について触れてもいるので、索引＆原注が良きブックリストになってるので、この本から入った方は、ここから読書の幅を広げるといいかとしれませんね。
