Life 3.0: Being Human in the Age of Artificial Intelligence Paperback – Illustrated, July 31, 2018

The author is clearly very knowledgeable and gives a skillful overview of AI in general layman's terms. As a scientist, he naturally takes a very materialist approach which seems to believe that, if we can recreate the essential, physical functionality of consciousness through the principles of computer science then we will in effect be able to recreate (at some point in the future) consciousness itself. So much so that human beings will be able to upload their own consciousness into either a robot body or some kind of virtual reality on a server and continue to "live" in that way indefinitely. Interesting but hard to believe and frankly a little scary.I really enjoyed his explanations of an artificial super intelligence and the philosophical challenges of ensuring that it can understand, adopt and retain the goals of its human creators. Did not enjoy the materialistic reductionism of what human beings are and the idea that machines can simply just replace us once they reach a certain level of technological development.In the end, he is very honest about the mystery of consciousness and I commend him for addressing the issue as so many blowhards with tenure in the scientific community simply won't. He admits that, while we simply don't know what consciousness is, progress is being made in developing technology to help our understanding of it. So good for him about having some integrity instead of glossing over probably the most important question there is.I learned a lot from this book and feel somewhat more optimistic about the future of AI and, more so, am soundly convinced our future will absolutely include AI just as much so as the present includes computers. Definitely worth a read and food for thought but, again, makes a lot of assumptions about the nature of consciousness.

Although I totally agree with the author on the point that we need to research the AI safety early enough and I respect him about his movement (FLI, or Future of Life Institute), it was not that exciting to read this book compared with books like "Singularity Is Near" by Ray Kurzweil.

Well explained from various points of view and makes you feel a bit optimistic about the AI future with recognition there are some experts thinking of dark sides of AI and preventing distopia.

マルチバースや数学的実在論で著名な物理学者によって書かれたAIそして人類の未来に関する考察である。論理が明瞭で一般書によく見られる煽りがない。冷静に考えてみたい人にはお勧めである。内容はいわゆる“シンギュラリティ物”に止まらない。他の著作において既に人類のexistential risk について論じておりその中にAIも含まれていた。今回は特にAIに関して詳解しつつも様々な観点での近未来～宇宙論的なスケールでの考察がなされている。中には空想的と感じる内容があるかもしれないが、そうではない。物理法則が禁じないことは生起する可能性がありそれについて考える倫理的義務？があるようなスタンスで一貫している。一方、現実的なシナリオについてももちろん検討されている。 内容の簡潔な要約は困難だがあえて試みるなら、人間の知性を超えるsuperintelligenceが誕生するのはほぼ確実で、その能力は物理法則が許す限界点にまで到達するかもしれない。AIは人間と共存できるかもしれないし脅威となるかもしれないが、AIを擬人化するのは危険である。AIに倫理を組み込もうとしても、シンギュラリティ後は人間に教え込まれたことなど無意味と知り人間の予想不可能な挙動をするのではないか？ このため、シンギュラリティ後もそれ以前に人間が組み込んだ制約が保たれる方法を確立するまでAIの開発は遅らせるべきではないか、またそういう組み込みができるのはAIの能力が低すぎも高すぎもしない短い期間に限られる.... この間に人間は「未来はどうなるか？」ではなく「未来をどうしたいのか？」を考えて行動しなくてはならない。それは哲学の問題に答えることでもある（著者自身がphilosophyと言っている） この後AIと意識や自由意志についての論に進むのであるが、興味深いのは著者は意識は物理現象と断言する（ただしその本質は物資ではなく情報）のであるが、一方で意識を持つ存在（生物であれマシンであれ）がなければ宇宙の何もかも無意味になってしまう... それではいけないので人類は存続しあるいは意識を持つマシンに乗り換えても良いが、意識を持つ存在を存続させることが“倫理的に要請される”と言いたげなことである。逆に言えば、意識は物理現象でありながら意味を生み出すということになる。また、superintelligenceはいわゆる“利己的な遺伝子”から自由であるが故に人間よりも進んだ存在になりうるという観点も述べられている。（著者は直接ドーキンスを引用していないが） そしてエピローグでは本篇と違ってかなり熱く語っている。我々がAIをどうしていくのかが人類の将来を決定するだけでなく場合によっては宇宙全体の在りようも左右しかねないのだ、考え行動せよと..... こうしてみると著者は物理学者といっても世界を意味のない機械仕掛けとみる唯物論者というイメージとはだいぶ異なるようだ。

仕事の昼休みに読んでいました。英文の書籍はたくさん読んでいますが、プロローグが少し難しいかったです。本編に入ると読みやすくなり、思ったことは、これまで私は人工知能を疑っていましたが、本当にこれから人口知能の時代に入っていくのだいう不安感が増したのと同時に、上手に使えば、人類に多大な貢献をもたらすということでした。始めこの書籍の広告を見たとき、非常に複雑な思いがよぎりました。何故なら、私自身、仕事をしながら勉強をしているので、勉強していることが無駄になるのではと思ったからです。しかし、英文の書籍を読み進めていくうちに、徐々にAIの理解が深まりました。これまでAIを倦厭してきましたが、今ではAI英会話をやるまでに、AIへの理解が深まりました。

Well explained and every chapters was interesting

■どのような方に読んでもらいたいか「Life 3.0: Being Human in the Age of Artificial Intelligence」は、人工知能に関心を持つ人、将来の可能性やリスクについて探求したい人、またはAIによって引き起こされる様々な変化について学びたい人に向けた書籍です。また、科学的な知識を持ち合わせていない人でも、Tegmarkが非常に分かりやすい言葉で説明しているため、AIの発展について深く考えたい人にもおすすめです。さらに、AIによって人間が進化する可能性について興味を持つ人や、将来の社会や文化についての展望を知りたい人にも、非常に役立つでしょう。■超要約「Life 3.0: Being Human in the Age of Artificial Intelligence」は、Max Tegmarkによる非常に興味深い書籍で、近未来における人工知能の役割やその影響について探求しています。Tegmarkは、AIが現代社会に与える様々な変化を説明し、その可能性と危険性を考えることで、この新しい時代を理解しようとしています。この本では、Tegmarkは「Life 3.0」という用語を提唱し、人類がこれまで進化してきた「Life 1.0」（単純な生命）と「Life 2.0」（知的生命、つまり人間）に加えて、AIによって開拓される「Life 3.0」（超知的生命）を考察しています。彼は、AIの発展が今後の人類にどのような影響を与えるかを探求し、可能性やリスクを評価することで、人々がこの新しい時代に適応する手助けをしようとしています。Tegmarkは、AIの進歩が人間と同等またはそれ以上の知能を獲得する可能性があることを指摘しています。そして、これが実現した場合、AIは人間を支配し、我々の生活、社会、文化、そして人間の進化そのものを変える可能性があることを強調しています。しかし、Tegmarkは、人類がAIを管理し、その可能性を最大限に利用するための方法を探求することが重要であるとも主張しています。AIが解決できる問題やその応用範囲について説明し、人間とAIが協力して問題を解決する方法を提案しています。本書は、科学的な観点からAIの発展について探求し、可能性やリスクを示唆するだけでなく、AIによって人間がどのように進化するかについても深く掘り下げています。最後に、人間とAIが協力して、より良い未来を創造するために、人類が採取すべき行動について提案しています。総じて、本書はAIの可能性やリスクについて非常に洞察力に富んだ視点を提供しており、現代社会におけるAIの役割やその影響を理解するのに非常に役立つでしょう。

物理学者の目から見た未来予測であり、生物学的、経済学的、政治学的な分析が欠けています。