生命3.0 ———— 人工智能时代，人类的进化与重生

迈克斯·泰格马克，物理学家

探讨人类的终极命运

from 得到 听书 + 《精英日课2》

---

生命1.0 硬件与软件的升级都靠进化获得且只能靠进化来获得的生命体。（除人类外的其他生物）

生命2.0 硬件靠进化，软件可自己设计的生命体。

生命3.0 硬件与软件都可以自己设计，彻底脱离了进化的束缚。

如果生命3.0出现，可能就没人什么事了。。。

---

短期想象过分乐观，长期想象不够用。

---

AI的三种能力：存储信息、计算，和自我学习

---

目前AI的最大进展在于“自我学习”的能力，神经网络算法的涌现效应。

但是，算法不能解决所有问题，它只能解决很小的一部分简单问题。

再但是，算法所能解决的那些简单问题，就已经足够对付真实世界了 —— 因为描写真实世界的物理定律也都是简单方程！

所以：也许图灵机和神经网络算法不能完全取代人脑，但是对于真实世界需要的智能来说，它们可能就已经够用了。

---

“智能爆炸理论”，超级智能机器的成长不是循序渐进的，而是爆炸式的。（奇点）

如果这个爆炸产生，人工智能具备了自我迭代升级的能力，它就会迅速进化，把人类远远甩在后面。

---

“我们人类看人工智能，就好像在一个地铁站台上，左等不来右等不来，这车怎么还没来啊，突然从远方传来一点点的轰隆轰隆的声音，走得特别慢，等一年才走几米，可是它越来越快，越来越快，我们在那儿鼓掌欢呼，马上就要到了，马上就要到了。可是当它真的到我们站台的时候，你根本就看不见它。只会有那么极短的一个瞬间，它的水平和人脑是持平的唰一下，它就过去了，而且它到哪儿，我们就再也不知道了。”——《人類滅絕的一種可能》

---

不论人为给AI设定什么目标，它终将会失控。。

• AI理解的目标与人类输入的目标可能会有很大差距。大目标会拆解成意想不到的小目标，可能与“初心”不一致。
• 规则是不完备的，
• 超级AI相比人类是不同的高级物种，摆脱人类是最优化的方案

解决方法：逆向增强学习？装载人类的伦理和价值观。

---

让 AI 获得意识非常非常困难，但是让 AI 的智能超过人则相当容易。

AI 到底能不能拥有人的意识？

---

意识是什么？

是我们对世界的主观感受。主观感受赋予了我们生活的意义。

---

意识的基本单位————“感质”

• 不可言传
• 内在性
• 私人性，无法比较
• 可直接意会

---

关于意识的问题的四个级别：

• 第一级是“简单”的问题：大脑是怎么处理信息的？大脑的智能到底是怎么工作的？这些问题其实也很难，但毕竟似乎是可以用计算机原理解释的。

• 第二级是“比较难”的问题：一个有意识的系统和无意识的系统，从物理学来说他们到底有什么区别？

• 第三级是“更难”的问题：物理性质是怎么决定感质的呢？

• 第四级是“特别特别难”的问题：为什么宇宙里面居然有意识的存在？

---

“整体信息论”

有意识的物体必须是信息高速整合的

---

所有效率最终归结于目的，所有目的最终归结于价值观，所有价值观最终归结于感情，所有感情最终归结于意识。

有了意识，这个世界才有了好坏，才有了幸福，才有了意义。

不是宇宙给了生命意义，而是我们这些有意识的生命给了这个宇宙意义。

---

高级人工智能的真正可怕之处不是它们是否对人类怀有恶意，而是它们的能力究竟有多强。

---

AI也是一面审视自我的镜子，我们在思考AI的道德时，也在反思自己的道德。（电车难题，把机器人当奴隶）

---

启示：

AI能够自我迭代的领域是有限的，因为AI能解决的问题只是所有种类问题中非常少的一部分。

人生似乎并不能完全用一个算法描写。到底什么叫幸福？也许没有什么万能的方法论。

《仿生人会梦见电子羊吗》（电影《银翼杀手》）人与人造人的差别在于是否拥有共情力，共情力其实也是一种感情，也是一种意识。
感情只是生物进化过程中的一个副产品，是一种生存计算的快捷通道，如果真是这样，那么是否可以创造这样的机器，对情感计算进行优化路径计算，此时它是有意识的吗？（应该不是）只能是让人类感受到它可能有意识。意识应该是自发的，是涌现的，而不是设计的。。。