《人工不智能-计算机如何误读世界》

from 得到 听书+万维钢《精英日课2》

---

作者：梅瑞狄斯 布鲁萨德 2018.4

---

人工智能想大规模取代人类并不是一件容易的事情，它还有很长的一段路要走，我们对于人工智能的恐慌和其他，其实都是在过度想象。

像《未来简史》中担心的“数据和算法掌控一切的未来”，离我们还非常遥远。

我们对于人工智能的误解，如果仅仅是观念和想象也就罢了，严重的是，因为人们过分依赖计算机算法，反而带来了一系列社会问题，所以我们现阶段需要正确认识人工智能。

其实算法都是人写的，人会犯错，算法就会犯错。

---

问题：

• 高估人工智能会产生什么样的社会问题？
• 自动驾驶这件事到底有多难？
• 现阶段人工智能的社会化应用的根本矛盾是什么？

---

高估人工智能会产生什么样的社会问题？

• 技术沙文主义，一切社会问题都可以用技术解决，特别是可以用计算机技术解决。
• 包括人工智能在内的所谓新技术，其实并没有解决真正的社会问题。
• 很多系统，比如教育，本质上是个因人而异的、混乱的、动态的系统。计算机技术要求标准化，统一，静态不变，定义良好，这个从本质上是矛盾的。
• 计算机和人工智能擅长解决工程问题，工程问题要求定义良好，而复杂的社会问题恰恰是不能定义良好的。
• 数据技术再先进，录入数据和使用数据的终究是人。不解决人的问题，技术会被人抵制。（上层人设想的问题，与底层实际操作者遇到的问题不一致）

---

自动驾驶这件事到底有多难？

• 现阶段所有的人工智能一个致命的弱点————高度依赖数据。都是对过去“经验”的总结，没有办法预测“没见过”的事情。
• 五级自动驾驶（全自动驾驶）可能是一个无法达到的目标。因为人工智能处理不了意外。
• 永远做不到100%的准确度，而做不到100%，即使是99.999999%也许就意味着一个人的生命。
• 人对路面情况的理解和平时积累的大量经验相关（可以区分塑料袋，石头，鸟，鸭子等等），可以预判后续的动作。计算机靠计算来完成，但这里有很多意外。（如：小孩是一个运动混沌系统）
• 人工智能对标识牌等的识别也有很多问题。（破损、有广告的标识牌，有干扰的GPS信号，误把白色的车当做白云，雨雪天气的影响）
• 道德困境，紧急情况是路人优先还是乘客优先？

• 经济困境，二八定律，提升最后的1%需要非常大的努力（数据）
• 法律困境，各地交通法不一致。无法穷尽（不完备定理）。
• 谁掌握了数据，谁的技术才有市场。小创业公司很难起步。强大的公司会变得更加强大

“自动驾驶技术千篇一律，实际未知路况万里挑一”

• 能否在特定的高速公路上强制要求全自动驾驶？
  能，但这不是技术问题，而是经济问题。

---

现阶段人工智能的社会化应用的根本矛盾是什么？

• 算法只能在一个维度上公平。而世界有很多维度。

• 算法根据经验，本质上是用以前人的表现去预测后来人的表现，可能会让一个人为不是他自己的行为付出代价。（公平性问题）一切基于经验决策的本质缺陷。
• 丑小鸭定理，一切分类都是主观的，是主观就会有歧视，此事古难全。
• 对于公平，人类社会存在不同的标准。社会还是这个社会，数学还是同样的数学，人工智能改变不了问题的本质。

---

如果不解决人的问题，技术终究不能解决真正的社会问题。

---

关于软件开发

• 软件开发不是生产流水线那种标准化的操作，它更像是一门匠人式的手艺。
• 快速提升开发技能的方式

面对面交流，向高手学习

“投掷”想法很重要，向观众展示

经验：

没有办法估计项目完成时间，任何软件都是“新的”，很多功能都是第一次做。

一个人犯的错误，全团队都受影响，软件开发是全局性的。

MVP（Minimum Viable Product），用勉强能用的产品接受市场的考验，不断迭代。

人工成本其实是用了一般人想象不到的地方。60%-70%的成本都花费在日常的人工维护上。

---

启示：

算法不能取代人的主观判断。

算法也需要适应这个世界，好的算法是适应这个社会的算法。（适者生存）算法（技术）能让这个社会往前推动了一点点就是成功的算法（技术）。

人工智能需要预判，需要与世界的互动

目前的智能算法取决于数据的输入，取决于频率派观点。

如果一件事情已经被标准化，数据完备，那么就很容易被人工智能取代。

有人参与的人工智能才是目前最适合的发展之路。

人有定义问题的能力，计算机只是用来解决人所“定义”的“特定”的问题。

现有的人工智能就是用统计方法增加猜测的准确度。人工智能就是机器学习。机器学习就是统计模型。

人脸识别
数据：人脸特征模型标准化
困难：双胞胎，相似度与区分度的平衡
人为：照片替代，面膜，遮挡，化妆，美颜，装饰

车牌识别项目
数据：车牌标准化，采集数据比较完备
困难：车牌污损，光线，天气
人为：遮挡，故意不挂车牌，错挂车牌

---

打赏