Post #284

AI 取代人的一个问题 我之前一两年就经常在关注这个问题：很多问题上人是没法把自己的经验和判断传给另一个人的，或者说，甚至没法低成本地说服别人。我常举的例子是 1. 和某种动物打交道很久的人一眼能看出图片上的动物是哪只个体，但普通人怎么看都觉得全长一个样。2. 经验丰富的棋手会说某一步感觉更好/更坏，但不一定能用逻辑说服别人。3. 数学好的人有很多 heuristic，比如某道题一看就想先尝试某个方法来解。 这些事情的共性是，如果另一个没有相关经验和判断的人不认可，很可能除了非常高成本地让他也接触大量训练数据以外，没有办法低成本说服他，或者教会他。（现实中的解决方法往往是“我是这个领域的专家，所以你应该相信我的判断”） 如果我们指望 AI 能代替人写代码或者思考数学题等等，就会产生这个模式的问题了，比如人觉得想写个某某程序/提出个数学猜想希望能找到证明，AI 实际来做，那么做的过程中一定会发现很多想不到的问题。目前的 AI 在这里表现就很差了，实际上需要人来盯着，把这些问题都帮忙想清楚。 但假如 AI 能像人一样把这些问题都仔细想清楚，这中间就会产生很多知识，并且一些真正重要的知识不会是很“表面”的、可以几句话说清楚的，而是像我前面说的那种，没法低成本说服别人/教会别人的。 如果人没获得这样的知识积累，不知道这些自己都想不到的问题的思考结论，那就会有很多问题了，比如 AI 说做不了，人不信，或者人可能会提出一些没有逻辑的需求，或者完全不理解各种需求的实现成本、可行性、取舍，不知道其实存在更好的选择等等。毕竟人没有自己思考过实际做起来会遇到的各种问题，没有获得能训练出自己的判断的大量数据。 很多事情里面都有两类工作量，机械枯燥的劳动和真正把未知变成已知的思考（机械枯燥的思考，例如列竖式算长除法，或者观察一张图片是不是消防车，属于前者）。我认为后者是一个人，或者 AI，成为专家的必经之路。另一个专家给你说各种结论，是不会让你也成为专家的。而且这种知识不是死的，是要持续迭代前进的。 因此我认为，专家和非专家之间是存在区别的，非专家是不会因为用了特定辅助工具或者有专家替自己做事，就成为专家的（当然绝对可以有一定程度加速的作用）。如果 AI 达到了能够替代人做那些思考的水平，并且真的在做，AI 会成为专家，人不会，而非专家是很难指挥好专家的，也很难做出好东西。