智能悖论

人工智能的探索者很早就意识到了一个悖论：人的知觉情感、运动平衡、应激反应等等下意识的、由自主神经系统所控制的，对于人类而言毫无学习压力的能力反而是人工智能最大的难题，这里并不涉及逻辑推理与自我意识这些通常被认为“智慧”的东西。“简单”的问题更难处理，“困难”的任务反而不是问题，这被称为莫拉维克悖论(Moravec’s paradox)。

The computer scientist Donald Knuth was struck that “AI has by now succeeded in doing essentially everything that requires ‘thinking’ but has failed to do most of what people and animals do ‘without thinking’—that, somehow, is much harder!”
― Nick Bostrom, Superintelligence: Paths, Dangers, Strategies

It is comparatively easy to make computers exhibit adult level performance on intelligence tests or playing checkers, and difficult or impossible to give them the skills of a one-year-old when it comes to perception and mobility.
— Moravec

莫拉维克所给出的一种解释是：人类的自主行为都是作为可更新迭代的生命体在自然选择下的产物，是在漫长的时间长河中不断“优化”的结果。而相比之下，逻辑推理、抽象思维作为相对新生的技能，缺乏必要的版本更新，虽然很强大但还未得到足够优化。换句话说，并非感知、运动以及沟通交流这些技能有多简单，只不过是亿万年的进化早已经将所需的一切硬件基础印刻在我们的基因中，所有人“天生”就是处理这些任务的天才。问题的难易并非是绝对的，而是相对于人类所拥有的这套硬件基础而言的，而为了在残酷的大自然中生存，那些久经考验的技巧早已被硬编码，成为了自然而然的行为。而当我们尝试在全新的硅基硬件上逆向工程重建智慧时，那些生而如此、看起来毫不费力的行为反而并不是能轻易就能达成的目标。

Encoded in the large, highly evolved sensory and motor portions of the human brain is a billion years of experience about the nature of the world and how to survive in it. The deliberate process we call reasoning is, I believe, the thinnest veneer of human thought, effective only because it is supported by this much older and much more powerful, though usually unconscious, sensorimotor knowledge. We are all prodigious olympians in perceptual and motor areas, so good that we make the difficult look easy. Abstract thought, though, is a new trick, perhaps less than 100 thousand years old. We have not yet mastered it. It is not all that intrinsically difficult; it just seems so when we do it.

从这个角度来看，自然选择的作用就对应于神经网络训练中的损失函数，而一代代的物种演化则是网络参数的更新优化。当人们说人工智能比人更耗能时，其实忘记了人工智能所是面对的是人类的整个演化历史而非单个的人类个体，将从零开始、达到物种演化顶点所消耗的能量与人类潜意识的能耗作对比显然时不公平的。而且，既然事物的难易只是主观认知而并非客观的、绝对的，人类潜意识的运动感知远非看起来那么的简单，那么人类看似高级的智慧很可能也并非看起来那么困难。看似精巧神奇的逻辑、意识等可能只是建立在更为底层的，支撑起人类生存的，硬件之上的一层薄薄的幻影，更为“本质”的是潜意识而非意识。如果真的是这样，当人类突破了运动感知、沟通交流这层屏障，奇点的降临也并非不可想象，而现在就是奇点前夜。

P.S. 这其中有一个问题是，人类似乎已经通过逻辑思维与工具的结合，一定程度上跳脱出了自然选择的游戏规则，而跳出大自然的反馈回路是否也意味着人类进化的停滞。当然这仅仅时最近千年的事而已，时间太短还很难有什么有效判断。