斯梅尔第18问题:人工智能和人类智能究竟有没有极限?

· Math001Math001

1998年,菲尔兹奖得主史蒂芬·斯梅尔(Stephen Smale)在《数学情报》发表《面向下一个世纪的数学问题》,列出18个值得长期研究的问题。这份名单延续了希尔伯特在1900年提出问题清单的传统,其中既有黎曼猜想、庞加莱猜想这样的核心难题,也有关于动力系统、数值算法和计算复杂性的开放问题。第18问的措辞却不像一个通常的数学命题:

可译为:“人工智能和人类智能的极限是什么?”斯梅尔在相关讨论中把问题具体化为一项研究计划:需要用数学模型比较人工与人类智能,讨论问题求解、图灵机和实数计算、近似与舍入误差、随机性、复杂性、学习以及与环境的互动。它不是一句已经有答案的格言,而是一组尚未统一的问题。

图1|人类与人工智能面对数学边界。

今天,自动定理证明、机器学习和程序搜索让这组问题有了实验入口。2024年发表在《自然》的 AlphaGeometry 在一组奥赛几何题上解出 25 道中的 25 道(测试集共30题,论文报告其达到或超过奥赛金牌选手的成绩区间),并输出可读的几何证明;FunSearch 则用语言模型提出程序、再由评估器筛选,在帽子集和在线装箱等具体任务中找到新的构造或启发式方法。这些结果说明机器可以在部分数学任务中提出有效方案,却没有证明“机器已经拥有一般意义上的智能”,更没有给出人类智能的上界。

先把“极限”拆开

谈论智能边界,至少要区分四种不同的极限。可计算性问一个问题是否存在任何算法;复杂性问即使存在算法,资源消耗是否可接受;证明理论问某个形式系统能推出哪些命题;认知与社会层面的研究还要问,一个个体或群体是否能理解、学习、解释并在环境中行动。一个问题可能在逻辑上可计算,却需要天文数字的时间;一个证明可能形式上正确,却超出任何单个人的检查和理解能力。把这些层面压缩成“聪明或不聪明”,会遮蔽真正的研究对象。

图灵在1936年的论文中用图灵机刻画“有效计算”的概念。停机问题给出了一个严格边界:不存在一个对所有程序和输入都正确的通用算法,能够判断程序最终停机还是永远运行。这个结论不是说所有具体程序都无法判断,而是说不存在一个无条件万能的判定器。实际软件分析仍可在受限程序类上工作,数学家也能对大量具体实例给出答案。可计算性边界与工程上的困难因此不能混为一谈。

图2|计算、复杂性、证明与理解是相互关联但不同的层面。AI生成概念图。

复杂性理论处理的是另一层问题。旅行商问题的某些变体在有限规模上当然可以穷举,但随着输入增长,资源需求可能迅速超过现实能力;P 与 NP 是否相等至今仍是开放问题。即便未来证明 P≠NP,也只说明一类最坏情形的算法关系,不会直接给出“人类比机器聪明”或“机器必然取代人类”的结论。

哥德尔定理能说明什么

哥德尔1931年的不完备性定理针对的是满足明确条件的形式系统。一个系统需要能够表达足够多的基本算术,公理与推理规则要能被有效地列举,并且系统保持一致。在这些条件下,存在一个命题,系统既不能证明它,也不能证明它的否定。第二不完备性定理还表明,这样的系统不能在自身内部证明自己的相容性(同样要满足相应技术条件)。

这并不等于“所有真命题都不可证明”,也不等于“人脑能够看见机器看不见的真理”。我们可以在系统外加入新公理,得到更强的系统;但新系统仍会有自己的不完备性。更换公理、采用不同的逻辑或放弃有效可枚举性,也会改变定理的适用范围。哥德尔结果揭示的是固定形式系统的结构性限制,不能单独决定人类心智的本体。

罗杰·彭罗斯曾据此质疑强计算主义,但他的论证依赖于把人类数学家视为知道某个系统一致且能可靠接受其哥德尔句等额外假设。关于这些假设是否成立,哲学和认知科学界一直存在争议。斯梅尔的谨慎之处正在于:他要求建立更细致的脑、机器和环境模型,而不是把一条逻辑定理直接升级成人类优越性的证明。

计算主义是一条假设,不是结论

计算主义可以有强弱不同的版本。较弱的版本说,许多认知过程能够被计算模型近似;较强的版本则主张,只要两个系统在相关层面实现同样的计算组织,它们就具有同样的认知功能。这个观点为比较神经网络、符号程序和其他硬件提供了清晰框架,但它没有自动回答意识、情感、身体经验或意义如何产生。计算心智理论在哲学中是一组理论方案,而不是“所有心智都等同于算法”这一已证事实。

在实践中,智能更像多种能力的组合:记忆、预测、语言交流、规划、抽象、社会学习和对错误的修正。一个系统能证明很长的定理,未必能解释定理为什么重要;一个系统擅长对话,未必能在新环境中可靠地学习。把能力拆成可测的任务,才能比较不同载体,而不必先决定它们是否拥有同一种意识。

证明与理解可以分离

设想一个自动证明系统给出一条形式上可核验的证明。证明可以由小型检查器逐步验证,因此“可验证”并不要求某个人读懂全部策略。然而,验证每一步与理解整个证明的动机、结构和可迁移性,是两件不同的事。未来数学很可能出现这样的分工:机器寻找构造和证明,人类选择定义、提出问题、解释结果,再把可复用的思想提炼出来。

这不是降低证明标准。形式化检查能减少笔误和隐藏漏洞,解释工作则决定一个结果能否进入其他理论、教学和科学。把“发现”“证明”“验证”“理解”分开,反而能更准确地描述人机协作的贡献。

假如智能属于一个群体

人类习惯把智能归给一个身体和一个大脑,但自然界已经展示了分布式协调的例子。蚂蚁个体只执行局部规则,整个群体却能建造巢穴、寻找路径并调整资源分配。我们可以进一步想象一种外星文明:单个个体的记忆极其有限,信息通过气味、光脉冲或接触网络传播,只有整个群体才能完成长期规划。

在这种文明中,智能主体可能是个体、群体,或二者之间的层级网络。它们的计算资源分布在空间中,通信延迟和故障会成为推理的一部分。对它们而言,“知道一个定理”可能意味着群体能够在需要时重建并验证定理,而不是某个个体保存完整证明。这个思想实验提醒我们,智能的定义必须说明主体、资源、时间尺度和交互环境。

外星文明会发现同一种数学吗

可以想象人类向外星文明发送一串信号:2、3、5、7、11。若对方也研究不可进一步分解的离散数量,它们很可能会形成与素数相应的概念。但这只是在共享计数结构的条件下的合理猜想,不能由一串信号证明它们拥有与我们相同的数学。

欧几里得的素数无穷证明展示了这种条件性。假设已经列出有限个素数 p₁,p₂,…,pₙ,考虑 N = p₁p₂…pₙ + 1。N 的任一素因子都不在原列表中,因为列表中的每个素数除 N 都余1。因此总能找到列表之外的素数。注意 N 本身未必是素数,关键是它的素因子带来了新的成员。这个论证依赖自然数、乘法和整除关系;它不依赖汉语、地球文化或人类的视觉形状。

然而,文明的数学入口可能完全不同。蜂群文明也许先研究状态转移、网络和概率,而不是点、线和平面;生活在高维感知空间的生命,可能把拓扑或动力系统当作最直观的基础。即便最后它们证明了与我们对应的定理,符号、定义顺序和研究重点也可能不同。共同结构与共同语言必须分开。

图3|分布式文明通过网络交换数学模式。

这与数学哲学中的两种立场形成张力。数学柏拉图主义把数学对象看作独立于人类心灵和语言的抽象对象;形式主义则强调符号、公理和推理规则构成了数学活动的框架。维格纳在1960年讨论数学在自然科学中的“不可思议的有效性”,提醒我们:数学结构常常能进入物理理论,但这种有效性本身并不能决定数学对象究竟以何种方式存在。两个文明独立得到相似结构,会增强实在论的直觉,却仍需要排除共同物理环境、共同计算约束等其他解释。

斯梅尔第18问的研究路线

把这些讨论放回原问题,可以得到一张比“机器是否超过人类”更清楚的地图。第一步是为任务建立指标:正确性、样本效率、资源消耗、可解释性、迁移能力和在环境中的鲁棒性。第二步是说明计算模型的边界:哪些任务不可计算,哪些任务只是复杂,哪些任务因噪声和舍入而需要近似。第三步是研究学习与互动:智能体如何从有限反馈形成概念,如何与其他智能体分担记忆和验证。第四步才是比较不同主体,包括个人、机器和群体,并明确比较发生在哪一项能力上。

这一路线不会产生一个单一的“智能分数”。它更可能得到一组定理、反例和实验协议:某类模型在某种资源约束下不能可靠完成某类任务;另一类模型能以较低成本找到可验证的方案;人类与机器在提出问题、解释结构和利用外部工具方面各有优势。极限因此是带条件的关系,而不是一堵对所有主体都相同的墙。

结语:数学的边界也是我们的镜子

如果未来机器证明了人类暂时无法理解的定理,我们需要同时问三个问题:证明是否可核验,结论是否能迁移,理解是否会随着新的概念工具而出现。若人类与机器共同构成一个研究群体,“谁解决了问题”也许不如“哪些环节由谁完成”更有信息量。

斯梅尔第18问的力量,正在于它拒绝把智能简化成一场排名。它把可计算性、复杂性、证明、学习、身体和群体重新放到同一张问题地图上。数学可能包含跨文明都容易重建的结构,也可能包含依赖感知和历史的语言。我们目前能确定的,不是任何智能终将达到同一个终点,而是:要讨论极限,必须先把主体、任务、资源和理解的含义说清楚。

参考资料

  1. Stephen Smale, “Mathematical Problems for the Next Century,” The Mathematical Intelligencer 20(2), 7–15, 1998. DOI: https://doi.org/10.1007/BF03025291
  2. Stanford Encyclopedia of Philosophy, “Gödel’s Incompleteness Theorems”: https://plato.stanford.edu/entries/goedel-incompleteness/
  3. Stanford Encyclopedia of Philosophy, “Turing Machines”: https://plato.stanford.edu/entries/turing-machine/
  4. Stanford Encyclopedia of Philosophy, “The Computational Theory of Mind”: https://plato.stanford.edu/entries/computational-mind/
  5. Stanford Encyclopedia of Philosophy, “Platonism in the Philosophy of Mathematics”: https://plato.stanford.edu/entries/platonism-mathematics/
  6. E. Wigner, “The Unreasonable Effectiveness of Mathematics in the Natural Sciences,” Communications in Pure and Applied Mathematics 13(1), 1960: https://webhomes.maths.ed.ac.uk/~v1ranick/papers/wigner.pdf
  7. Trinh et al., “Solving olympiad geometry without human demonstrations,” Nature 625, 476–482, 2024: https://doi.org/10.1038/s41586-023-06747-5
  8. Romera-Paredes et al., “Mathematical discoveries from program search with large language models,” Nature 625, 468–475, 2024: https://doi.org/10.1038/s41586-023-06924-6
  9. Euclid, Elements, Book IX, Proposition 20, modern transcription: https://mathcs.clarku.edu/~djoyce/elements/bookIX/propIX20.html

原文链接:阅读原文

← 返回博客