旧金山:最近的一个下午，都铎·阿希姆(Tudor Achim)给一个名叫亚里士多德(Aristotle)的人工智能机器人出了一道脑筋急转弯。
这个问题涉及一个10乘10的表格，里面有100个数字。他问道，如果你收集每一行中最小的数字和每一列中最大的数字，那么最大的小数字会比最小的大数字大吗?
机器人正确地回答了“否”。但这并不奇怪。流行的聊天机器人，如ChatGPT，也可能给出正确的答案。不同的是，亚里士多德已经证明了它的答案是正确的。机器人生成了一个详细的计算机程序来验证“否”是正确的回答。
包括OpenAI的ChatGPT和谷歌的Gemini在内的聊天机器人可以回答问题、写诗、总结新闻文章和生成图像。但他们也会犯违背常识的错误。有时，他们会编造一些东西，这种现象被称为幻觉。
阿奇姆是硅谷一家名为Harmonic的初创公司的首席执行官兼联合创始人，他正在努力打造一种不会产生幻觉的新型人工智能。今天，这项技术主要集中在数学上。但许多顶尖研究人员认为，他们可以将同样的技术扩展到计算机编程和其他领域。
因为数学是一门严格的学科，有正式的方法来证明一个答案是对还是错，所以像Harmonic这样的公司可以开发人工智能技术来检查自己的答案，并学会产生可靠的信息。
这家科技巨头的人工智能中心实验室谷歌深度思维(Google DeepMind)最近推出了一个名为AlphaProof的系统，它就是以这种方式运作的。在面向高中生的顶级数学竞赛——国际数学奥林匹克竞赛中，该系统取得了“银牌”的成绩，解决了竞赛6道题中的4道。这是第一次有机器达到这样的水平。
“这是一条绕过幻觉的道路，”谷歌DeepMind首席研究科学家大卫·西尔弗(David Silver)说。“证明是真理的一种形式。”
一些研究人员相信，使用类似的技术，他们最终可以建立一个比人类更擅长数学的人工智能系统。这就是阿希姆和他的联合创始人弗拉德·特涅夫(Vlad Tenev)的目标。特涅夫更广为人知的身份是在线股票交易公司罗宾汉(Robinhood)的首席执行官。他们的新公司Harmonic已经从红杉资本和其他投资者那里筹集了7500万美元(合3.1244亿令吉)的资金。
其他人，如西尔弗，相信这些技术可以进一步扩展，导致人工智能系统可以验证物理真理和数学真理。
2017年左右，包括谷歌、微软和OpenAI在内的公司开始构建大型语言模型。这些人工智能系统通常花费数月时间分析从互联网上挑选的数字文本，包括书籍、维基百科文章和聊天记录。(去年12月，《纽约时报》起诉OpenAI和微软侵犯了与人工智能系统相关的新闻内容的版权。)
通过精确定位所有文本中的模式，这些系统学会了生成自己的文本，包括学期论文、诗歌和计算机代码。他们甚至可以进行对话。
但这项技术有时也显得很愚蠢。它似乎只是把从互联网上学到的东西吐出来——无法核实这些信息是对还是错，是真的还是完全编造的。
本月，OpenAI发布了一个新版本的ChatGPT，旨在通过问题进行推理。它花时间“思考”，尝试不同的策略，努力得出正确的答案。但它仍然会出错，会编造一些东西。
像阿希姆这样的研究人员开始通过数学来解决这些问题。通过数学，你可以正式证明一个答案是对还是错。
大约十年前，一位名叫莱昂纳多·德莫拉(Leonardo de Moura)的微软研究员创造了一种专门用于证明数学命题的计算机编程语言。这种编程语言被称为精益，最初是人类数学家的工具。但现在，人工智能系统已经足够熟练，可以生成自己的计算机代码，它们也可以使用精益。
Harmonic正在设计一个可以生成自己的精益证明的大型语言模型。它生成的精益代码并不总是完美的。但通过试错，它可以学会验证一个解决方案。
“它很像人类，”阿希姆说。“如果你试图解决一个数学问题，你会尝试某些步骤。如果失败了，你会尝试其他方法，直到你找到正确的方法。”
当亚里士多德被要求回答数学问题时，它可以检查答案。这些问题可能很简单，比如“2+2等于多少?”或者它们可能是更复杂的脑筋急转弯，比如那个10乘10的数字网格。
“如果系统能输出一个答案，它基本上就保证是正确的，”Achim说。
当亚里士多德检查自己的答案时，它成为一种产生大量可信赖的数字数据的方式，这些数据可用于教导人工智能系统。换句话说，亚里士多德可以生成可以用来改进自身的数据。
研究人员称这种数据为“合成数据”，即人工智能产生的可用于训练人工智能的数据。许多研究人员认为，这一概念将成为人工智能发展的重要组成部分。
阿希姆和特涅夫相信，经过多年的训练，亚里士多德将比任何人都更擅长数学。“我们希望它像世界上所有数学家的集合一样聪明，”Tenev说。“我们希望它能解决从未解决过的问题。”
人工智能系统可以使用相同的技术来验证它们自己的计算机代码，这在很大程度上依赖于数学逻辑。如果一个系统可以生成可靠的代码，它就可以在互联网上采取行动。它变成了研究人员所说的人工智能代理。许多研究人员表示，随着这些人工智能系统的改进，它们几乎可以实现所有数字工作的自动化。
但研究人员很快补充说，这些人工智能系统有局限性。精益代码可以证明数学定理和验证计算机代码，但它不能处理日常生活中的复杂细节。
元研究科学家安吉拉·范(Angela Fan)说:“一旦你走出数学领域，情况就大不相同了。”人工智能系统通常没有绝对的对与错，就像它们在数学中所做的那样。
西尔弗承认这个问题。但他也表示，现实世界中存在可证实的真相。石头就是石头。声音以每秒343米的速度传播。太阳从西边落下。如果人工智能系统从物理现实中提取信息，它也可以验证这些事实。
“真理可以来自世界，”西尔弗说。“如果你能从世界上得到反馈，你就能不断进步。——《纽约时报
×
