邓煜、陶哲轩对谈“AI与数学”：看不到AI思维链太荒唐，AI公司应邀数学家事前参与而非事后收拾残局

面对AI与数学之争，新晋菲尔兹奖得主、芝加哥大学数学教授邓煜，SAIR Foundation主席、菲尔兹奖得主陶哲轩最近在SAIR播客上探讨AI时代数学的未来。 邓煜表示，AI能大大拓展数学的边界、研究的边界，保持开放是AI必须具备的关键特质。未来会出现许多新方法，带来新思路。给定任何一个问题，只要AI给出了答案，往往还会有几个难得多的新问题，由此衍生，就可以开始探索。 陶哲轩表示，科技公司之所以

面对AI与数学之争，新晋菲尔兹奖得主、芝加哥大学数学教授邓煜，SAIR Foundation主席、菲尔兹奖得主陶哲轩最近在SAIR播客上探讨AI时代数学的未来。 邓煜表示，AI能大大拓展数学的边界、研究的边界，保持开放是AI必须具备的关键特质。未来会出现许多新方法，带来新思路。给定任何一个问题，只要AI给出了答案，往往还会有几个难得多的新问题，由此衍生，就可以开始探索。 陶哲轩表示，科技公司之所以发布新闻稿、宣称解决了数学问题，部分原因在于数学界本身也十分看重解决这些问题。如今，数学领域的许多老规矩都在发生变化，年轻一代眼下有很多焦虑甚至绝望。但当工具真正到了他们手里，他们就会想出极富创意的新做法，“我对年轻一代充满希望，只要有合适的工具，他们就能做出惊人的成果。” SAIR Foundation是一家由菲尔兹奖得主陶哲轩教授发起、多位诺贝尔奖得主及全球顶尖科学家共同指导的非营利性研究机构。基金会致力于解决科研体系的结构性瓶颈，通过跨学科的全球协作，以科学、安全的方式加速向AGI和ASI的演进。 陶哲轩、邓煜认为应该构建开放数学模型。 AI提炼人类数学成果，源头如何追溯？ 今年10月，OpenAI发布722份预印本，声称在几何、计算机科学、代数及其他学科的372个数学问题上取得了进展。数百项由人工智能生成的数学新发现，在一天内推进了高等数学的前沿。尽管一天后，因符号错误撤回三篇预印本。 邓煜表示，AI能大大拓展数学的边界、研究的边界。AI的证明令人惊叹，其中蕴藏着非常好的新思路。“单看证明本身，现在局面很好。AI正在向人类学习，学习人类的思路，也在创造自己的新思路。而这些新思路，我们也能够真正理解，并在此基础上发展出自己的新想法。这就是人类与AI的共同演进。” 陶哲轩认为，科技公司利用AI研究数学本质上是提炼他人的研究成果。“因为它们从别人的研究中获取数据，从别人的论文中获取数据。那我们到底该怎样追溯这些来源呢？” 学术界遵循开放科学的原则已有数百年之久。“我们把科学文献视为共同财富。所以我们发表论文，这些论文当然期刊是要付费的，关于这一点确实有一些值得讨论的争议，科学文献应该向所有人开放，本来就应该利用他人的文献，同时规范地注明引用，这样才能追溯思想的来源，科学就是这样进步的。”他表示，而AI能把科学家和数学家数千年积累的全部文献转化成答案，但过程却有些不透明。这些AI能给出答案，有时还会说自己用了某篇论文中的一项具体结果。但有时，它们无法一路追溯到源头，或者没有展示这些想法来自哪里。这就开始切断思想的传承链条，这实在可惜。 AI依靠的正是人类数千年的努力。邓煜表示，更具体的例子是有人直接使用别人的想法，这些想法是他人早先输入ChatGPT而后被拿来生成证明。“我觉得最终的目标，是有一套办法，让你真正能够追溯想法的来源。当然，就目前而言，如果能看到AI的思维链，你至少还能大致了解它是怎样得出这些结果的、参考了哪些资料。可现在连这些都看不到，这就太荒唐了。当然，如果我们想拥有不依赖这些大公司的工具，那么就要朝这个方向努力，这是目标之一。” 数学家应事前参与，而非事后收拾残局 陶哲轩表示，科技公司之所以发布新闻稿、宣称解决了数学问题，部分原因在于数学界本身也十分看重解决这些问题。过去，解决了这类问题就意味着数学家理解透彻、能讲清楚，能根据自己的工作提出新问题、培养学生，“我们为解题颁奖，实际上是在奖励这一整套更广泛的工作。” “但解决问题只是其中最容易衡量的指标，如今这几乎成了顺带的事。”陶哲轩表示，AI科技公司几乎在无意间解决了这些数学问题，对它们来说，这只是服务于更一般性的模型训练，成果成了某种副产物，甚至可以说是“有毒废料”，接着它们得想办法处理或者由数学家来处理。 他认为，需要改变激励机制和价值体系。“我们确实需要更明确地表明，我们不是为了解题而解题，我们想要更广泛的理解和洞见。理想情况下，产出这些证明的公司也应该和我们合作，把它们解释清楚。也许应该邀请一些数学家参与，在项目开始之前就加入，而不是事后再来收拾残局。” 陶哲轩表示，到了某个时候，必须表明，如果只是解决问题，却没有带来其他有价值的东西，就不会进入学术文献。“就我个人而言，科技公司这次发布中有十来个问题我都很关心。有一天我会去读，但眼下它不在我的优先级里。目前的讲解方式，还没有真正激起我的兴趣。不过我们最终会去看的，只是进度会慢得多。如果他们能与我们合作，就会快很多。” “说到底，问题在于我们为什么做数学。不同的人可能有不同的答案。对我来说，答案是理解这个世界。这里说的世界，既包括现实世界，也包括抽象的数学世界。”邓煜表示，这存在两条边界。第一条边界界定的是那些已有证明的问题，它们是所有问题中的一个子集。第二条边界界定的是我们能理解证明的问题，这是已有证明的问