"“人工智能能否加快数学发现的步伐？”
  AI 在数学上存在明显困境
  人工智能可以用沃尔特·惠特曼的风格写一首诗，提供约会建议，并建议最好的朝 鲜蓟烹饪方法。但在数学方面，像OpenAI广受欢迎的ChatGPT这样的大型语言模型，有时会遇到一些基本问题。有些人认为这是技术固有的局限性，特别是在涉及复杂推理时。
  美国国防部高级研究计划局（DARPA）的一项新计划，试图通过招募研究人员寻找方法与AI“合著者”一起进行高水平的数学研究，来弥补这一不足。这项新拨款计划的目标是使数学加快突破，推动纯数学（相对于应用数学）的进步步伐，并以此将AI变成最优秀的数学家。
  罗格斯大学数学家、计算机科学家帕特里克·沙夫托（Patrick Shafto）说：“数学是一个很好的试验台，它是目前人工智能系统的关键痛点。”Shafto现在是DARPA信息创新办公室I20的项目经理。“如果我们克服了这一点，它将释放出更强大的人工智能，”他补充道，“这对数学家群体和整个社会都有巨大的潜在益处。”
  让 AI 到最前沿的数学试验场
  Shafto博士在DARPA总部的办公室里发表了讲话。DARPA总部位于弗吉尼亚州北部，是一座匿名建筑，蓝色玻璃的外墙几乎没有迹象表明它是其联邦政府中最不寻常的机构之一。
  “通过改进数学，我们也了解人工智能如何更好地工作，”阿隆德拉·纳尔逊说。她曾担任小约瑟夫·R·拜登总统政府的高级科学顾问，也是新泽西州普林斯顿高等研究院的教员。“因此，我认为这是一种良性的理解循环。”她建议，今后，擅长数学的人工智能，可以加强密码学并帮助太空探索。
  第二次世界大战后，DARPA开始与苏联在太空竞赛中竞争。DARPA最著名的成就是促进了ARPANET的研究，ARPANET是我们今天使用的互联网的前身。该机构的小礼品店，是不向公众开放的，人们可以购买鸡尾酒餐巾的复制品，有人在上面勾勒出了1969年计算机网络的基本状态。DARPA后来资助了这项研究，研发出了无人机和苹果的数字助理Siri。但它也负责开发橙剂，一种在越南战争中用于破坏性作用的强力落叶剂。
  蒙特利尔大学数学家安德鲁·格兰维尔（Andrew Granville）在谈到DARPA的数学计划时说：“我相信这并不是百分之百的纯粹（数学），尽管他强调他只是在猜测最终的结果。毕竟，DARPA是五角大楼的一部分，即使它历来以令人羡慕的独立性运作。美国军方正在迅速将人工智能纳入其作战行动，目的是不输给潜在竞争对手。
  与此同时，格兰维尔博士对这一努力表示赞赏，因为特朗普政府正在削减科研经费。“我们正处在美国科学的灾难时期，”格兰维尔博士说。“我很高兴DARPA能够为学术界输送资金。”
  最近的一个下午，49岁的Shafto博士在一个稀疏的会议室里坐着，他是一个冲浪和滑板爱好者。他想象着，人工智能在解决多步骤问题方面的能力，和在试图从大量文本中收集意义方面的能力是一样的，这是通过运用概率论实现的。
  尽管天气异常恶劣，Shafto博士还是穿着一件蓝白相间的夏威夷风格衬衫、白色法兰绒长裤和凉鞋，面前的桌子上还放着一顶特里比帽。总的来说，他的氛围显然更接近圣克鲁斯而不是国会山，这在很大程度上符合DARPA对该国首都缓慢的官僚步伐的传统无视。（该机构在科学家之外设定优先事项和资金，但不自行开展研究；像Shafto博士这样的学者平均担任项目经理四年。）
  纯数学的“王冠”
  “有伟大的数学家研究古老的问题，”Shafto博士说。“这不是我特别感兴趣的事情。”相反，他希望通过使用人工智能来节省时间，从而使训练更快地进行。
  “数学问题有时需要几十年或几百年才能解决，”他最近在DARPA总部关于数学指数化项目的演讲中说，该项目将在7月中旬接受申请。然后，他分享了一张幻灯片，显示在发表论文的数量方面，数学在上个世纪停滞不前，而生命科学和技术科学爆炸式增长。如果这一点不清楚，幻灯片的标题是：“数学是慢的..(Math is sloooowwww…)”。
  Shafto博士想要加速的纯数学往往是“慢行的”，因为它不像应用数学那样寻求具体问题的数值解。相反，纯粹的数学对有远见的理论家们而言，是令人兴奋的领域，他们可以大胆地观察世界是如何运转的，而这些观察很快就会被同行们仔细观察（有时甚至撕碎）。
  “证明为王（Proof is king），”格兰维尔博士说。
  数学证明由称为引理的多个构造块组成，小定理用来证明大定理。西北大学的数学家Bryna R.Kra承认，每个摇摇欲坠的引理塔在面对严格的审查时——是否能够保持完整性，正是这一点使得纯数学成为一个“漫长而艰苦的过程”。“所有的数学都是建立在以前的数学基础上的，所以如果你不知道如何证明旧的东西，你就不能真正证明新的东西，”她说。作为一名研究型数学家，目前的做法是你要经历每一步，证明每一个细节。
  Lean是一个基于软件的证明助手，可以加快这个过程，但Granville博士说，这“很烦人，因为它有自己的协议和语言”，需要编程方面的专业知识。“我们需要有一个更好的沟通方式，”他补充说。
  AI 的不可解释性风险
  人工智能能拯救世界吗？据Shafto博士说，这就是希望。一个能够可靠地检查证明的人工智能模型，将节省大量的时间，使数学家们能够更具创造性。Shafto博士说：“数学的恒常性，与我们练习数学时或多或少相同的事实相吻合：人们仍然站在黑板前”。“很难不把两者联系起来，然后说，‘好吧，你知道，也许如果我们有更好的工具，这会改变进展。’”
  Shafto博士和其他人认为，非数学从业者也会受益。像ChatGPT这样的大型语言模型，可以在数字化的人类知识库中搜索，生成一篇关于文学历史半令人信服的大学论文。但是思考一个数学问题的许多复杂步骤，仍然是难以捉摸的。
  威斯康星大学麦迪逊分校数学家Jordan s.Ellenberg说：“我认为，我们将从如何让各种人工智能协议生成感兴趣的材料中，学到很多关于它们能力的知识。他是申请数学指数奖助金团队的一员。“对于哪些问题是困难的，哪些问题是容易的，我们还没有直觉。我们需要了解这一点。”
  关于人工智能一个更令人不安的事实是，我们并不完全理解它是如何工作的。人工智能公司Anthropic的首席执行官达里奥·阿莫迪（DarioAmodei）在最近的一篇文章中写道：“这种缺乏理解的现象，在技术史上是前所未有的”。Ellenberg博士有点轻描淡写地指出，电在其特性被完全理解之前，就已经被广泛使用了。然而，由于一些人工智能专家担心人工智能会毁灭世界，因此对其运作的任何澄清，都是受欢迎的。
  前白宫顾问纳尔逊博士承认，人们对人工智能迅速融入社会各个领域的担忧是“合理的”。她认为，更应该让DARPA来处理这个案子。她说：“如果你问一个关于莎士比亚的问题，你的聊天机器人是否会产生幻觉，还有一个更高的基准需要达到。”
  “这赌注要高得多。”
  "