实时 AI 消息
新基准PaperBenchX:模型能攻千禧年数学难题,论文复现率却低至13.98%
量子位报道称,以PaperBenchX为代表的新基准正被用于衡量AI的科研能力,测试显示模型虽能应对千禧年数学难题,论文复现率却低至13.98%。这一结果提示,AI在真实科研流程中的可复现性仍存在明显短板。
据量子位报道,一个名为PaperBenchX的新基准正被用于衡量AI的科研能力。报道提到,模型虽能破解千禧年数学难题,但在复现论文这一环节上的成功率却低至13.98%。
13.98%这个数字之所以醒目,是因为它把会做题和会做研究区分开来。数学难题考验的是推理与计算,而论文复现要求模型读懂方法、重建实验、并得到可验证的结果——后者更接近真实科研流程。
报道的另一个重点是基准本身。以PaperBenchX为代表的评测,试图给出一个更能反映科研实力的刻度;换言之,讨论的焦点从模型能不能答对,转向模型能不能把研究真正做出来。
这种区分对行业有现实意义。过去,人们常用竞赛成绩或题库得分来判断模型强弱,但这些指标容易高估模型在开放性研究任务中的表现。复现率这样的指标,更接近科研人员日常遇到的难题。
报道的措辞也留有余地:它提出PaperBenchX或许能更好地衡量AI的科研实力,而标题以问号收尾,说明这仍是一个正在形成中的评测思路,而非定论。
后续值得观察的是:PaperBenchX的评测细节与覆盖范围,模型在复现任务上的表现会如何随版本迭代变化,以及这类基准是否会成为衡量AI科研能力的新参照。报道给出了具体数字,但围绕它的讨论显然才刚开始。
为什么重要
PaperBenchX把论文复现率作为衡量AI科研能力的指标,13.98%的低分提示模型在开放性研究任务上仍有明显短板;这类基准可能改变业界评价模型的方式。
附近消息
全部10/08 18:23
联想YOGA Pro 15开启盲约:搭载NVIDIA RTX Spark N1X超级芯片
联想YOGA Pro 15 RTX Spark笔记本电脑于10月8日9:00正式开启全网盲约,主打搭载NVIDIA RTX Spark N1X超级芯片带来的个人生产力升级。联想将这款新品定位为重塑个人生产力边界的设备,完整售价与详细配置预计在后续公布。
10/08 18:37
印度部长称AI监管时机已到,政府将在一个月内发布咨询文件
据报道,印度部长阿什维尼·瓦伊什瑙表示,为AI制定监管规则的时机已经到来,中央政府将在一个月内发布一份咨询文件。这一表态显示,印度正加速推进AI治理框架的落地。
10/08 19:40
京东联合产业链伙伴共推“智能体电脑”新品类,两年销售目标破千亿
京东宣布携手产业链合作伙伴共同推动“智能体电脑”这一新品类的增长,并提出两年销售目标突破千亿元。这一动作把AI能力从软件层延伸到整机品类,显示出渠道与厂商联合定义新硬件方向的意图。
10/08 14:57
OpenAI 公布 722 项 AI 数学解决方案,引发社区讨论
据 Google News 聚合的报道,OpenAI 公布了 722 项 AI 数学解决方案,其规模成为当日讨论焦点。报道同时提到,社区由此开始质疑人类自身对相关问题的理解程度。