郭震 AI公众号:郭震AI

实时 AI 消息

OpenAI 公布低资源编程语言评测,COBOL 与 Fortran 编码能力大幅提升

OpenAI 发文介绍其最新模型在 COBOL、Fortran、Visual Basic 等低资源编程语言上的进展,称编码与迁移能力均有明显提升。公司同时发布 MultiLangBench 多语言建库评测和 COBOL 迁移评测,并把评测设置与分语言结果开源到 GitHub。

发布时间

OpenAI 在其官网发布文章,介绍最新模型在低资源编程语言上的进展,重点关注 COBOL、Fortran 和 Visual Basic 这类训练语料远少于 Python、JavaScript 的语言。文章给出的理由是现实需求:这些语言承载着大量关键基础设施与基础服务,却长期是编码模型的薄弱环节。

文章引用数据说明这些语言的分量:COBOL 支撑着超过 40% 的网上银行系统、80% 的面对面信用卡交易和 95% 的 ATM 交易;Fortran 则被用于天气预报和核安全记录分析。OpenAI 表示,这一方向来自开发者和企业客户的反馈——模型在这些语言上经常表现不佳,而维护这类系统的团队往往面对文档残缺、原开发者离职、业务规则只存在于代码之中的局面。

为了衡量进展,OpenAI 构建了两个评测。MultiLangBench 要求模型用 20 种不同的编程语言从零写出一个兼容 SQLite 的数据库引擎,考验代码组织、状态管理、错误处理和功能扩展能力;COBOL 迁移评测则要求模型把既有 COBOL 程序迁移到 C++、Java、Kotlin、Python 或 Rust,并用隐藏测试检查输出是否逐字节一致。

在 MultiLangBench 上,GPT‑6 Astra 在 20 种语言中的平均测试通过率达到 87.4%,而 GPT‑5.6 Sol 为 26.8%,且每一种语言都有提升。分语言看,COBOL 从 10.9% 升到 72.1%,OCaml 升到 85.8%,Fortran 升到 83.5%,Visual Basic 升到 89.4%;Astra 在其中 19 种语言上超过 83%,COBOL 仍是最难的一项。

成本一侧的变化同样明显。定位更低成本的 GPT‑6 Luna 平均通过率为 40.3%,但每个样本的预估 API 成本约为 0.77 美元,而 GPT‑5.6 Sol 为 3.48 美元,降幅约 78%,并且在测试的每种语言上都优于 GPT‑5.6 Sol。

COBOL 迁移评测的结果更能说明问题。GPT‑6.1 Sol 在低推理强度下达到 86.6% 的准确率,GPT‑5.6 Sol 仅为 5.4%,同时成本低 39%;把推理强度调高后,准确率达到 97.9%,几乎打满这项评测。OpenAI 解释了这个任务为何困难:COBOL 的定点运算会直接丢弃多余小数位,除非显式要求舍入,一次看起来正确的重写可能顺利运行却算出不同的财务结果。

OpenAI 同时把 MultiLangBench 的评测设置、测试套件和各语言结果发布在 GitHub 上,方便开发者查看评测究竟测了什么、自己使用的语言表现如何。对银行、保险、政府和大量依赖遗留系统的行业来说,这类能力直接关系到现代化改造的可行性与成本。

接下来的看点是第三方能否复现这些数字,以及企业在真实迁移项目中如何验证行为一致性——评测里的逐字节比对,在真实系统里往往要换成更昂贵的回归测试与合规审查。低资源语言的覆盖范围是否继续扩大,也会决定这套评测的长期价值。

为什么重要

这批结果显示模型正在补上银行、保险、政府遗留系统最需要的语言能力,也把评测标准公开交给第三方检验。企业现代化改造的成本结构可能因此改变,但真实迁移仍取决于回归测试与合规验证。

微博邮件

OpenAICodingBenchmark
返回实时消息

附近消息

全部

10/19 19:49

埃森哲联邦服务与谷歌公共部门推出Gemini Launchpad,助联邦机构规模化部署智能体

10月19日,埃森哲联邦服务公司与谷歌公共部门宣布推出Gemini Launchpad,为美国联邦机构提供集中管理智能体的枢纽,并配套前置部署工程师和面向人力资源、财务、供应链的预置智能体。该方案意在让机构从智能体试点走向可衡量的任务级规模化部署。

10/19 19:00

Arm 称 AGI CPU 在智能体 AI 测试中每机架性能接近 AMD EPYC 9755 的两倍

据 Tom's Hardware 10 月 19 日报道,Arm 表示其 AGI CPU 在面向智能体 AI 的新一轮 CPU 测试中,按每机架计算的整体性能接近 AMD EPYC 9755 的两倍。这一对比把注意力从单颗芯片转向整机架的吞吐能力,但数据目前来自 Arm 自己主导的测试,仍需第三方复现。

10/19 21:58

Monday.com 推出语音 AI 智能体平台 Harmony,瞄准销售团队

Monday.com 发布名为 Harmony 的语音 AI 智能体平台,面向销售团队,把客户通话交给 AI 处理。报道确认了产品名称、形态和目标场景,但未披露定价、支持语言与底层模型,落地效果仍待真实通话数据检验。

10/19 18:01

Token 发布 TokenCore Card:用指纹智能卡为登录与 AI 智能体操作背书

Token 10 月 19 日在 Authenticate U.S. 2026 上发布 TokenCore Card,把 FIDO2 无密码认证、本地指纹验证以及蓝牙和 NFC 集成进员工日常携带的智能卡。该卡不仅用于登录,还会在 AI 智能体执行转账、修改权限等关键操作前要求持卡人指纹确认,试图把“凭证持有者”变成“可验证的本人”。