实时 AI 消息
OpenAI Astra成为旗下首款具备“Critical”级黑客能力的AI模型
据Decrypt报道,OpenAI旗下模型Astra成为该公司首款具备“Critical”级黑客能力的AI模型,评级指向其在漏洞利用与攻防相关任务上的高阶能力表现。这一进展既展示了模型在安全场景中的实用价值,也让高等级攻击能力如何被约束的问题变得更加紧迫。
据Decrypt报道,OpenAI旗下模型Astra已成为该公司首款具备“Critical”级黑客能力的AI模型。这一评级意味着OpenAI自有模型在漏洞利用与攻防相关任务上的能力刻度出现了明显跃升。
报道并未披露Astra具体通过了哪些测试,但“Critical”评级本身指向该模型在漏洞利用、渗透与攻防相关场景中的高阶表现。
对安全行业来说,这类能力是典型的双刃剑:具备高等级攻防能力的模型,可以用于自动化渗透测试、漏洞挖掘与红队演练,从而把安全专家从重复劳动中解放出来;但同样的能力一旦被滥用,也可能降低真实网络攻击的实施门槛。
更重要的是,这一评级把模型安全问题从“拒绝有害请求”推向了“模型本身具备攻击能力”的新阶段。对OpenAI而言,如何在不削弱Astra实用价值的前提下控制其安全风险,将是一道比单纯对齐训练更复杂的考题。
接下来值得关注的是,OpenAI会为Astra设置怎样的使用边界,是否会向安全研究社区开放相关能力,以及监管机构将如何看待具备高等级攻击能力的前沿模型。
为什么重要
Astra拿到的高等级攻击能力评级,把AI安全讨论从内容拒答推进到模型原生攻击能力的治理层面,OpenAI的防护设计与监管态度将成为后续焦点。
附近消息
全部09/03 00:51
基础设施变更智能体empirik.ai结束隐身,获2100万美元融资
基础设施变更智能体创企empirik.ai结束隐身模式,宣布获得2100万美元融资,目标是打造面向基础设施变更场景的AI Agent,消息由Yahoo Finance发布。融资轮次、投资方与具体产品形态尚未披露,后续的产品公开与落地案例将是检验其价值的关键。
09/03 01:09
美国政府在版权训练争议中表态支持OpenAI:AI产业竞争力关乎国家利益
美国政府在法庭简报中表态支持OpenAI,认为发展强大且有竞争力的AI产业符合国家利益,并应由美国在全球AI实践中树立标准。TechCrunch报道称,这一官方立场把训练数据的版权争议与产业政策直接挂钩,为AI实验室提供了重要的行政背书。
09/03 01:09
Pangram CEO:互联网正“危险地接近”死互联网理论,AI检测比“真假判断”更难
AI检测初创公司Pangram的联合创始人兼CEO Max Spero在TechCrunch《Equity》播客中警告,互联网正“危险地接近”死互联网理论,几年内就可能成真。他表示,判断内容中AI参与了多少,比简单地标注“真人还是AI”更难也更有用——而Pangram近期刚与Substack达成合作并推出AI图像检测工具。
09/03 00:01
印度首富旗下Jio要把老旧电脑变成AI就绪PC,两个月最低仅约11美元
据TechCrunch报道,印度首富旗下公司Jio正押注把老旧电脑改造成“AI就绪PC”,最低约11美元即可使用两个月。该计划试图以极低门槛盘活存量设备,把AI能力带给价格敏感的印度用户。