实时 AI 消息
《纽约时报》:OpenAI忽视员工关于安全测试AI模型的警告
据《纽约时报》报道,OpenAI忽视了员工关于安全测试AI模型的警告。这则调查报道把公司的安全治理流程再次置于公众审视之下。
据《纽约时报》报道,OpenAI忽视了员工关于安全测试AI模型的警告。报道把矛头指向公司内部的安全测试流程,而不是某一次具体的产品发布。
按照报道的说法,有员工就AI模型的安全测试提出过担忧,但这些警告没有得到应有的重视。也就是说,问题出在“担忧是否被听见、被采纳”,而不是“是否存在担忧”。
这并非孤立的行业话题。前沿模型的发布节奏越来越快,而充分的安全测试往往需要更长时间、更多轮评估和更多人参与,两者之间的张力在每一家头部实验室都存在,只是很少被具体披露。
报道的价值在于把讨论落到流程问题上:谁有权叫停一次发布,员工的担忧通过什么渠道上达决策层,以及这些渠道是否真的能改变结果。
这则报道的核心不是某一次测试失误,而是员工提出的安全担忧是否被听见、被采纳。对一家把安全承诺写进公开表述的公司来说,内部流程的实际运行方式,比对外声明更能说明问题。
对用户和监管者而言,这类报道会影响他们对AI公司自我监管能力的判断。当外部监管仍在成形阶段,公司内部是否愿意听取不同意见,往往是风险控制的第一道防线。
后续值得关注的是:OpenAI是否会就报道作出回应;是否会披露安全测试与发布决策流程的调整;以及监管机构会不会因此要求更明确的安全评估与披露要求。
为什么重要
报道把AI安全治理的焦点从对外承诺转向内部流程,可能加剧监管机构对实验室安全测试环节的审查压力。
附近消息
全部09/30 03:52
OpenAI据悉洽谈融资300亿美元,估值约1.4万亿美元
据TechCrunch报道,OpenAI正在洽谈一轮约300亿美元的融资,对应估值约1.4万亿美元。报道称这将是公司推迟至2027年的上市计划之前的最后一轮私募融资,也是观察AI行业资本热度的重要信号。
09/30 02:35
OpenAI 缺席英伟达“开放智能体安全平台”公开名单
英伟达正在推动一项覆盖行业范围的“开放智能体安全平台”,公开目标是遏制失控的 AI 智能体,而 OpenAI 并未出现在其公开支持者名单中。TechCrunch 获悉,OpenAI 实际上正私下与英伟达合作。
09/30 01:45
OpenAI 推出类办公套件功能,正面挑战微软
OpenAI 宣布推出一套新的办公功能,TechCrunch 形容它几乎就是 ChatGPT 自己的办公套件。这一发布让 OpenAI 与传统软件公司进入更直接的竞争,也被视为对微软的正面挑战。
09/30 01:20
AI 应用生成器 Wabi 转型为消息式个人智能体
Wabi 正把基于提示词的应用生成器重新定位为一款个人 AI 智能体,可以按需生成界面。据 TechCrunch 报道,新形态把聊天、应用与持续进行的任务结合在一起。