郭震 AI公众号:郭震AI

实时 AI 消息

华中科技大学与阿里巴巴联合成立AI安全研究中心

华中科技大学与阿里巴巴联合成立AI安全研究中心,把合作定位在人工智能安全方向的研究与协作上。目前公开信息仅来自国内媒体报道的标题,具体投入规模、人员构成与运行机制尚未披露。

发布时间

据国内媒体报道,华中科技大学与阿里巴巴联合成立了一个AI安全研究中心。报道标题给出的信息是双方共建这一机构,并将其定位在人工智能安全方向的研究与协作上。

高校与企业共建安全研究机构,是过去几年国内AI治理体系里比较常见的一种安排。高校提供学术研究能力与人才储备,企业提供真实业务场景、数据与工程资源,双方在模型评测、风险识别与安全对齐等议题上存在互补空间。

从时间点看,这一动作发生在国内大模型能力快速迭代、监管对安全评估要求逐步明确的阶段。随着模型进入金融、医疗、政务等敏感场景,安全研究不再只是论文题目,而需要可落地的评测方法和工程规范。

目前公开信息有限。报道没有披露中心的投入规模、人员构成、具体研究方向,也没有说明成果将如何对外发布,而这些细节决定了它是一家实质运作的联合实验室,还是一次以品牌合作为主的挂牌。

后续值得关注的是中心能否产出可被外部复用的东西,例如公开的安全评测基准、红队测试方法或行业规范建议。对AI安全这类需要长期投入的领域,衡量标准不是成立仪式,而是几年后是否有稳定的研究成果和人才输出。

为什么重要

校企联合做AI安全,能把学术评测能力与真实业务场景对接起来,但成效取决于是否公开可复用的评测方法与规范。

微博邮件

AlibabaAI SafetyResearch
返回实时消息

附近消息

全部

11/21 17:40

Check Point 披露 ARTEX:能自主发起攻击的 AI 智能体行动

Check Point 披露了一组被命名为 ARTEX 的 AI 智能体攻击行动,攻击流程由智能体自主推进而非人工逐步操作。报道认为这类活动改变了攻击的成本结构,也让基于人类操作节奏的检测规则更容易被绕过,但样本规模与攻击链细节尚未公开。

11/21 16:50

OpenAI 要求模型转售方先获批准,第三方渠道收紧

据 PPC Land 报道,OpenAI 现在要求转售其 AI 模型的第三方先取得公司批准,才能继续开展相关业务。报道未披露审批标准与生效细节,但这一动作意味着依赖 API 额度转售或二次包装的中间商将面临更明确的准入审查。

11/21 14:37

澳大利亚表态要管住 AI 代理购物与监控式定价

据《海峡时报》报道,澳大利亚表示将对 AI 代理购物和监控式定价加以管理,把代理下单与算法差别定价放进了同一个监管视野。报道未披露牵头机构、规则形式与时间表,可确认的只有监管意图本身。

11/21 14:35

GPT-6.2 Astra 具身评测:16 项任务成功率翻倍,可变形物体操控首次全通

量子位报道,GPT-6.2 Astra 在 16 项具身智能任务上的成功率相对 GPT-6 Astra 翻倍,并在可变形物体操控上实现了报道所称的全球首次全通。两个信号都指向长程操作稳定性的提升,但基线是自家上一代模型,跨模型对比仍需原始评测细节。