机器人安全评测公司 Safeworld 出隐身，获超 1200 万美元种子轮

当越来越多机器人把控制权交给生成式 AI 模型，一个新的安全问题随之而来：这类架构不像传统算法那样可预测，你怎么能确信一台全新的人形机器人不会伤人？

据 TechCrunch 10 月 5 日报道，初创公司 Safeworld 当天正式结束隐身状态，宣布完成一轮超过 1200 万美元的种子融资，由 Shine Capital 与 a16z Speedrun 联合领投，Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors 和 SV Angel 参投。

Safeworld 由卡内基梅隆大学 Safe AI 实验室负责人 Ding Zhao 博士创立，另两位联合创始人是资深创业高管 Kyle Wong 和机器学习工程师 Simo Rachidi。Ding Zhao 把机器人安全拆成两半：一是针对生成式 AI 的概率性评估，也就是如何为一个概率系统承保风险；二是更难的信任问题——他认为两者缺一不可，机器人才能真正部署。

Safeworld 的技术特长，是在充满逼真人形模型的仿真环境中评估机器人控制系统。它会用 Genesis 或 MuJoCo 等仿真器，搭建现实场景的数字版本，比如工厂里的一个盲区角落，再把运行真实软件的机器人放进场景，然后让人类模型与机器人遭遇成千上万次。

Kyle Wong 描述了实际中最要命的问题：机器人的速度要多慢、刹停距离要多短，才能保证不撞到人；如果这个人正抱着箱子，机器人还能不能识别到他？跌倒同样是仿真的重点科目，用他的话说，否则你就得一遍遍真让机器人去绊倒、摔倒，而这很难长期做下去。

这套做法与机器人厂商内部自建的工具颇有相似之处，但创始团队相信，制造商仍会希望有第三方来验证自己的工作，其中一个原因就是同行之间可以借此共享安全案例的信息。Ding Zhao 强调，真正的风险不在真空里的演示机器人，而是大规模部署、面对可能从未操作过机器人的普通人时的机器人。

客户已经在路上。Gritt Robotics 的 CTO Vishal Dugar 表示，公司正与 Safeworld 合作开发安全仿真。他的机器人目前帮助工人在工业级光伏电站安装太阳能板，未来还想承担更复杂的施工任务；在他看来自家系统的安全性很难用数学和公式形式化证明，只能靠经验验证。

无论 Safeworld 还是生成式 AI 在机器人领域的落地，眼下都还处于早期，公司仍在摸索最合适的产品形态——是面向外部用户的平台，还是偏服务的模式。Ding Zhao 则相当自信，认为他们很可能成为这个领域第一家实现盈利的公司，因为只要有人想部署机器人，就得付钱请他们处理安全问题。