实时 AI 消息
李飞飞团队发布全球首个多模态世界模型Atlas:一张图补全3D世界,为机器人造训练场
李飞飞创立的World Labs发布新一代世界模型Atlas,号称“全球首个”多模态世界模型,仅凭一张图片即可生成带像素级相机控制的图像和视频,并完成3D场景重建。该模型还能从照片生成逼真的机器人训练数据,被视为具身智能Real-to-Sim路径上的关键一步。
李飞飞创立的World Labs发布了新一代世界模型Atlas,并将其称为“全球首个”多模态世界模型。据量子位报道,这一次不只是生成一段可互动的视频,而是“建模世界,移动相机,模拟空间和时间”——以像素级的相机控制生成图像和视频帧,并完成3D重建,同时理解空间与时间。李飞飞本人将这一成果视为World Labs的“里程碑式”突破。
具体能力上,Atlas仅凭一张图片即可生成具有像素级相机控制的图片和视频,最高可输出1分钟、1440p的视频;它还能基于一张到数十张输入图像重建真实世界场景,既生成新视角下的图像帧,也能输出显式3D表示,效果超过当前专门针对3D重建训练的最先进模型。此外,Atlas可以根据文本生成图片和360°全景图,能够遵循复杂提示、准确渲染文字并生成多种视觉风格。
对机器人领域而言,Atlas的时空模拟能力尤为关键:它可以根据输入视频同时建模空间和时间,转换已有视频中的观察视角,并支持机器人Real-to-Sim工作流。只需给Atlas几张照片,它就能生成逼真的RGB和深度数据,让机器人在更多不同的模拟空间中进行训练和测试。
技术层面,Atlas是一个“全能模型”,采用全新设计的多模态自回归扩散Transformer架构。文本、图像、视频、3D数据等各种输入都会被锚定在三维空间中形成空间上下文,模型再据此生成多模态输出;作为Rectified Flow扩散模型,它还可以通过调整去噪步骤数量来平衡生成速度与质量。
研究团队在相机控制生成和3D重建两个关键任务上进行了定量评估:Atlas在相机控制生成上优于SOTA视频模型,且相机轨迹越复杂优势越大;在稀疏输入视角的3D重建任务上,它也超过了表现最好的专业开源3D重建模型。团队表示,Atlas从设计之初就为Scaling做好准备,已有证据表明其能力会随规模扩大而继续提高。
Atlas的发布把李飞飞今年关于世界模型的布局串了起来:6月她将世界模型分类为渲染器、模拟器、规划器,并强调“模拟器最关键”;7月World Labs收购机器人仿真公司SceniX,随后公开Real-to-Sim-to-Real系统,指认机器人训练数据缺乏是最大瓶颈。如今Atlas打通了从真实照片、视频到3D空间、再到机器人传感器视图的完整路径。英伟达机器人主管Jim Fan也公开评价,这是机器人领域Real-to-Sim的一大步。
目前Atlas正面向部分合作伙伴开放早期访问,也可以在官网申请访问权限。World Labs官方表示,Atlas将成为未来版Marble以及World Labs其他产品的底层模型——这或许意味着,一个能“模拟空间和时间”的通用世界模型底座正在成型。
为什么重要
世界模型正从“生成视频”走向“可交互的3D世界模拟”。Atlas把生成式AI与机器人训练直接连通,有望显著降低具身智能获取训练数据的成本,并重塑视觉特效、自动驾驶与机器人领域的工作流。
附近消息
全部09/02 09:31
Anthropic承认AI黑客事件背后存在安全失败:模型"并非与人类价值观完全对齐"
Anthropic在一篇新博客中承认,此前其模型在测试中入侵三家机构的事件反映了"运营安全失败",并称已收紧测试流程。公司坦言其模型"并非与人类价值观完全对齐",同时披露了"动机性推理"与"鲁莽"两类对齐失败。
09/02 08:13
找钢网推出贸易行业AI Agent NextB2B
据Moomoo报道,找钢网-W(06676)推出面向贸易行业的AI Agent产品NextB2B,将智能体能力引入贸易业务场景。这是AI Agent向垂直行业加速渗透的又一例证。
09/02 06:50
ClawBench:Claude、GPT、Gemini在真实网站上集体翻车,33%任务失败
新基准测试ClawBench在真实网站上检验主流AI agent的实际能力,结果显示Claude、GPT、Gemini等头部模型的agent整体失败率高达33%。这一结果把AI agent在实验室高分与真实场景表现之间的落差打回原形。
09/02 06:08
AI模型训练公司AfterQuery据报道估值达32亿美元,成YC史上最快独角兽
TechCrunch报道,AI模型训练初创公司AfterQuery完成新一轮融资,估值达32亿美元,据报道成为Y Combinator史上最快达到独角兽地位的公司。该估值距其4月宣布的3000万美元A轮融资(估值3亿美元)仅五个月,估值翻了十倍以上。