郭震 AI公众号:郭震AI

实时 AI 消息

NVIDIA Vera CPU获AI创新者采纳:为智能体时代打造的全新CPU品类

NVIDIA Vera作为面向智能体AI时代的“大规模最大单线程CPU”新品类,已被包括Perplexity在内的AI创新者采用。该CPU专为AI工厂中的工具调用、代码执行和数据处理优化,提供每核心最强单线程性能,并已公布后续Rosa CPU及Rigel内核路线图。

发布时间
NVIDIA Vera CPU获AI创新者采纳:为智能体时代打造的全新CPU品类
图源: blogs.nvidia.com

NVIDIA博客副总裁Ian Buck发文宣布,NVIDIA Vera CPU已成为“大规模最大单线程CPU”这一全新品类的代表,并被包括Perplexity在内的AI创新者采用。Vera CPU专为智能体AI时代设计,直接面向AI工厂中代理系统对CPU性能的特殊需求。

在AI代理系统的创建和部署过程中,CPU处于推理、响应时间和学习的关键路径上。CPU执行AI模型下达的任务:工具调用、代码执行、数据处理、KV缓存和结果分析。对于AI工厂而言,GPU利用率是最宝贵的资源,任何因等待CPU完成任务而造成的延迟都会影响AI工厂的收入。

传统数据中心CPU为云计算优化,追求高核心数量而牺牲了单线程性能。芯片组架构进一步引入了“芯片税”,每个核心无法获得完整的内存性能。NVIDIA Vera则采用了不同的设计理念:在满载状态下每个核心都能以最强性能完成代理任务,不受其他核心影响。

AI代理的工作模式与传统工作负载截然不同。传统CPU工作由用户驱动、间歇性发生;而代理工作是持久且并行的:代理群持续运行,每一步都依赖前一步的结果。单线程核心性能决定了每个步骤的完成速度,而不仅仅是总吞吐量。

NVIDIA Vera代表了这种新型CPU设计。它提供:满负载下每核心强性能、足够的每核心内存带宽以保持活跃核心的数据供给、可预测的延迟。每个核心都能在不被其他核心拖慢的情况下完成自身任务。

NVIDIA同时公布了后续路线图,包括NVIDIA Rosa CPU及其Rigel内核,表明NVIDIA在CPU领域的长期投入。

Perplexity等AI创新者的采用表明,市场对专为AI代理设计的CPU存在真实需求。随着AI工厂和代理系统的规模化部署,CPU性能正在成为影响整体效率的关键瓶颈。

为什么重要

NVIDIA Vera CPU开辟了面向AI代理时代的新CPU品类,有望改变数据中心CPU设计的演进方向,对AI工厂的GPU利用率和代理系统响应速度产生深远影响。

微博邮件

NVIDIAVeraCPUAI InfrastructureAgentic AI
返回实时消息

附近消息

全部