跳转至

谷歌推出了gemma-2一个拥有90270亿参数的开源人工智能模型它在性能上超越了同类模型值得注意的是该模型只需一个a100或h100-gpu就能运行大大降低了运行门槛

image

与第一代相比,Gemma 2 语言模型在推理效能和效率上均有显著提升,而且在安全保障方面实现了重大突破。

谷歌在发布的公告中宣称,Gemma 2-27B 模型的效能可与规模翻倍的流行模型相提并论,而实现这一效能仅需一枚英伟达H100 Sensor Core GPU 或 TPU 主机,这显著地降低了部署成本。

Gemma 2-9B 模型在性能上超越了 Llama 3 8B 以及其他同等级别的开源模型。谷歌计划即将推出拥有26亿参数的Gem

谷歌宣布对Gemma 2进行了全面的架构革新,旨在实现顶尖的性能和高效的推理能力。以下是Gemma 2的关键特性概述:

27B 版本在同等规模的模型中表现出无与伦比的性能,甚至能挑战比它大一倍的模型。9B 版本同样在同类产品中占据优势地位,超越了 Llama 3 8B 以及其他同级别的开放模型。

image

Gemma 27B 模型能够以全精度在一台谷歌云TPU主机、或是配备80GB NVIDIA A100 Tensor Core GPU或NVIDIA H100 Tensor Core GPU的设备上实现高效的推理运行。这样的设计显著降低了成本,同时确保了高性能,使得人工智能的部署过程更为简便且经济实惠。

Gemma 2 优化后,能在各种硬件平台上展现卓越的运行速度,无论是性能强劲的游戏笔记本电脑、高端台式机,还是云端配置,都能带来令人惊叹的流畅体验。

在Google AI Studio中体验全精度的Gemma 2,你可以选择在CPU上运行Gemma.cpp的量化优化版以发掘本地计算潜力,或者你也可以在装有NVIDIA RTX或GeForce RTX显卡的个人电脑上,利用Hugging Face Transformers进行高效运行。

大家都在看

Python小白教程:点击学习

数据分析练习题:点击学习

AI资料下载:点击下载

大家在看

京ICP备20031037号-1 | AI之家 | AI资讯 | Python200 | 数据分析