今日快讯:Nvidia宣布推出新的DPU、GPU

Nvidia 推出了 GPU 技术大会,其中包含硬件和软件新闻,所有这些都围绕 AI 展开。

第一个重大硬件发布是 BlueField-3 网络数据处理单元 (DPU),旨在从 CPU 卸载网络处理任务。BlueField来自 Nvidia收购的Mellanox,是一款SmartNIC金融智能网卡。

BlueField-3 的 Arm 处理器内核数量是上一代产品的两倍,一般加速器也更多,运行工作负载的速度比上一代产品快 8 倍。BlueField-3 可以加速跨云和本地的网络工作负载,以实现混合环境中的高性能计算和 AI 工作负载。

Nvidia 网络副总裁 Kevin Durling 表示,Bluefield 从 CPU 卸载了 MPI 集体操作,将速度提高了近 20%,这相当于为大型超级计算机节省了 1800 万美元的成本。

Oracle 是第一家在其 Oracle 云基础设施服务以及 Nvidia 的 DGX 云 GPU 硬件上提供 BlueField-3 加速的云提供商。BlueField-3 合作伙伴包括 Cisco、Dell EMC、DDN、Juniper、Palo Alto Networks、Red Hat 和 VMware。

Nvidia 还宣布了新的基于 GPU 的产品,其中第一款是 Nvidia L4 卡。这是 Nvidia T4 的后继产品,使用被动冷却,不需要电源连接器。

Nvidia 将 L4 描述为高效视频、AI 和图形的通用加速器。因为它是低配置卡,所以它适合任何服务器,将任何服务器或任何数据中心变成 AI 数据中心。它使用新的编码器和解码器加速器专门针对 AI 视频进行了优化。

Nvidia 表示,这款 GPU 比其前身 T4 快四倍,比传统 CPU 服务器快 120 倍,能耗比传统 CPU 服务器低 99%,并且可以解码来自不同移动设备的 1040 个视频流。

谷歌将成为该卡的各种发布合作伙伴,L4 支持谷歌云客户可用的生成人工智能服务。

另一个新的 GPU 是 Nvidia 的 H100 NVL,它基本上是一张卡上有两个 H100 处理器。Nvidia 声称,这两个 GPU 可以作为一个整体部署大型语言模型和 GPT 推理模型,参数范围从 50 亿一直到 2000 亿,使其比 x86 处理器的吞吐量快 12 倍。

今日快讯:Nvidia宣布推出新的DPU、GPU

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注