英特尔今日推出全新 Gaudi2 处理器，该款处理器面向中国市场，主要应用于加速 AI 训练及推理。英特尔 Gaudi2 处理器的架构重点在于高效扩展，以满足大规模语言模型及生成式 AI 模型的需求；该处理器的每张芯片集成了 21 个专用于内部互联的 100Gbps 以太网接口。
英特尔发布全新Gaudi2处理器：主要应用于加速AI训练及推理！
汇总该款处理器参数信息：
24 个可编程 Tensor 处理器核心（TPCs）
21 个 Gbps（RoCEv2）以太网接口
96GB HBM2E 内存容量
2.4TB / 秒的总内存带宽
48MB 片上 SRAM
集成多媒体处理引擎
在 Stable Diffusion 训练上，英特尔 Gaudi2 处理器展示了从 1 张卡至 64 张卡近线性 99% 的扩展性，从 256 个加速器到 384 个加速器可实现接近线性的 95% 扩展效果。
英特尔与浪潮信息合作的 AI 服务器 NF5698G7 就是基于 Gaudi2 处理器，NF5698G7 是专为面向生成式 AI 市场创新开发的新一代 AI 服务器，该服务器内部集成了 8 颗 Gaudi2 加速卡 HL-225B。
声明：本文内容采编自互联网，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请点击举报，一经查实，本站将立刻删除。
