AWS 正式推出搭载第二代推理芯片 Inferentia2 的 EC2 Inf2 实例
搭载 12 块 Inferentia2 芯片与 384GB 共享显存,计算能力达 2.3 PFLOPS,首次引入芯片间 NeuronLink 互连技术,针对千亿参数规模生成式 AI 大模型分布式推理优化。
- 公告日期
- 2023-04-13
- 开放使用日期
- 与公告日期相同
- 厂商
- 亚马逊
- 模态
- 核实状态
- 已核实
搭载 12 块 Inferentia2 芯片与 384GB 共享显存,计算能力达 2.3 PFLOPS,首次引入芯片间 NeuronLink 互连技术,针对千亿参数规模生成式 AI 大模型分布式推理优化。