j9国际厅

业务痛点

丢包导致低效训练

• AI推算环境
  ，为提升GPU训练推理效能
  ，通常引入RDMA网络来承载。大于0.1%的丢包率
  ，将导致网络有效吞吐急剧降落；2%的丢包则使RDMA的吞吐率降落为0
  ，要使RDMA吞吐不受影响
  ，丢包率必须保障在十万分之一以下
  ，最好为无丢包。

RDMA网络配置复杂

• RDMA网络配置涉及的水线、调优等有关的参数数十条
  ，一个集群上线耗费在网络配置调恿髋赡功夫至少1个月
  ，能否有免进建、更单一方便配置水线的步骤来急剧上线RDMA网络？

规划概述

通过数据中心互换机及RoCEv2和谈
，使用PFC与ECN技术
，来动态的进行流量反压
，让网络0丢包
，提升AI训练效能

规划价值

高效训练

• 通过反压技术
  ，满足RDMA网络0丢包需要
  ，提升AI场景训练效能

免进建使用

• 通过内置的剧本
  ，更单一、方便、急剧进行点击
  ，无需进建
  ，即可实现RDMA网络的部署

业务痛点

在“双碳」佝策布景下
，传统风冷已经很难满足将来超大数据中心的PUE指标和单机柜散热需要。
互换芯片、SerDes以及光？榈鹊幕芩孀磐缂芄沟恍萏嵘
，数据中心网络互联功耗面对巨大挑战。
在大型数据中心中
，IT设备能耗占比超50%以上
，实现高机能和低能耗的平衡已成为建设绿色数据中心亟需解决的难题。

规划概述

CPO技术

• 将硅光？楹突セ恍酒稍谝豢锳SIC上封装
  ，大幅缩短互换芯片和光引擎间的布线距离
  ，降低SerDes驱动能力

NPO+冷板式液冷技术

• 通过盛开的光引擎接口
  ，与互换芯片装配在统一块PCB基板上
  ，以尺度化架构实现芯片解耦
  ，大幅缩短信号链路长度。
• 冷板式液冷选取3M氟化液(不导电)
  ，独立冷板散热
  ，内置冷却液微泄漏检测系统
  ，无短路风险
  ，保障机架高靠得住性。

浸没式液冷技术

• 将互换机浸没在绝缘无侵蚀性的冷却液中
  ，热量被冷却液吸收后直接通过冷却系统高效地传导到表界
  ，达到散热成效
  ，还能够预防电子器件在高温前提下失效或老化。