中国AI光芯片实现百倍提速,能耗大幅降低

中国研究人员开发了一种新型全光互连系统,可将AI分布式推理速度提升100倍以上,同时仅消耗典型计算资源的九分之一。

前三

  1. 目前最强AI芯片算力榜: NVIDIA H100在FP8精度下可提供超1 ExaFLOP的AI算力,Google TPU v4单芯片峰值达275 TFLOPS,而Cerebras WSE-3拥有90万个AI核心。
  2. 光芯片与电芯片速度极限: 光信号以光速传输,远超电信号在电路中的速度,且光子不发热、可并行处理多波长数据,赋予光芯片更高的带宽和更低的能耗优势。
  3. 中国光芯片百倍提速详情: 北京大学团队开发的光学互连系统使分布式AI推理速度提升百倍以上,同时计算资源消耗仅为商用GPU的约九分之一,通过片上全光网络连接芯片以减少延迟和改善数据移动。

来源

打开完整版