我们非常重视您的个人隐私,当您访问我们的网站时,请同意使用的所有cookie。有关个人数据处理的更多信息可访问《隐私政策》


Frame01.svg Frame02.svg
核心技术

原生分布式执行模型
为云端 AI 量身定制

针对云端大模型训练与推理的规模化需求,我们从芯片到集群构建了原生分布式执行架构

Frame01.svg Frame02.svg
核心技术

原生分布式执行模型
为云端 AI 量身定制

针对云端大模型训练与推理的规模化需求,我们从芯片到集群构建了原生分布式执行架构

Technical Details

三级原生分布式架构 从单卡到集群的高性能平滑扩展

从芯片内置的通信处理器到标准以太网超节点再到原生分布式运行时,东方算芯在三级架构上实现通信与计算的深度协同——通信异步卸载、超节点高并发互联、细粒度流水线交织,让分布式AI计算从单卡到千卡集群始终高效运转。

  • 芯片级·软件定义通信处理器
    01

    每个计算芯片集成专用通信处理器,专门卸载 AI 通信负载(AllReduce、AllGather、Send/Recv 等集合通信操作)

    通信与计算异步执行,通信开销被有效隐藏卸载,大幅提升大规模并行的效率

    • 32 图片1 1.jpg
  • 服务器级·原生以太网超节点
    02

    基于标准以太网构建超节点互联架构,赋能推理集群的海量并发请求处理

    • 03.改.jpg
    • 04.jpg
  • 软件级·原生分布式编程模型与运行时
    03

    原生计算通信重叠编程模型,实现通信与计算的细粒度流水线交织

    原生分布式运行时:从单卡到多卡的高性能平滑扩展

    • 33 图片二 1.jpg
    • 32 图片1 1.jpg
    • 03.改.jpg
    • 04.jpg
    • 33 图片二 1.jpg
Products

全栈产品 覆盖从芯片到集群

公司产品包括软件定义超高性能近存计算芯片、基础软件与应用软件、高性能服务器和大规模集群系统解决方案。

  • a1_product_img1.png
  • a1_product_img2.png
  • Frame29-954.jpg
  • a1_product_img1.png
  • a1_product_img2.png
  • Frame29-954.jpg