云天励飞(688343.SH)：DeepEdge10系列芯片基于标准化的大模型计算单元打造

格隆汇12月25日丨云天励飞(688343.SH)在投资者互动平台表示，公司Deep Edge 10是国内首创的国产14nm Chiplet大模型推理芯片，采用自主可控的国产工艺，内含国产RISC-V核，可广泛应用于大模型推理服务器、AIoT边缘视频、移动机器人等场景。 DeepEdge10系列芯片基于标准化的大模型计算单元打造，通过D2D Chiplet技术、C2C Mesh技术和C2C Mes Torus技术，云天励飞将标准计算单元以类似于“搭积木”的方式封装成不同算力的芯片，并针对大模型的Transformer架构进行优化，可实现7B、14B、130B等不同参数量大模型的高效推理。公司于2024年推出IPU-X6000加速卡，其内置高效大模型推理DeepEdge200芯片，具有256T大算力、486GB/s超高带宽、128GB大显存、C2C mesh互联，由多张加速卡构成的一体机，在多卡互联时可实现存储共享、最大化发挥带宽优势，从而提升大模型推理效率，可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域，目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型，涵盖1.5B参数到70B参数量，预期能使大模型推理成本大幅度下降。