想象一家巨型餐厅的后厨,过去,灶台和锅铲全靠进口,一旦供应链断供,整个餐厅就要停摆。于是,三位中国大厨决定各自开一条“国产后厨专线”:第一位大厨专攻“宴席大菜”,把灶台造得火力稳定、久烹不疲,只为端出大模型训练这道硬菜;第二位大厨信奉“器具极致”,一口巨型铁锅硬生生用“堆料”逼近性能极限;第三位大厨则手持一把“万能厨具”,既能大火爆炒AI计算,也能文火慢炖图形渲染。这三人,正是国产AI芯片圈的“三剑客”——燧原、壁仞、摩尔线程。本文从灶台(架构)、火候(算力)、菜谱(软件生态)讲起,带你一次看透他们各自擅长什么菜、适合什么宴席,以及如何为你的AI厨房选对掌勺人。
学完这篇,你将掌握系统性评估国产AI芯片的方法:看懂架构与算力差异、评估软件栈迁移成本、为实际业务制定国产化替代与选型策略——这正是信创浪潮中做AI基础设施决策的核心能力。
目录
可视化演示
展示系统处理流水线、实时性能指标曲线及多方案对比分析,包含数据流转、吞吐延迟监控与方案评估。
本节配有交互动效(进入视口后自动加载,约 3KB)。
系统可视化 处理流程:输入→处理→模型→输出 性能监控:实时指标 P=L×T
芯片架构特点:三位大厨的灶台
把AI芯片比作灶台:燧原这位大厨,深信“火候稳则百菜成”,于是专门打造了一口“训练灶”——结构简单、火力集中,为深度学习这道大菜拼命蓄热;壁仞则信奉“大力出奇迹”,直接用一口面积惊人的巨锅压阵,以物理尺寸换取火力上限;而摩尔线程不挑活,他发明了一把“万能锅”,煎炒烹炸、渲图跑AI样样都接。灶台的形态,决定了能做哪些菜、做多快、做多大份量。
在芯片世界里,这套“灶台设计”就是芯片架构。架构决定了算力的来源与上限:是走专用路线把训练算子做成硬电路,还是走通用路线平衡多种负载,或者走全功能路线把图形和AI统一起来。
燧原的邃思系列采用训练专用加速架构,针对Transformer类大模型的矩阵运算做了深度定制,片上缓存与HBM带宽深度协同,典型产品云燧T20在FP16精度下可提供数十TFLOPS的算力。壁仞的BR100则采用Chiplet“小芯粒”设计,用2.5D先进封装把多个计算die拼合成超大芯片,官方宣称集成超过770亿晶体管,FP16算力达到1000 TFLOPS量级,成为单芯片面积最大的选手之一。摩尔线程的MUSA架构不走单纯“堆料”路线,而是在GPU内核中同时集成图形渲染、AI计算、视频编解码三个引擎,一套架构适配桌面与服务器——它的MTT S80主攻FP32精度,提供约14.4 TFLOPS。
所以,三家的灶台各有性格:燧原的灶为“快炒硬菜”而生,壁仞的灶用“大锅猛火”压阵,摩尔的灶则以“多用途”见长。接下来我们去厨房实地量一量火焰——看每家真实的算力规格。
- 核心数芯片里负责并行计算的运算单元数量,类似后厨里能同时开火的“灶眼”个数。
- 主频每个运算单元每秒的时钟周期数,类似“火苗跳动”的速度,主频越高周期性操作越快。
- 每周期浮点操作数一个时钟周期内完成的FP16浮点运算次数,代表单个灶眼的“单次出菜量”。
- 三者相乘得到芯片理论上的“纸面峰值算力”,也就是灶台全开时的理论出菜上限。
算力规格对比:拿温度计测火候
光说“火力大”没用,后厨考核要拿温度计量火。算力规格就是芯片的温度计,它把一家芯片能提供的“热量”——每秒能完成多少次浮点运算——量化成TFLOPS。但直接拿峰值数字比大小,好比拿猛火灶和文火灶比最高温度,忽略了菜系差异。
对比三家时要特别注意“精度”这个标尺:FP16用于深度学习训练,FP32用于科学计算与图形,INT8用于推理。同一块卡,不同精度的算力数字差异极大,必须“同精度、同场景”比较才公平。
从纸面数据看(以下为教学参考值,以官方最新发布为准):燧原云燧T20的FP16算力约40 TFLOPS,配32GB HBM2e高带宽显存,带宽约1.2TB/s,瞄准训练场景;壁仞BR100的FP16算力号称达到1000 TFLOPS级,显存64GB起步,带宽超2TB/s,一骑绝尘;摩尔线程MTT S80的FP32算力约14.4 TFLOPS,配16GB GDDR6显存,功耗只有约220W,在桌面场景非常“亲民”。数字之外,功耗、显存带宽、能效比同样决定实际体验。
回头看,燧原的“火”集中而稳定,适合给一锅硬菜慢慢炖;壁仞的“火”如高炉喷焰,短时间就能烧开整座泳池;摩尔的“火”不算猛但极省燃气,小灶台也能天天开火。火候清楚了,下一步要问:这些灶台,配得上什么菜谱?
- 峰值算力厂商在标称精度下宣称的极限运算能力(单位TFLOPS),是“纸面火苗高度”。
- 芯片面积单颗芯片的物理尺寸(单位mm²),类似灶台占用的厨房空间。
- 相除得密度用公开数据快速判断架构效率——壁仞面积巨大但算力更高,密度未必输。
软件栈生态:菜谱库的适配度
好灶台没有好菜谱,大厨也只能干瞪眼。在AI芯片的世界里,“菜谱”就是软件栈——从深度学习框架(PyTorch、TensorFlow)到底层算子库、调试工具,再到开发者文档。菜谱越全,大厨越容易把已有的菜(现成的AI模型)端上桌。
国产芯片厂商都明白“硬件是骨架、软件是灵魂”,因此纷纷打造自己的软件栈,并普遍把“CUDA兼容”作为吸引开发者的第一块敲门砖。
燧原推出“驭算”平台(SimpleSLA),提供PyTorch/TensorFlow的训练插件与算子库,在自研训练卡上做了深度调优;壁仞发布BIRENSUPA软件平台,主打对常见AI框架的兼容与迁移工具,支持X86与ARM两种主机架构;摩尔线程则提供MUSA Toolkit,不仅提供类CUDA的编程接口,还自带完整图形驱动栈,让同一张卡既能跑AI也能跑OpenGL/Vulkan应用。评估软件栈,最核心的量化指标是“CUDA兼容度”——现有模型有多少算子能不改代码直接跑。
菜谱适配决定了“拿来即用”还是“重新学艺”。三家中,燧原深斗训练菜谱,壁仞广撒兼容大网,摩尔则连图形菜谱一并包圆——下一节我们看看,谁最适合开进你的那间餐厅。
- 总算子数一个模型在CUDA生态下实际用到的算子种类与次数总和。
- 可直接迁移算子数软件栈无需重写、只需替换API前缀即可运行的算子和。
- 相除得兼容度该值越高,PyTorch模型换到国产卡上跑的“颠勺感”越弱。
适用场景分析:什么餐厅请什么厨师
开在写字楼下的轻食店不需要猛火灶,开在会展中心的宴席厅则怕火力不够。选芯片也一样,先想清楚自己是什么“餐厅”:是做千亿参数大模型训练的高端宴席,还是做在线推理的连锁快餐,又或是做设计渲染的精品小馆。
三家的产品定位因此分野清晰:燧原把宝押在训练侧,壁仞用超大算力覆盖训练+推理的通用场景,摩尔线程则瞄准AI+图形融合的信创桌面。
从公开落地看,燧原云燧系列已进入多个智算中心,用于NLP大模型与多模态模型的训练集群;壁仞BR100适合高端AI服务器,在需要单卡极致算力的训练任务和大规模推理批次上都有优势;摩尔线程MTT S80则被大量用于信创台式机与设计工作站,一张卡同时处理视频超分、OCR、3D渲染等混合负载。选择时可用场景匹配度评分,把算力、生态、成本按业务权重归一化。
宴席找燧原,快餐选壁仞,小馆请摩尔——但最终敲定“掌勺人”之前,还要把账本拿出来算一笔:每家的大厨,身价几何、上菜多快、食材供应链稳不稳。这就是下一节的选型方法。
- 可用算力与需求算力之比衡量算力是否“够用”,略大于1最理想。
- 生态适配分软件栈对该业务模型的覆盖评分,由兼容度与实例评估折算。
- 成本因子包含采购、功耗、运维的综合成本折算分,越低越好。
- 加权求和三项乘以权重再求和,得到业务与芯片的匹配度。
选型建议方法:雇厨师要看菜谱与预算
请大厨不能只看头衔。你得掂量:这道菜他做过几次(生态验证)、开的薪资多高(采购成本)、他万一辞职有没有替补(供应链风险)。国产芯片选型,本质是“在约束条件下做最优决策”。
实践中,建议按四步走:先做需求评估,圈定训练/推理/渲染和精度要求;再评估生态适配成本,梳理目标模型的算子清单与迁移工作量;然后核查供应链风险,确认产能、交付周期和信创资质;最后用性价比模型横向打分。
需求评估要明确精度偏好——大模型训练盯FP16/BF16,传统推理看INT8性价比;生态评估建议“试跑POC”而非只看宣传,把PyTorch模型在目标卡上跑一遍,统计回退到CPU的算子比例;供应链风险关注国产化率、备货周期与厂商存续能力。最终可用性价比指数综合排序。
学会看账本,你就能在三位大厨之间做出理性取舍:要稳要快选适配深的,要猛要强选堆料狠的,要省要全选多面手的。选完人,还要考虑整个厨房怎么逐步换成国产灶台——最后看替代策略。
- 有效算力考虑利用率后的实际算力,等于峰值乘应用平均利用率。
- 生态系数由兼容度、算子覆盖率、工具链完善度折算,取值0到1。
- 总拥有成本采购价+机房+电力+迁移人力,覆盖3年周期的总支出。
- 相除得指数指数越高,单位成本买到的“能用的算力”越多。
国产替代策略:渐进式换灶台
把后厨所有灶台一夜之间换成新式国产灶,大厨们可能三天开不了张。聪明的厨房改造从不“休克疗法”,而是先换一台给边角菜试试,再逐步扩到主菜线——这就是渐进式替代。
国产化替代同理。信创要求的是“能力可控”而非“一夜清零”,因此行业中形成了三条清晰路径:渐进式替换、混合异构、双轨发布。
渐进式替换是指从边缘业务(如OCR推理、日志分析)开始,验证稳定性后再向核心训练集群推进;混合异构方案让国产卡与进口卡共存,通过调度平台按队列分流任务,用国产算力承载非敏感、可重试的负载;双轨发布则要求每个模型并行跑在国产和进口两条链路上,对拍精度与性能直到达标再切换。合规层面则需满足《信创产品目录》、安全可控评估与软件著作权适配认证。替代节奏可用如下公式预估:
三位国产大厨的灶台再强,也需要厨房管理者用节奏与智慧去落地。记住一句话:架构是灶,算力是火,生态是谱,场景是菜,选型有账本,替代有节奏——把这几件事想清楚,国产AI芯片就能真正顶起你后厨的大梁。
- r 与 T 的含义r为每个替换周期新增国产算力占比,T为已执行的周期数。
- (1-r) 的T次方每期替换后剩余的进口存量比例,连续迭代后呈指数衰减。
- 1 减去剩余存量得到累计国产算力占比,曲线初期陡峭、后期平缓,符合“先易后难”的规律。
AI 应用场景
智算中心的大模型训练集群
阶段:模型训练与算力调度
解决的问题:高端进口GPU采购受限、训练成本居高不下,国产卡需要承担大规模分布式训练任务。燧原的驭算平台已在多个智算中心完成PyTorch+DDP适配,让千亿参数模型训练在国产集群上跑通。
具体案例:某高校智算中心采购128张云燧T20卡,搭建“国产训练专区”,将GPT类模型的预训练任务按队列调度到国产卡上,配合混合精度与梯度累积,训练吞吐达到进口方案的七成左右,算力成本下降约35%。
信创云上的GPU推理服务
阶段:模型推理与部署
解决的问题:金融机构信创云需要在不依赖CUDA的前提下托管BERT、LLM推理服务。壁仞BIRENSUPA的高兼容性使迁移工作大幅简化。
具体案例:某股份制银行将智能客服模型从CUDA平台迁移至壁仞BR100服务器,算子级兼容度约85%,推理P99延迟从42ms降到35ms,同时满足安全可控验收要求。
信创桌面AI+渲染一体化工作站
阶段:端侧推理与图形渲染
解决的问题:广电与设计院既需要AI辅助(超分、抠图),又需要OpenGL/Vulkan渲染,过去要配两张卡。摩尔线程MUSA架构一张卡兼顾两类负载。
具体案例:某省级电视台新媒体中心部署50台MTT S80工作站,视频超分推理与4K剪辑渲染并行运行,单卡替代原“专业显卡+加速卡”双卡方案,机位与电费双双下降。
Python 演示
# -*- coding: utf-8 -*-"""国产AI芯片选型评分工具:基于规格参数与场景权重打分""" class Chip: def __init__(self, name, fp16_tflops, mem_gb, bw_tbs, eco_score, power_w): self.name = name self.fp16_tflops = fp16_tflops self.mem_gb = mem_gb self.bw_tbs = bw_tbs self.eco_score = eco_score # 生态成熟度 0~1 self.power_w = power_w def energy_ratio(self): """能效比:每瓦提供的FP16算力""" return self.fp16_tflops / self.power_w def total_score(self, for_training=True, budget_sensitive=False): """综合评分:算力+带宽+显存+生态+能效,按场景加权""" perf = self.fp16_tflops * 0.4 + self.bw_tbs * 30 + self.mem_gb * 0.05 eco = self.eco_score * 40 power = self.energy_ratio() * 10 s = perf + eco + power if for_training: s += self.fp16_tflops * 0.2 if budget_sensitive: s -= self.power_w * 0.02 return round(s, 2) def main(): # 教学示例参数,实际以厂商官方发布为准 chips = [ Chip("燧原云燧T20", 40, 32, 1.2, 0.55, 350), Chip("壁仞BR100", 1000, 64, 2.3, 0.65, 600), Chip("摩尔MTT S80", 14.4, 16, 0.45, 0.5, 220), ] for c in chips: print(c.name + " 能效比=" + str(round(c.energy_ratio(), 2)) + " TFLOPS/W 综合评分=" + str(c.total_score())) if __name__ == "__main__": main()
def energy_ratio(self):计算每瓦算力,帮你在电费敏感的机房做取舍perf = self.fp16_tflops * 0.4 + self.bw_tbs * 30 + self.mem_gb * 0.05把算力、带宽、显存折成一个性能分,带宽对训练至关重要所以权重高eco = self.eco_score * 40生态成熟度折合40分制,提醒你“跑不起来=白买”if for_training: s += self.fp16_tflops * 0.2训练场景额外奖励绝对算力,契合燧原/壁仞发力点Chip("壁仞BR100", 1000, 64, 2.3, 0.65, 600)以同一规范录入三家参数,后续加芯片只需增一行
常见误区
误区国产芯片的峰值算力与NVIDIA旗舰差好几倍,训练GPT肯定跑不动,采购国产卡纯属浪费钱。
正解这个结论把“峰值”当成了“有效”。国产卡在FP16/BF16的训练、推理场景已具备可用的有效算力,配合优化后的分布式框架,完全能支撑真实业务。选型要看“你需要的菜”能不能做,而不是盯着最高的火苗。燧原在智算中心的千亿模型训练、壁仞在推理服务中的低延迟,都是落地案例。
为何常见:大家习惯拿厂商宣传册的峰值反复对比,却忽略了自己业务根本用不到极限算力;加上早期国产卡生态不成熟留下的刻板印象,导致“落后”标签被不断放大。
误区软件栈支持CUDA兼容层,之前写的所有模型代码就能直接跑,迁移零成本。
正解CUDA兼容只是“菜单上有这道菜”,不代表“做得和老师傅一样好吃”。实际迁移要看算子覆盖率、动态shape支持、集合通信性能与调试工具链。壁仞BIRENSUPA兼容度虽高,仍需在特定模型上试跑POC才能评估真实工作量。
为何常见:“兼容”二字太有迷惑性,潜意识里把它等同于“完全等价”;加上各家宣传都强调兼容,让小白误以为这是同一件事。
误区壁仞BR100把芯片做得超大,那面积小的芯片一定性能弱,买芯片捡大的买就对了。
正解面积大是提高峰值上限的手段,但性能还取决于主频、存储器带宽、散热与软件利用率。BR100用Chiplet堆出千TFLOPS,同时也带来600W量级的功耗挑战;摩尔线程用14.4 TFLOPS的“小灶”反而在桌面市场活得很好。要看算力密度与能效比,而不是单看体积。
为何常见:日常生活中的“大碗量足”直觉被带进了芯片领域,而芯片的“大”往往伴随良率、功耗、散热的代价。
误区既然要求信创国产化,就该把所有服务器和显卡一次性替换成国产设备,越快越好。
正解成熟的企业都走“先边缘、后核心;先并行、后切换”的渐进式路线。混合异构和双轨发布能在保障业务连续性的前提下逐步提升国产算力占比,一次性替换的“休克疗法”反而会带来服务中断与成本超支。
为何常见:政策文件中“自主可控”的目标被理解成了手段,误以为替代速度等于政绩,忽略了工程落地的稳定性与成本约束。
面试题
Q1. 燧原科技AI芯片的主要产品定位是?
- A.云端训练芯片← 正确答案
- B.桌面图形芯片
- C.手机SoC芯片
- D.安防监控芯片
答案:A。燧原从云燧T10、T20到T21,产品线始终围绕深度学习训练与推理展开,尤其擅长智算中心的训练任务。桌面图形与手机SoC是摩尔线程等厂商的领地,安防芯片则属传统IPC厂商。
Q2. 壁仞BR100挑战算力极限的架构手段是?
- A.提升主频至极限
- B.Chiplet超大面积← 正确答案
- C.纯软件算法优化
- D.降低功耗换性能
答案:B。BR100最具辨识度的创新是采用Chiplet芯粒设计+2.5D先进封装,将多个计算die拼接成单芯片,从而集成远超常规的晶体管规模,堆出千TFLOPS级FP16算力。提升主频、软件优化、降功耗都不是其主要卖点。
Q3. 摩尔线程MUSA架构最突出的特点是?
- A.只做AI训练加速
- B.全功能显卡GPU← 正确答案
- C.仅提供IP授权
- D.专注边缘推理
答案:B。MUSA是摩尔线程的全功能统一架构,同时覆盖图形渲染、AI计算与视频编解码,MTT S80正是以此实现“一张卡干三类活”,而不仅是AI训练加速或边缘推理。
Q4. 国产AI芯片选型时,应重点评估哪些维度?
- A.峰值算力← 正确答案
- B.软件栈生态← 正确答案
- C.供应链风险← 正确答案
- D.品牌知名度
答案:ABC。选型要同时看“火力(峰值算力)”“菜谱(软件生态)”和“食材供应链(供货稳定)”。品牌知名度是滞后指标,不能替代对具体需求和技术参数的评估,因此不应作为重点评估维度。
Q5. 关于“算力密度”的含义,正确的是?
- A.每瓦功率对应的算力
- B.每平方毫米芯片的算力← 正确答案
- C.每秒线程切换次数
- D.显存容量与频率乘积
答案:B。算力密度=峰值算力/芯片面积,反映单位面积上的算力产出效率,而非功耗维度;每瓦算力叫“能效比”。两者都重要,但概念不能混淆。
Q6. 软件栈生态成熟度应看哪些指标?
- A.算子覆盖率← 正确答案
- B.框架适配程度← 正确答案
- C.调试工具链完善度← 正确答案
- D.显卡外观设计
答案:ABC。算子覆盖率决定模型能否跑全,框架适配决定迁移是否顺滑,调试工具链决定排障效率,三者是“菜谱库”的核心。外观设计与生态成熟度无关。
Q7. 渐进式国产替代策略的核心特点是?
- A.一夜之间全部替换
- B.先边缘后核心过渡← 正确答案
- C.永远继续使用进口
- D.只替换存储设备
答案:B。渐进式替代强调“先易后难”:先在边缘业务验证国产卡稳定性,再向核心训练集群推进,配合混合异构与双轨发布避免业务中断。一次性全换或永不替换都是极端错误路线。
Q8. 下列哪些是国内AI芯片的典型落地场景?
- A.大模型训练集群← 正确答案
- B.云端GPU推理服务← 正确答案
- C.信创桌面与渲染← 正确答案
- D.手机端语音芯片
答案:ABC。燧原主攻大模型训练,壁仞发力云端推理,摩尔线程覆盖信创桌面渲染。手机端语音芯片属于超低功耗IoT/移动端赛道,与三家芯片的产品线不符。
Q9. 有效算力与峰值算力的关系通常是?
- A.有效算力等于峰值算力
- B.有效算力为峰值三到七成← 正确答案
- C.有效算力高于峰值算力
- D.有效算力不可预测
答案:B。受软件栈、分布式效率、访存瓶颈影响,实际跑出的有效算力通常只有峰值的30%~70%,因此选型要按有效算力计算性价比,而不能迷信纸面峰值。
Q10. 迁移到国产芯片时,评估CUDA兼容度最可靠的方式是?
- A.看厂商宣传手册
- B.跑POC试跑真实模型← 正确答案
- C.计算公式推导估算
- D.直接沿用进口配置
答案:B。兼容度高低最终要落实到“具体模型+具体算子”。POC试跑能统计回退算子的比例、实测延迟与吞吐,比任何宣传数字都可靠。只看手册或纸上推算都容易高估,直接沿用更不可取。