国产AI芯片：燧原/壁仞

可视化演示

围绕燧原/壁仞展开深入探讨，从基本概念出发逐步深入到高级应用。内容涵盖AI硬件与算力、AI芯片架构中的燧原/壁... 切换模式查看不同维度。

芯片分类概览

走进任何一个 AI 芯片家族的“后厨”，最先遇到的分岔路口是：这间厨房是给婚宴办几十桌菜，还是站在窗口一单一份出快餐？前者是训练芯片，后者是推理芯片。办婚宴（训练）要一次性把几百样食材同时下锅、反复调整火候，所以它最看重“同时能炒多少锅”——峰值算力，以及“仓库够不够装”——显存容量。快餐窗口（推理）呢？客人排着队，每一单都要求几秒内端出来，所以它最看重的是低延迟、高吞吐，别让客人等太久。

为什么这几年要专门区分训练与推理？因为 AI 模型的需求在飞速变化。过去图像识别只要几百 MB 的模型，如今大语言模型动辄千亿参数，训练算力需求十年间翻了数万倍。燧原对此给出的答案是“两条腿走路”：云燧 T 系列专攻训练，云燧 i 系列专攻推理；而壁仞则提出“一张卡把宴席和快餐都包了”，用训推一体设计通吃两种场景。国产芯片的意义，不只是“自己人开的餐厅”，更是让算力成本降下来、供应链不再卡脖子，让千行百业都吃得起 AI 这道菜。

要理解一张芯片的“出菜上限”，先看它的理论峰值算力公式：

所以下次再看到某张卡宣传“XX TFLOPS“，先问一句：这是 FP16 还是 FP32？是峰值还是实际？就像餐厅说”我们有 100 口灶”，你还要追问——传送带够宽吗？厨师跟得上吗？这正是后文要拆解的内容。

燧原架构解析

燧原科技像一位专攻川菜宴席的大厨，创业之初就认准“把大型宴席办到极致”——也就是服务大模型训练。它自研的邃思系列芯片，相当于为宴席专门设计的定制灶台：2021 年发布的邃思 2.0 采用 12nm 工艺和 HBM2E 高速显存，把“大锅大灶”和“超大仓库”焊在了一起，专门伺候深度学习的矩阵运算。

从芯片到能用的加速卡，中间隔着“产品化”这一步：燧原把邃思芯片装进云燧系列加速卡。云燧 T20 训练卡主打大模型预训练，追求极致的海量数据吞吐；云燧 i20 推理卡则讲究低功耗、低延迟，像宴席结束后的精装甜品台。训练和推理各有分工，但要让几百张卡一起做一桌“千亿大餐”，光有灶台不够，还得有传菜通道——这就是灵衢互联，负责卡与卡之间的高速通信，让数据像传菜电梯一样在厨房之间穿梭不堵车。再往上，锦绣软件平台提供算子库和框架适配，相当于把一道道经典菜式写成标准化菜谱，任何厨师拿来就能照着做。

这里有一个理解训练加速的常用公式：用半精度（FP16/BF16）训练时，吞吐通常会翻倍：

看到这里你应该明白：燧原的路线是“专业分工 + 生态补全”。它的逻辑就像一间成熟的宴席承办方——灶台专为宴席设计，传菜电梯、标准菜谱一应俱全。你请它办千人大宴，它鞠躬尽瘁；但你非让它去路边摊卖两块钱的煎饼，那就要掂量掂量了。

壁仞架构解析

壁仞科技则像一个不走寻常路的“融合菜餐厅”：它不把训练和推理分成两套厨房，而是在一张灶台上同时支持“办宴席”和“出快餐”。这个野心的地基，是自研的壁立仞 GPGPU 通用计算架构——一种“什么菜都能炒”的通用灶台设计，为 AI 计算提供了灵活的可编程能力。

壁仞最引人注目的创新，是它的 Chiplet 芯粒设计。传统大芯片像一口要整体浇铸的巨型铁锅，面积越大，铸造时报废率越高；而 Chiplet 像是把后厨拆分成一个个标准模块：2 颗计算芯粒负责炒菜，2 颗存储芯粒负责存货，再用先进封装把它们像拼积木一样拼起来。这样每块小芯粒面积小、良率高，还能灵活组合，BR100 正是这一设计的代表作。它实现了约 2048 TFLOPS 的 FP16 峰值算力、64GB HBM2e 显存、超 2TB/s 显存带宽，单看这些数字，已经站在了国产芯片的塔尖。同时，BR100 的训推一体设计，意味着同一张卡既能陪大模型度过漫长的训练苦旅，也能在线上服务里快速响应每一次提问。

衡量一张训推一体卡的“出餐效率”，常用这个公式：

壁仞的思路，像是一间用标准模块拼出来的中央厨房：模块化让生产更可靠，通用架构让菜式更丰富，训推一体让后厨不分家。但正如后厨再大，也要看传菜通道和菜谱齐不齐——壁仞的实际发挥，同样取决于软件生态能调度出多少真实效率。

性能指标对比

判断一间餐厅好不好，不能只看灶台数量，还要看出菜速度、仓库容量、用不用得起电费。AI 芯片也一样，有四个指标要放在一起看：浮点算力、显存带宽、能效比、互联扩展。浮点算力是“灶台的总火力”；显存带宽是“仓库到灶台的传送带宽度”；能效比是“每度电能端出多少菜”；互联扩展则是“几个后厨拼桌时，传菜通道够不够快”。

把这四把尺子量向三家后厨，画面立刻立体起来。燧原云燧 i10 的 FP16 算力约 147 TFLOPS、显存带宽约 1.2TB/s，它像一个认真做私房菜的中型后厨，扎实但不追求惊人数字；壁仞 BR100 的 FP16 算力约 2048 TFLOPS、显存带宽约 2.3TB/s，就像一个火力全开的中央厨房，纸面数据直追甚至超越国际参考卡。但别急着下结论——参考卡 A100 之所以称霸多年，除了算力和带宽均衡，更因为多年的生态打磨让它能把纸面数字大部分变成真实出餐。这给我们划出了重点：性能是系统工程，不是单一数字的竞赛。

衡量“电费花得值不值”，要看能效比：

所以，当有人拿着“我们算力最高”的广告来炫耀时，不妨用后厨的逻辑反问：传送带（带宽）够宽吗？电费（功耗）扛得住吗？桌子（互联）拼得起来吗？只有四项都及格，才是真正能上席的好后厨。

软件生态配套

光有灶台和食材，没有菜谱，再好的后厨也做不出菜。软件的使命，就是把芯片的硬算力“翻译”成工程师顺手可用的工具。第一个关键是算子库：所谓算子，就是卷积、矩阵乘法这些常用的“菜式”，算子库把菜式写成最优做法，厨师照着做就能发挥八成功力；第二个关键是框架适配，PyTorch、TensorFlow 这些主流 AI 框架是“点菜单”，芯片得接得住；第三个关键是编译工具链，它像一位翻译官，把高级语言一行行翻译成芯片能执行的机器指令；第四个是生态兼容，尽量让习惯了 CUDA 的开发者少改代码就能跑起来。

燧原在这条路上推出了“锦绣”计算平台，壁仞则打造了 BIRENSUPA 软件栈，都在围绕算子库和框架适配发力。这也是国产芯片最“难而正确”的部分：硬件可以一年迭代一代，生态却要十年如一日地沉淀。没有足够的算子覆盖，开发者跑一个模型还得手写底层实现，就像菜谱上只有三道菜，再好的灶台也留不住客人。

硬件和软件合起来，才有一个“性能达到率”的概念：

理解了达到率，就理解了国产芯片的现状：硬件的纸面数字已经追得很近，但生态的“菜谱厚度”还在补课。好消息是，弥补生态没有捷径之外的另一种可能——场景适配。在细分行业里把特定模型优化到极致，也能以“专精菜式”取胜，这正是后文部署优化要讲的事。

部署优化策略

办一千人的宴席，一间后厨忙不过来，就得几间后厨拼桌协作。这在 AI 里叫多卡并行。数据并行把数据切成几份分给各卡，每张卡负责训练同一份模型的影子副本，定期同步参数；张量并行则把模型本身拆成几块，每卡负责一部分计算。燧原的灵衢互联和壁仞的 BLink，就是拼桌时的“传菜通道”，决定了卡间同步快不快。但拼桌不是免费午餐，通道再快也有延迟，同步再勤也有开销，这就是 Amdahl 定律要揭示的规律：

除了拼桌，还有两味“调味料”能大幅提速。第一味是混合精度：训练时用 BF16/FP16 做主力计算，用 FP32 做精度兜底，就像既用粗切快炒又保留几道细雕菜，既快又不砸招牌；第二味是推理优化：对大模型做量化（把 32 位参数压成 8 位整数，相当于把食材切碎打包）、缓存中间结果（KV cache），让快餐窗口的出餐时间从秒级降到毫秒级。完整的调优流程则是：先做性能剖析找出瓶颈，再针对性调整批次大小、算子和卡间拓扑，一层层逼近那个“达到率”。

把这些策略串起来，你会看到国产芯片的真实用法：不是买来插上就能满分，而是像请一位能力强但脾气怪的大厨——你得懂他的灶台、顺他的思路、优他的菜谱。经过多卡并行、混合精度、推理量化这套组合拳，燧原和壁仞完全能把大模型“办成席”。

落地应用场景

最后一站，从后厨走向宾客满座的宴会厅。国产 AI 芯片正在三个主战场落地。第一是智算中心建设：各地新建的人工智能计算中心，是燧原、壁仞这类国产卡的主阵地，它们以集群方式提供大规模算力，相当于把几十间后厨集中成一座中央厨房，向全社会供餐。第二是大模型训练：从开源大模型到行业大模型的预训练、微调，国产芯片正在从“能跑通”走向“能跑快”，支撑起一批国产大模型的诞生。第三是行业垂直应用：金融、政务、医疗等对数据安全要求极高的行业，像请私厨上门一样，把算力和数据都放在本地私有化部署，国产芯片由此获得主场优势。

要估算“办一场大模型宴席需要多少算力”，工程师常用一个经验公式：

回想这趟后厨之旅：从训练与推理的分桌，到燧原的宴席专精、壁仞的模块化拼装；从四把尺子量性能，到菜谱（生态）和拼桌（并行）的智慧；最终，这些“灶台、仓库、菜谱、拼桌”汇聚成一座座智算中心，让我们每个人都能品到大模型时代的美味。燧原与壁仞，正是这场算力盛宴里最有分量的两张国产餐桌——它们让我们相信，把后厨开在自己人手里，宴席才能办得安心、办得长久。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""国产AI芯片性能估算：对比燧原与壁仞的理论瓶颈""" chips = [    {"name": "燧原云燧i10", "fp16_tflops": 147.0,  "bw_gbps": 1200.0},    {"name": "壁仞BR100",   "fp16_tflops": 2048.0, "bw_gbps": 2300.0},    {"name": "参考A100",    "fp16_tflops": 312.0,  "bw_gbps": 2039.0},] def arithmetic_intensity(peak_tflops, bandwidth_gbps):    """算术强度 = 峰值算力 / 显存带宽，单位 FLOP/Byte"""    return peak_tflops * 1e12 / (bandwidth_gbps * 1e9) def gemm_time(m, n, k, peak_tflops, utilization=0.6):    """估算矩阵乘法耗时（毫秒），利用率模拟软件生态带来的折扣"""    flops = 2.0 * m * n * k    return flops / (peak_tflops * 1e12 * utilization) * 1000.0 def train_time_days(params_b, tokens_b, peak_tflops):    """估算千亿 token 语料的单卡训练天数（前向+反向约6倍运算量）"""    total_flops = 6.0 * params_b * 1e9 * tokens_b * 1e9    seconds = total_flops / (peak_tflops * 1e12 * 0.4)    return seconds / 86400.0 for c in chips:    ai = arithmetic_intensity(c["fp16_tflops"], c["bw_gbps"])    ms = gemm_time(8192, 8192, 8192, c["fp16_tflops"])    days = train_time_days(7.0, 1000.0, c["fp16_tflops"])    print(c["name"])    print("  算术强度约 %.1f FLOP/Byte" % ai)    print("  8192立方矩阵乘约 %.2f ms" % ms)    print("  7B模型千亿token单卡约 %.1f 天" % days)

1. def arithmetic_intensity(peak_tflops, bandwidth_gbps):定义算术强度函数，衡量“算力”与“带宽”是否匹配。
2. return peak_tflops * 1e12 / (bandwidth_gbps * 1e9)把 TFLOPS 和 GB/s 统一成 FLOP/Byte，比值越高越依赖算力。
3. flops = 2.0 * m * n * k矩阵乘法的总运算量，两个矩阵相乘要做 2×m×n×k 次浮点运算。
4. return flops / (peak_tflops * 1e12 * utilization) * 1000.0除以“打了折扣的算力”，换算成毫秒。
5. total_flops = 6.0 * params_b * 1e9 * tokens_b * 1e9用前文公式 C=6ND 估算大模型训练总运算量。
6. days = train_time_days(7.0, 1000.0, c["fp16_tflops"])以 7B 模型、千亿 token 为例算单卡训练天数，数字越小吃得越快。

常见误区

面试题