Mythic存内计算芯片：用模拟电路跑AI推理

可视化演示

展示Mythic存算一体芯片核心原理：存内计算架构对比、模拟矩阵乘法I=V×G机制、以及数字与模拟芯片功耗精度差异。

存算一体：把菜谱写进灶台

一间传统后厨里，最累的不是大厨的胳膊，而是他的腿。菜谱锁在办公室的档案柜，食材堆在走廊尽头的仓库，大厨每做一道菜，都要跑回去翻菜谱、搬食材，来来回回几十趟。颠勺只需要几秒钟，可每次颠勺之前，等待食材的时间却是它的上百倍。瓶颈从来不在手上，而在路上。

传统 AI 芯片的后厨，就是大名鼎鼎的冯·诺依曼架构：计算单元是灶台，内存是仓库，权重和中间结果都堆在仓库里。每一次矩阵运算，都要把数据从内存搬到计算单元，算完再搬回去。一圈神经网络跑下来，搬运的次数以百万计，而搬运一次数据的能耗，足够计算单元做上百次乘加——这就是“内存墙”，也是推理功耗居高不下的头号元凶。

存算一体（Computing-in-Memory）的做法，是干脆把菜谱写进灶台。Mythic 把神经网络的权重编程进闪存单元，用电导值表示权重大小：电导高，意味着这个连接“分量重”；电导低，则是“点到为止”。推理时，输入信号经数模转换变成电压，加到闪存阵列的行线上；根据欧姆定律，每个单元的电流等于电压乘电导，这就在物理层面完成了一次“权重×输入”的乘法。同一列上所有单元的电流再依据基尔霍夫定律自然汇合，求和也一并完成。一次矩阵乘法，就这样在存储阵列内部无声无息地算完了。

回到餐厅的比方：菜谱用量直接刻在台面上，食材从水槽流过台面，每经过一个刻度就自动“称”好一份，全程不需要把菜谱搬来搬去。这就是存内计算的全部秘密——计算跟着存储走，数据零搬运。

Mythic芯片架构：一间完整的存算厨房

光有一块写满菜谱的台面还开不了餐厅。真正的后厨还需要水槽、排水沟、记账本和掌勺的规矩。Mythic 的芯片也一样——它不是一个孤零零的存储阵列，而是一间设计完整的“存算厨房”。

Mythic 的旗舰方案（如 M1070 模块）内部集成多颗模拟计算芯片，每颗芯片的核心是一块巨大的模拟计算阵列（Analog Compute Array）。阵列由成千上万个闪存单元排列成交叉阵列，行线负责输入，列线负责汇出。阵列之外，还有两类重要角色：数据转换器和数字控制逻辑。数据转换器把数字世界的输入变成模拟电压（DAC），再把列线上的电流读回成数字（ADC）；数字控制逻辑则负责指令调度、激活函数、残差相加这些“只有数字电路能干得漂亮”的活。

这套架构的精髓在于分工：凡是能靠物理规律“免费”完成的乘加，全部交给模拟阵列；凡是必须精确的流程控制，交给数字部分。输入数据只在芯片边缘完成一次“数字→模拟→计算→模拟→数字”的转换，中途不再有任何大范围数据搬运。省下来的，正是传统架构里最贵的“跑腿费”。数据搬运的代价到底有多高？它比一次计算本身贵上两三个数量级：

这就像一间把水槽、量杯、灶台、账本整合在一条流水线上的厨房：菜从水龙头进，从出货口出，厨师全程站在原地，只负责掌勺。

模拟AI的精度：大厨的“大概准”

台面上的量杯再精致，也比不上实验室的天平。数字芯片是一台精密电子秤，每一次运算都精确到比特；而模拟存算阵列更像一把带刻度的量杯，电流里天然带着一丝“毛刺”——这就是模拟计算与生俱来的“大概准”。

毛刺从哪来？一是热噪声，导体里的电子在温度下永远在乱撞，给电流叠加微小的随机波动；二是器件失配，同一块晶圆上，两个“看起来一样”的闪存单元，电导未必一模一样；三是多级编程时的保持误差，电荷在存储单元里会缓慢泄漏。这些误差叠加在一起，让模拟阵列的每次乘加结果，都带上了等效约 4~8 bit 的“抖动”。

但神经网络偏偏是个“宽容的食客”。权重之间存在大量冗余，某个连接的轻微偏差，很快会被后续层的加权平均“稀释”；激活函数的饱和区又像厨师对咸淡的钝感——已经够咸的菜，再多加一撮盐也尝不出来。大量实验表明，在图像分类、语音识别等常见任务上，模拟存算推理与数字浮点推理的准确率差距通常只有 1~2 个百分点。工程上，我们用信噪比来衡量这种“大概准”到底有多准：

说到底，客人吃的是整桌菜，不是某一粒盐的味道。“大概准”的量杯，配合宽容的神经网络，端出来的菜照样光盘。

量化映射机制：把克换算成勺

菜谱上写“盐 3 克”，可台面上只有一把勺。想用勺做菜，就得先做一张“克与勺”的换算表。存内计算面临同样的问题：权重在数字世界里是浮点数，可闪存单元只能记住有限个电导档位，这中间的翻译工作，就是量化映射。

为了让电导值可靠地写入和读出，Mythic 并不把权重当作连续值存储，而是把每个闪存单元编程为有限个离散档位——这就是多级单元技术，常见 4~8 bit，相当于每个单元能记住 16~256 个“勺”的刻度。推理前，所有浮点权重都要按步长“归位”到最近的档位：先算出权重范围对应的步长，再把权重除以步长取整，最后乘回步长还原成物理量纲。

量化步长决定了这把“勺”的粗细：步长越大，档位越少，每个权重最多偏出半个步长，误差越明显；步长越小，档位越多，越接近连续电导，但编程电导本身也有精度上限，档位细到一定程度就成了自欺欺人。Mythic 的取舍是：让量化误差落在神经网络容错范围之内，用等效精度换取存储密度与可靠性。量化映射的数学表达如下：

翻译得再糙，只要“勺”的分寸拿捏到位，照方抓药做出来的菜就不会跑味。量化映射，就是给台面配一套恰到好处的量勺。

数字芯片对比：两种厨房哲学

传统后厨信奉“精确制”：每一克盐都要上电子秤，食材在仓库和灶台之间跑断腿也在所不惜。存算厨房信奉“省力制”：台面量勺大概准，但一步路都不用多走。两种哲学，对应着两种完全不同的芯片设计思路。

数字加速器（GPU、NPU）的思路是“算得快”：用海量晶体管堆出高速乘加单元，再用高时钟频率把每个周期压到最短。代价是数字电路每做一次乘加，都要让成百上千个节点的电压在 0 和供电电压之间完整翻转一次——每一次翻转都要给电容充放电，这是数字功耗的物理来源。模拟存算芯片的思路则是“省得快”：乘加交给阵列里的物理规律，电压只在行线上做小幅摆动，求和根本不需要逐位翻转。

数字功耗公式清楚地揭示了差别：α 是每个时钟周期里发生翻转的节点比例，模拟阵列沿列线求和时几乎不消耗这部分能量；C 是要充放电的电容，模拟摆幅小、等效电容低；V 是供电电压，数字信号满摆幅翻转，而模拟信号只在小范围内变化。把这些因素叠起来，Mythic 对外宣称的能效比可达 10 TOPS/W 以上，而常见边缘数字芯片多在 1~3 TOPS/W——这是数量级的差距。

两种厨房，一种赢在“每一勺都精确”，一种赢在“一整天不用跑腿”。对追求续航的边缘设备而言，后者的诱惑显然更大。

误差与校准：台面也会热胀冷缩

台面上的量勺用久了也会骗人：夏天厨房一热，塑料勺会变形；冬天一冷，刻度又缩回去。闪存里的电导也有同样的毛病——温度一变，电荷的迁移率就变，权重的“刻度”跟着漂。

模拟存算芯片的误差主要有三类来源：随机噪声，每次推理都在变，无法预测但可以统计；系统漂移，由温度变化、芯片老化和电荷泄漏引起，缓慢但有方向；编程误差，权重写入电导档位时本身就不完美。其中，随机噪声只能靠电路设计压低，而系统漂移是校准可以对付的“主犯”。

校准的思路，是给阵列安放一组“标准量勺”——参考单元。这些单元的电导在出厂时精确已知，推理前先读一遍参考单元，就能估算出当前温度下电导的整体偏移量，再用数字补偿电路把偏移修正回来。更彻底的办法是定期重新编程权重，相当于把磨损的刻度重新刻一遍。Mythic 的做法是：用参考单元做快速校准，配合定期刷新，把漂移误差压到可忽略的程度；是否需要加大校准频率，则由推理精度的实时监测决定。误差的全貌可以写成下面的分解式：

好厨师的台面，每天开业前都会用标准杯校验一次——代价不过几分钟，换来的却是一整天的稳定手感。校准，就是这场“台面校验”。

AI 应用场景

Python 演示

import numpy as np rng = np.random.default_rng(42) def make_data(n=600, d=16):    # 造一份线性可分的合成数据，标签只由前几个特征决定    x = rng.randn(n, d)    score = x[:, 0] * 1.2 + x[:, 1] * 0.9 - x[:, 2] * 0.7    y = np.where(score > 0, 1.0, -1.0)    return x, y def train_perceptron(x, y, epochs=30, lr=0.05):    # 感知机训练：只在预测错误时更新权重    w = np.zeros(x.shape[1])    for _ in range(epochs):        for i in range(x.shape[0]):            if y[i] * (w @ x[i]) <= 0:                w += lr * y[i] * x[i]    return w def quantize(w, bits=4):    # 把浮点权重映射到有限个电导档位，模拟闪存多级单元编程    levels = 2 ** bits    scale = np.max(np.abs(w)) + 1e-9    w_q = np.round(w / scale * (levels / 2 - 1)) / (levels / 2 - 1) * scale    return w_q def analog_infer(x, w, noise=0.2, drift=0.04):    # 模拟存内计算：电流 = 电导 × 电压，叠加器件噪声与温度漂移    w_drift = w * (1 + drift)    current = x @ w_drift + noise * np.random.randn(x.shape[0])    return current def accuracy(y, score):    return float(np.mean((score > 0) == (y > 0))) def main():    x_train, y_train = make_data()    x_test, y_test = make_data()    w = train_perceptron(x_train, y_train)     score_ideal = x_test @ w    score_quant = x_test @ quantize(w, bits=4)    score_analog = analog_infer(x_test, w, noise=0.2, drift=0.04)    score_cal = analog_infer(x_test, w, noise=0.2, drift=0.0)  # 校准掉漂移     names = ["Digital float", "4bit quantized",             "Analog in-memory", "After calibration"]    scores = [score_ideal, score_quant, score_analog, score_cal]    for name, sc in zip(names, scores):        acc = accuracy(y_test, sc)        err = float(np.max(np.abs(sc - score_ideal)))        print(f"{name:>18s}  acc: {acc:.3f}  max dev: {err:.3f}") if __name__ == "__main__":    main()

1. w_q = np.round(w / scale * (levels / 2 - 1)) / (levels / 2 - 1) * scale权重按步长归到离散档位，模拟把权重编程为闪存电导
2. if y[i] * (w @ x[i]) <= 0:感知机只在预测错误时更新权重，训练出可被后续对比的基准模型
3. w_drift = w * (1 + drift)模拟温度漂移让电导整体偏移，相当于台面量勺热胀冷缩
4. current = x @ w_drift + noise * np.random.randn(x.shape[0])模拟存算推理：矩阵乘法在“阵列”中完成，再叠加随机噪声
5. score_cal = analog_infer(x_test, w, noise=0.2, drift=0.0)去掉漂移项，模拟用参考单元校准后的效果

常见误区

面试题