想象你是一位城市规划师。过去几十年,你要建设一座超级大都市,最直接的办法就是不断把一栋楼盖得更高——这就像芯片产业不断缩小晶体管尺寸,把更多功能塞进同一片硅片里。可如今,楼太高了:地基越来越难打,工价越来越贵,一丁点瑕疵就可能让整栋楼报废。 于是,聪明的规划师换了一种思路:不再硬盖一座摩天大楼,而是把大都市拆成多个功能各异的街区——AI计算街区、存储街区、通信街区——再用高架立交和地下隧道将它们高效连在一起。台积电的 CoWoS 和 InFO 正是两套令人惊叹的“城市交通方案”。CoWoS 像在高架桥上平铺几个街区,用细密的竖井隧道互联;InFO 则像紧凑的新型社区,把线路藏在屋檐下,节省空间和成本。 这就是先进封装的世界。读完这篇文章,你会理解 AI 芯片是怎么被“组装”出来的,也会明白为什么华尔街一听到台积电 CoWoS 产能紧张就紧张起来。

岗位关联

理解 CoWoS 与 InFO,是理解 AI 算力基础设施的必修课。它能帮你看清 AI 芯片产业的技术瓶颈、竞争格局与投资议题,也让封装从“配角”变成你知识体系中的硬核主角。

目录
  1. 可视化演示
  2. 封装技术瓶颈
  3. CoWoS架构
  4. InFO架构
  5. 2.5D/3D体系
  6. AI芯片应用
  7. 台积电优势
  8. AI 应用场景
  9. Python 演示
  10. 常见误区
  11. 面试题

可视化演示

展示系统处理流水线、实时性能指标曲线及多方案对比分析,包含数据流转、吞吐延迟监控与方案评估。

本节配有交互动效(进入视口后自动加载,约 3KB)。

系统可视化 处理流程:输入→处理→模型→输出 性能监控:实时指标 P=L×T

封装技术瓶颈

想象城市为了容纳更多居民,选择不停加盖摩天楼。起初成本可控,但楼一旦超过某个高度,桩基、电梯、管线的复杂度和造价直线飙升,任何一个楼层漏水都可能让整栋楼无法交付。过去芯片行业就是这样的“加高派”:靠着微缩晶体管,把更多算力塞进同一片硅上,也就是摩尔定律。可当制程逼近原子尺度时,“盖楼”的成本和失败率已经让人吃不消。

这时,"Chiplet"(芯粒)理念登台:不再执念于把一切都做进一块大芯片,而是把原本的大芯片拆成多个小功能块(如 CPU、GPU、I/O),各自制造后再封装成一个系统。这种策略对良率和成本影响巨大,因为芯片面积与缺陷之间的关系不是线性的,而是残酷的指数关系。

为什么大芯片不划算?可以用一个简单良率模型来理解:

把楼拆成多个独立小楼,每小栋的建造成本和验收风险都显著下降——这就是 Chiplet 的城市规划逻辑。当然,拆开之后还要解决“小楼之间怎么互通”的问题,这正是 CoWoS 登场的舞台。

Y=e−D×A\displaystyle Y = e^{-D \times A}
Y 为良率,D 为单位面积缺陷密度,A 为芯片面积。面积越大,良率指数衰减越猛烈,就像城市越大,任何一个角落的“施工事故”都可能让整片区域无法交付。
  1. Y(良率)生产出的芯片中,能通过电学测试、正常工作的比例。它相当于城市中“验收合格的街区”占比。
    YY
  2. e(自然常数)约 2.718,指数运算的底数,是“连续复合衰减”的天然尺度。
    ee
  3. D(缺陷密度)晶圆制造过程中每平方厘米出现的平均缺陷数,工艺越成熟 D 越小。
    DD
  4. A(芯片面积)芯片的物理面积,通常以平方厘米计。面积越大,碰到缺陷的风险越大。
    AA

CoWoS架构

Chiplet 解决了“楼太高”的问题,新的问题马上出现:一座城市被拆成多个功能区,居民如何在街区之间快速流动?CoWoS 就是台积电为这些街区搭建的“立体交通网”,全称 Chip on Wafer on Substrate,意思是:把芯片(Chip)放在硅晶圆/中介层(Wafer/Interposer)上,再整体放到封装基板(Substrate)上,故名“芯片-晶圆-基板封装”。

在 CoWoS 里,多个芯片并排“坐在”一块面积更大的硅中介层上。中介层表面用极细的微凸块连接每个芯片,内部则用布线把芯片之间的信号互连起来。中介层下方还埋着贯穿硅体的 TSV(硅通孔),像竖井一样把信号引到最底层基板。这片中介层,就是那张“高架交通网”。

这种 2.5D 集成的杀手锏是超高的互连密度。单位面积能容纳多少 I/O 取决于微凸块间距 p:

CoWoS 就像在多座功能楼之间铺满高架路口——出口密度决定整座城市群的数据吞吐极限。AI 芯片里的 GPU 和高带宽内存,正是靠这张“高架网”紧密相连,才能喂饱训练大模型的算力胃口。

BIO=Ainterposerp2×f×b\displaystyle B_{IO} = \frac{A_{interposer}}{p^2} \times f \times b
I/O 数越多、信号频率越高、每条线越宽,中介层的“运输带宽”越大。微凸块间距 p 缩短一半,单位面积 I/O 数理论上变为原来的 4 倍。
  1. 中介层面积宏观上决定能放多少芯片、能为多少信号扇出空间。
    AinterposerA_{interposer}
  2. 微凸块间距平方p 越小,单位面积凸块越多,连接越密;p 出现在分母且被平方,影响极大。
    p2p^2
  3. 信号频率每秒交换次数,频率越高,同等线路的带宽越大。
    ff
  4. 位宽每条信号线一次能并行传多少位数据。
    bb

InFO架构

高架立交虽好,造价也不便宜。如果城市没那么大,没必要上这套重装备。台积电还有一套更轻的方案:InFO(Integrated Fan-Out,集成扇出)。它不建高架桥,而是把街区道路重新规划,让房子的“门牌引脚”从屋檐四面八方向外延展,这就是“扇出”的含义。

InFO 的核心是扇出型重布线(RDL)。芯片先被塑封料包住,然后在表面重新铺设一层铜线路,一端连芯片的 I/O 焊盘,另一端扇到封装边界,取代传统引线框架和介质层。整条路径没有硅中介层参与,布线层直接承担“从芯片到基板”的连接任务。

因为跳过了硅中介层,InFO 的封装高度更低、成本更省、制造流程更短。在面积效率方面,用面积利用率 U 来描述:

InFO 就像为中小城市量身定制的紧凑街区——写字楼直接面向街道开门,少了立交桥工程,人和数据照样高效流动。这也是为什么手机 SoC、平板电脑芯片特别偏爱 InFO 类方案的原因。

U=AdieApackage\displaystyle U = \frac{A_{die}}{A_{package}}
U 越高,说明芯片面积在封装总面积中占比越高,封装越紧凑,就像城市里楼宇占地比例越高、浪费的公共空间越少。
  1. 芯片面积裸芯片本身的大小,这是封装体真正“干活”的部分。
    AdieA_{die}
  2. 封装面积封装体的总覆盖面积,包括扇出所占的空间。两者比值越接近 1,说明封装越紧凑。
    ApackageA_{package}

2.5D/3D体系

城市规划并非只有“平面摊开”一种。CoWoS 把多个芯片平放在中介层上,属于 2.5D 布局——整体上仍是二维空间;而 3D IC 选择在垂直方向“叠房子”,把存储芯片像楼层一样堆在逻辑芯片上方。二维卫星城与立体垂直都市,各有适合的场景。

2.5D 封装的本质是“水平互连为主、垂直导通为辅”:芯片与芯片之间走中介层横向布线,向下通过 TSV 竖井接到基板;3D 封装则是芯片与芯片直接纵向堆叠,层与层之间用 TSV 贯通,互连路径更短,但也伴随更严峻的散热挑战。

3D 堆叠的带宽取决于 TSV 竖井的数量和速度:

B3D=NTSV×f×w\displaystyle B_{3D} = N_{TSV} \times f \times w
TSV 数量越多、频率越高、每条竖井位宽越大,数据在垂直方向上的流通能力越强。这就像城市里地下隧道越多,上下班高峰的通行效率越高。
  1. TSV 数量贯通硅层的竖井个数,越多立体交通越通畅。
    NTSVN_{TSV}
  2. 工作频率每个竖井每秒钟工作多少次,即数据传输节奏。
    ff
  3. 位宽每个竖井单次可传输的比特数,竖井越粗,一次搬得越多。
    ww

AI芯片应用

训练大模型相当于让超级城市举办一场全天候大型运动会:计算中心(GPU)必须时刻拿到海量“物资”(训练数据与权重)。如果送货通道太窄,再快的运动员也会被饿得跑不动。AI 芯片面临的正是这种“带宽饥饿”。

HBM(高带宽内存)就是为 AI 专门设计的“立体仓储物流中心”。HBM 把多颗 DRAM 芯片垂直堆叠成塔,靠 TSV 和微凸块连接,再通过 2.5D 封装放在 GPU/ASIC 旁边,用极短的硅中介层走线把数据喂给 AI 处理器。相比传统 PCB 走线,这条路既短又宽。

HBM 总带宽由多个因子共同控制:

英伟达 A100/H100 这类 AI 加速卡,正是靠 CoWoS 把 GPU 与 HBM“同城安置”在高架网络之中,才喂饱了训练大模型的算力胃口。可以说,没有 CoWoS,就没有今天的大模型算力奇迹。

B=Nstack×Nchannel×f×W\displaystyle B = N_{stack} \times N_{channel} \times f \times W
堆栈数、通道数、频率、通道位宽四者相乘,共同决定 HBM 的“配送速率”。
  1. 堆栈数GPU 周围挂了几个 HBM 塔,塔越多仓库越大。
    NstackN_{stack}
  2. 通道数每个塔的并行出货口数量,通道越多,同时能搬的货越多。
    NchannelN_{channel}
  3. 频率每个通道的工作节奏,频率越高,每秒搬货次数越多。
    ff
  4. 位宽每条通道一次能搬多宽的数据,位宽越大,单趟载货越多。
    WW

台积电优势

当一座城市群既需要顶级摩天楼、又需要高架和地下网络时,最好交给一个能同时拿捏工程细节的“总规划师”。台积电在先进封装时代的地位,正是这样一个总规划师:既制造最先进的逻辑芯片,又提供 CoWoS/InFO 等封装服务,把“盖楼”和“修路”握在同一双手里。

台积电的打法叫“先进制程协同”。客户在台积电流片后,无需把芯片送到别处封装,直接在同一生态完成“设计-制造-封装”。这样既能缩短交付周期,也有利于在早期发现良率问题。反过来,封装环节积累的数据又能反馈给制程优化,形成正循环。

封装成本直接受良率影响,台积电的工艺积累让封装良率更可控:

台积电把“盖楼、修路、铺管网”三条本领握在手中,所以从 AI 加速卡到手机 SoC,下游客户纷纷把封装产能押注给它。CoWoS 产能一紧张,全行业都会紧张,这正是台积电封装优势最真实的写照。

C=CdieY\displaystyle C = \frac{C_{die}}{Y}
要摊薄成本,要么降低芯片制造成本 C_die,要么提升良率 Y,后者正是台积电的看家本领。
  1. 总成本单颗封装好的芯片成本,是芯片成本除以良率后的“实际分摊”。
    CC
  2. 芯片成本晶圆制造环节分摊到每颗裸片的成本,工艺越先进越高。
    CdieC_{die}
  3. 良率整体制程与封装的合格比例,良率越低,成本被放大得越厉害。
    YY

AI 应用场景

AI加速卡的高带宽整合

阶段:AI 硬件设计 / 流片 / 封装

解决的问题:训练芯片需要超大内存带宽,传统 PCB 布线根本无法在物理尺寸内提供 TB/s 级别吞吐。CoWoS 把 GPU 和 HBM 并排放在硅中介层上,通过 TSV 和微凸块打通,一举解决“带宽饥饿”。

具体案例:英伟达 A100 加速卡采用台积电 CoWoS 封装,将 1 颗 GPU 与多颗 HBM2 集成在同一中介层上,总带宽突破 2TB/s,让大模型训练性能迈向新高度。

手机与边缘AI芯片的轻薄化

阶段:AI 芯片量产与部署

解决的问题:移动端和边缘设备运行端侧 AI 模型,对功耗、厚度、成本高度敏感。传统引线键合封装太厚,CoWoS 又太贵;InFO 用扇出封装在无中介层条件下完成高密度互连。

具体案例:苹果 A 系列与 M 系列芯片采用台积电 InFO 封装,让手机和笔记本在紧凑空间内塞进强大 AI 算力;不少 NPU 边缘模组也倾向使用 InFO 类方案控制厚度。

Python 演示

python49 行
"""Chiplet 良率与筛选装配模拟"""import math  def die_yield(area, defect_density=0.1):    """Poisson 良率模型:Y = e^(-D*A)"""    return math.exp(-defect_density * area)  def comb(n, k):    """组合数 C(n, k)"""    from math import factorial    return factorial(n) // (factorial(k) * factorial(n - k))  def binomial_at_least(n, k_min, p):    """制造 n 颗小芯片,至少 k_min 颗合格的概率"""    return sum(comb(n, k) * (p ** k) * ((1 - p) ** (n - k))               for k in range(k_min, n + 1))  def mono_vs_chiplet(total_area, parts, oversp=1.5):    """单片 SoC vs Chiplet 筛选策略的有效可用概率"""    mono = die_yield(total_area)    part_area = total_area / parts    part_y = die_yield(part_area)    n_made = int(round(parts * oversp))    chiplet_usable = binomial_at_least(n_made, parts, part_y)    return mono, part_y, chiplet_usable, n_made  def main():    total_area = 4.0    print("晶圆缺陷密度=0.1/cm^2,单片SoC面积=4cm^2")    print("-" * 58)    for parts in [1, 2, 4, 8]:        mono, part_y, usable, n_made = mono_vs_chiplet(            total_area, parts, oversp=1.5        )        print(f"拆分{parts:>2}块 | 小芯面积={4.0/parts:.2f}cm^2 | "              f"小芯良率={part_y:.3f} | "              f"单SoC良率={mono:.3f} | "              f"Chiplet筛选后可用={usable:.3f}")  if __name__ == "__main__":    main()
目的:用 Poisson 良率模型对比“单颗大 SoC”与“Chiplet 筛选装配”的可用概率,直观展示为什么 Ciplet 方案在现实中更优。
  1. return math.exp(-defect_density * area)复现良率公式 Y=e^(-D×A),面积越大良率越低
  2. def comb(n, k):计算组合数,用于二项分布概率
  3. part_y = die_yield(part_area)每颗小芯面积更小,良率显著提升
  4. n_made = int(round(parts * oversp))多制造 50% 裸片作为筛选余量
  5. chiplet_usable = binomial_at_least(n_made, parts, part_y)从多余裸片中挑出合格芯,系统可用性大幅上升
  6. for parts in [1, 2, 4, 8]:对比不同拆分粒度对最终可用率的影响

常见误区

误区CoWoS 和 InFO 是两种相反的技术路线,用了 CoWoS 就不能用 InFO,选了 InFO 就告别 CoWoS,两者只能二选一。

正解CoWoS 和 InFO 更像同一家规划院推出的两套不同档次的“城市方案”。CoWoS 面向 AI/HPC 等对带宽极度饥渴的客户,把多颗芯片放在硅中介层上,提供最高的 I/O 密度;InFO 面向移动 SoC、消费电子等对厚度和成本敏感的客户,用扇出 RDL 省去中介层。台积电可以根据产品需求在同一工厂中安排不同方案,二者并存在台积电的先进封装版图中,并不互斥。

为何常见:初学者接触新概念时,习惯把两个新名词排成“非此即彼”,忽略它们其实是按性能/成本梯次设计的不同产品线。

误区3D 是立体堆叠,2.5D 只是平面展开,3D 看起来维度更高,肯定全面领先,将来一定会取代 2.5D。

正解维度高不等于综合收益高。2.5D 在散热、良率、成熟度、成本上均有优势,尤其适合功耗高的 AI 芯片;3D 堆叠虽然互连路径极短,但散热难、制造复杂、良率挑战大,目前主要用在存储堆叠等场景。实际产品会根据需求混用 2.5D 和 3D。台积电的 CoWoS 主打的也是 2.5D,而非全面转 3D。

为何常见:人们的直觉是“升级路线”式思维,认为新维度的技术必然取代旧维度,忽略了工程上的真实权衡。

误区封装就是把芯片装进一个带引脚的小黑盒,能通电就行,对芯片性能和 AI 系统能力没有决定性影响。

正解在先进封装时代,封装决定了信号互连密度、电源完整性、散热效率、封装体积。CoWoS 把 GPU 和 HBM 放上同一硅中介层后,互连带宽比传统 PCB 连接提升一到两个数量级;InFO 让手机芯片面积和厚度显著降低。可以说,先进封装可能比晶体管本身更能决定最终系统性能。

为何常见:传统封装外观太像“外壳”,造成根深蒂固的常识偏见;而先进封装的内部机制又不为人所熟知。

误区Chiplet 只是物理上切开大芯片,各块面积加起来还是那么大,缺陷率根本不会降低,怎么会提高良率?

正解Chiplet 的收益来自三点:一是每颗小芯片面积小,单颗良率指数级上升;二是小芯片可以先测试筛选,只把合格芯拿来装配,整体可用性更高;三是各模块可用不同工艺(逻辑用先进制程、I/O 用成熟制程),成本更优。虽然理论上“所有小芯全部合格”的概率与单片相同,但配合筛选与冗余,Chiplet 的价值立现。

为何常见:只看面积加和,忽略了生产线上的筛选、冗余、异质工艺组合等系统工程能力。

面试题

Q1. CoWoS 的中文全称是什么?

单选题 · easy

  • A.芯片-晶圆-基板封装← 正确答案
  • B.芯片埋入基板封装
  • C.晶圆级扇出封装
  • D.引线键合堆叠封装

答案:A。CoWoS 全称 Chip on Wafer on Substrate,即“芯片-晶圆-基板封装”。先把芯片放到硅晶圆/中介层上,再整体放到基板上。B 是埋入式封装,C 是扇出封装,D 是引线键合,都不符合。

Q2. Chiplet 相比单片 SoC 的最大优势是什么?

单选题 · easy

  • A.芯片面积更大散热更好
  • B.小芯片良率高且可异构集成← 正确答案
  • C.完全没有工艺制造过程
  • D.能无限提高单芯片主频

答案:B。Chiplet 将大芯片拆为多个小芯片,每颗小芯片面积小、良率高,且不同模块可以用不同工艺节点。C 和 D 明显荒谬,A 只是面积大而非优势。

Q3. InFO 扇出封装的核心手段是什么?

单选题 · easy

  • A.用硅中介层承载多颗芯片
  • B.在芯片外围扇出重布线路← 正确答案
  • C.用引线键合连接所有引脚
  • D.直接把芯片焊到主板上

答案:B。InFO(集成扇出)使用 RDL 重布线层把芯片的 I/O 引脚扇出到封装边界,不需要硅中介层。A 是 CoWoS 的做法,C 是传统封装,D 是 PCB 级连接。

Q4. TSV 硅通孔在 CoWoS 中的作用是什么?

单选题 · mid

  • A.提供穿越中介层的垂直导通← 正确答案
  • B.把芯片热量直接导出散热
  • C.实现芯片间的光学信号传输
  • D.用物理胶水黏合芯片基板

答案:A。TSV(Through-Silicon Via)是贯穿硅中介层的垂直导电通孔,让芯片信号能从中介层顶部传到下方基板。它不负责散热,也不传输光信号。

Q5. 下列关于 2.5D 和 3D 封装的表述,正确的有哪些?

多选题 · mid

  • A.2.5D通过中介层水平连接多颗芯片← 正确答案
  • B.3D封装通过垂直堆叠缩短互连← 正确答案
  • C.2.5D完全不需要基板支撑
  • D.3D堆叠散热难度普遍更高← 正确答案

答案:ABD。2.5D 通过硅中介层水平排列芯片,3D 通过垂直堆叠缩短互连路径。2.5D 仍需要基板支撑,故 C 错;3D 堆叠固然路径短,但散热困难是公认挑战,D 正确。

Q6. HBM 内存实现高带宽的原因有哪些?

多选题 · mid

  • A.与GPU共享硅中介层缩短走线← 正确答案
  • B.使用非常宽的并行数据通道← 正确答案
  • C.封装内TSV提供垂直互连← 正确答案
  • D.通过WiFi无线传输数据信号

答案:ABC。HBM 通常通过 2.5D 封装与 GPU 共置硅中介层上,走线极短;其内部采用很宽的并行通道;TSV 提供了 DRAM 堆叠之间的垂直互连。D 选项无线传输显然错误。

Q7. 下列哪个是台积电 CoWoS 封装的典型 AI 应用?

单选题 · mid

  • A.英伟达A100系列AI加速卡← 正确答案
  • B.智能手表低功耗运动传感器
  • C.空调控制芯片温控模块
  • D.蓝牙耳机音频解码器

答案:A。英伟达 A100/H100 是 CoWoS 最典型的客户,把 GPU 和 HBM 集成在同一封装中。手表传感器、空调温控、蓝牙耳机都不需要 TB/s 级带宽,用不上 CoWoS。

Q8. 关于 CoWoS 与 InFO 的对比,正确的有哪些?

多选题 · hard

  • A.CoWoS有中介层而InFO没有← 正确答案
  • B.CoWoS更适合高带宽AI芯片← 正确答案
  • C.InFO厚度和成本通常更优← 正确答案
  • D.InFO带宽始终高于CoWoS

答案:ABC。CoWoS 依赖硅中介层提供超高 I/O 带宽,适合 AI/HPC;InFO 去掉中介层,靠扇出 RDL 互连,厚度更低、成本更省,但带宽通常不如 CoWoS。D 说反了。

Q9. 设缺陷密度 D=0.1/cm²,一块 10cm² 的大芯片良率约为多少?(e≈2.718)

单选题 · hard

  • A.0.905
  • B.0.368← 正确答案
  • C.0.670
  • D.0.135

答案:B。代入良率公式 Y=e^(-D×A)=e^(-0.1×10)=e^(-1)≈0.368。A 是 1cm² 的良率,C 是 4cm² 的良率,D 是 20cm² 的良率。

Q10. 在 2.5D 封装中,若微凸块间距 p 缩小为原来的 1/2,单位面积 I/O 数量理论上变为原来的多少倍?

单选题 · extreme

  • A.原来的2倍
  • B.原来的4倍← 正确答案
  • C.原来的1/2倍
  • D.原来的1/4倍

答案:B。单位面积 I/O 数量与 p² 成反比。p 减半时,p² 变为原来的 1/4,因此单位面积 I/O 数变为原来的 4 倍。这正是缩小间距能大幅提升互连密度的原因。