ESM：Meta 蛋白质语言模型与结构预测工具全攻略

为什么需要 ESM：绕开 MSA 的序列到结构高吞吐路径

传统蛋白质结构预测以 AlphaFold2 为代表，依赖多序列比对（MSA）：需要先从大型数据库检索同源序列、构建比对与进化树，耗时数分钟到数小时；当目标蛋白缺少同源序列（如宏基因组新蛋白、孤儿蛋白）时，MSA 信息不足，预测精度明显下降。对大规模变异评估而言，湿实验测功能成本高昂，传统基于序列保守性的经验打分则覆盖率低、噪声大。

ESM 用语言模型提供了另一条路径：在数亿条天然序列上做掩码语言建模预训练（ESM-1b 使用 2.5 亿条序列），模型在训练中隐式学会了“什么样的序列在进化上是可行的”，因此单条序列输入即可获得包含结构信息的表征。ESMFold 直接将 ESM-2 的表征映射为三维坐标，无需 MSA，单块 GPU 秒级出结构；ESM-1v/ESM-2 通过野生型与突变型序列的对数似然比较，零样本为错义突变打分，数分钟即可完成全蛋白组扫描。

与 AlphaFold2“显式检索进化信息”相比，ESM 是“隐式学习进化信息”，两者是互补路线。ESM 的代价是同源信息丰富的蛋白上结构精度略低，但换来推理速度快、部署简单、对孤儿蛋白友好的特性；同时 ESM 额外提供嵌入、变异打分与生成设计能力，功能边界远超“结构预测器”。

安装与环境配置：3 步就绪

步骤一：安装 fair-esm。 安装前确认 Python ≥ 3.7、PyTorch ≥ 1.13；GPU 环境建议先按 PyTorch 官网选择对应 CUDA 版本安装 PyTorch，再执行 pip install fair-esm。该包同时包含 ESM-1/2 与 ESMFold 的全部模型入口。

步骤二（可选）：准备 ESM-3。 先在 Hugging Face 的 EvolutionaryScale 模型页接受开放模型许可，再安装 esm 包。注意 fair-esm 与 esm 是两个不同仓库的包，import 名均为 esm，按任务只装其一，避免相互覆盖。ESM-3 具体安装命令以官方 README 为准。

步骤三：验证安装。 在 Python 中导入 esm 与 torch，确认无缺失依赖。首次正式使用前建议跑一次小模型前向，提前暴露 CUDA 版本与 cuDNN 不匹配问题。

# 1）GPU 用户先按 https://pytorch.org 安装对应 CUDA 的 PyTorch# 2）安装 ESM-1/2 与 ESMFold 官方包pip install fair-esm # 3）验证安装python -c "import esm, torch; print('fair-esm OK, torch', torch.__version__)" # 4）（可选）ESM-3：接受许可后安装并登录凭证# pip install esm# huggingface-cli login

快速上手：10 分钟跑通嵌入与结构预测

最小可用流程分三步：加载预训练模型 → 将序列编码为 token → 前向获取表征或结构。fair-esm 通过 esm.pretrained 统一暴露模型与词表（alphabet），命名规则一致。

1. 加载 ESM-2：调用 esm.pretrained.esm2_t33_650M_UR50D() 加载 650M 参数的 33 层模型；显存不足可换 esm2_t6_8M_UR50D。

2. 编码序列：用 alphabet.get_batch_converter() 把 (名称, 序列) 列表转成 token，自动补齐特殊 token 与填充。

3. 前向推理：在 torch.no_grad() 下调用模型，repr_layers=[33] 提取第 33 层每残基嵌入，return_contacts=True 同时输出残基接触概率矩阵。

4. 结构预测：加载 esm.pretrained.esmfold_v1()，调用 model.infer_pdb(seq) 直接返回 PDB 文本，写入文件即为结构结果。输出中的 B-factor 字段存有 pLDDT（每残基置信度，0-100），可据此过滤低置信度区域。

运行后终端会打印嵌入形状 [2, L, 1280] 与 PDB 保存路径。进阶技巧：嵌入可接线性头微调，用于结合位点、溶解度等下游回归任务；结构任务建议批量提交序列以充分利用 GPU 并行。

import torchimport esm # 1. 加载 ESM-2（650M），提取每残基嵌入model, alphabet = esm.pretrained.esm2_t33_650M_UR50D()batch_converter = alphabet.get_batch_converter()model.eval() seqs = [    ("protein1", "MKTVRQERLKSIVRILERSKEPVSGAQLAEELSVSRQVIVQDIAYLRSLGYNIVATPRGYVLAGG"),    ("protein2", "KALTARQQEVFDLIRDHISQTGMPPTRAEIAQRLGFRSPNAAEEHLKALARKGVIEIVSGASRGIRLLQEE"),]_, _, batch_tokens = batch_converter(seqs) with torch.no_grad():    out = model(batch_tokens, repr_layers=[33], return_contacts=True) emb = out["representations"][33]   # [2, L, 1280] 每残基嵌入contacts = out["contacts"]         # [2, L, L] 接触概率矩阵 # 2. 用 ESMFold 直接预测结构（无 MSA）fold = esm.pretrained.esmfold_v1()fold = fold.eval().cuda()with torch.no_grad():    pdb = fold.infer_pdb(seqs[0][1])  # 返回 PDB 文本 with open("protein1.pdb", "w") as f:    f.write(pdb)print(emb.shape, "PDB saved.")

核心能力详解：4 大支柱

支柱一：序列表征与迁移学习。 ESM-2 的残基级嵌入是模型家族的基础能力。嵌入（embedding）指模型把每个氨基酸映射为高维向量，向量间距离反映进化与功能相似性。官方支持通过 repr_layers 输出任意中间层表示，便于对比不同抽象层级；在接触图预测等任务上，650M 以上模型的嵌入已接近有监督基线。典型用法是作为下游任务（二级结构预测、功能位点注释、蛋白质性质回归）的输入特征或初始化权重。

支柱二：零样本变异效应预测。 ESM-1v 与 ESM-2 支持对错义突变做零样本打分：分别计算野生型与突变型序列在突变位点的对数似然（模型在该位置预测该氨基酸的概率取对数），以差值作为效应分数，全程无需任何监督标签。传统方法依赖进化保守性数据库并需要大规模同源序列，ESM 单条序列即可操作，且能覆盖蛋白质组所有单点突变，是临床意义未明变异（VUS）排序与饱和突变扫描的常用前置工具。官方提供 ESM-1v 的 5 个集成模型，平均后效果更稳定。

支柱三：端到端结构预测（ESMFold）。 ESMFold 直接用 ESM-2 嵌入预测全原子坐标，绕过 MSA 与模板，单 GPU 秒级出结构，比 AlphaFold2 快 1-2 个数量级。这一速度优势使其承担大规模结构注释任务：Meta 官方公开的 ESM Metagenomic Atlas 已覆盖 6 亿余条宏基因组蛋白的预测结构。限制是官方支持的最大序列长度为 400 残基，且对同源信息丰富的蛋白精度通常低于 AlphaFold2，使用时须按任务权衡。

支柱四：多模态生成式设计（ESM-3）。 ESM-3 把序列、结构、功能三类信息统一为离散 token 做生成式建模：用户提供部分模态（如只给结构模板或功能描述），模型补全其余部分。旗舰版 98B 参数，开放权重为 1.4B/3B。论文中对生成的荧光蛋白 esmGFP 做了湿实验验证：其与已知天然荧光蛋白序列一致性仅约 58%，仍表现出荧光活性，验证了低同源性条件下生成功能蛋白的能力，这是超越“序列到结构”的生成式能力。

生产部署与监控：从上线到运维

部署方式一：自托管推理服务。 结构预测与嵌入提取等主工作负载建议封装为异步推理服务（如 FastAPI + 任务队列）。所有模型部署前必须调用 model.eval() 并置于 torch.no_grad() 上下文，用 half() 半精度可显著降低显存；按序列长度分级限流，超过 400 残基的请求直接拒绝或转切分流程；单卡并发数通过压测确定，避免 OOM 拖垮整机。

部署方式二：ESM-3 生成任务。 生成式任务计算量更大，且开放权重受非商业许可约束，商用场景需走 EvolutionaryScale 托管 API 或商业授权。本地部署 1.4B 模型 FP16 权重约 3GB 显存，推理建议 8GB 以上 GPU；3B 模型建议 16GB 以上或使用量化。生成采样参数（temperature、top_p）需按任务校准，并在服务层固定随机种子以保证结果可复现。

可观测性。 记录每请求的序列长度、推理耗时与显存峰值；ESMFold 额外记录输出结构的 pLDDT 均值与分布作为结构质量信号。用队列削峰并设置超时与重试，输出物（PDB、嵌入）写入对象存储并保留版本。定期对固定基准集复跑，监控结构质量分布漂移；模型升级时灰度切流，对比新旧版本在同一测试集上的结构相似度（TM-score）差异后再全量上线。

<p class="para-label">避坑清单：</p>

<ul class="dash-list"><li>ESMFold 序列上限 400 残基：超长直接报错，需先按结构域切分再分别预测，不能简单截断到 400 造成结构丢失。</li><li>包名混淆：fair-esm 是 ESM-1/2 与 ESMFold 的官方包，esm 是 ESM-3 的包，两者 import 名相同，混装可能相互覆盖，按任务只装其一。</li><li>推理必须 model.eval() + torch.no_grad()：否则显存成倍增长且输出含训练期 dropout 噪声，结果不可复现。</li><li>ESM-3 开放权重为非商业许可：商用前必须确认许可类型，或改用托管 API 与企业授权，勿默认按 MIT 处理。</li><li>无 MSA 不等于精度更高：同源序列丰富的蛋白建议用 AlphaFold2，ESMFold 结果需按 pLDDT 过滤低置信度区域。</li></ul>

版本迭代

ESM 家族的演进主线是模型规模扩大、任务从理解走向生成。2020 年 ESM-1b 以 650M 参数证明蛋白质掩码语言模型可从序列隐式习得结构；2022 年 ESM-2 将规模推至 15B，并基于其嵌入构建无需 MSA 的 ESMFold；2024 年 EvolutionaryScale 推出多模态生成模型 ESM-3（旗舰 98B），2025 年开放 1.4B/3B 权重供科研使用。

AI 应用场景

常见误区

面试题

参考来源

• webpageESM Atlas（esmatlas.com）ESMFold 在线预测服务与大规模结构数据库