ROCm：AMD GPU 计算平台完全攻略

为什么需要 ROCm：GPU 计算不能只有一条路

主流 AI 与高性能计算生态长期围绕 NVIDIA CUDA 构建，训练框架、推理引擎、加速库均以 CUDA 为第一优先。这带来两个现实问题：一是 NVIDIA 高端卡价格高、供应紧，采购周期长；二是已有 AMD GPU 的团队缺乏等效开发栈，过去只能退回到性能与工具链都不完整的 OpenCL。对成本敏感或追求供应自主的团队，这个缺口是刚性的。

ROCm 用整套开源栈填上缺口：内核驱动 amdgpu 随 Linux 内核主线发布，编译器基于 LLVM，HIP 编程模型与 CUDA 语法高度一致，PyTorch/JAX 等框架提供官方 ROCm 构建。这意味着存量 CUDA 代码可以低成本迁移到 AMD GPU，而不是推翻重来。

与 CUDA 的差异不仅是开源与否：ROCm 强调可审计性与构建在 LLVM 之上的多架构适配，但生态成熟度——算子覆盖、调试工具、第三方中间件——仍落后 CUDA 一个身位。选型以实际工作负载能否在 AMD GPU 上跑通为准，而非只看框架层的支持列表。

安装与环境配置：Ubuntu 三步就绪

步骤一：添加软件源（约 2 分钟）。 AMD 提供一体化安装脚本 amdgpu-install，以 deb 包形式发布在 repo.radeon.com，按「ROCm 版本 / Ubuntu 发行版代号」分目录。下载对应 .deb 并安装（示例对应 ROCm 6.4 + Ubuntu 22.04 jammy；若目录中文件的小版本号不同，以实际列出为准）。

步骤二：执行安装（约 5-15 分钟）。 sudo amdgpu-install --usecase=rocm 会安装内核模块（DKMS）、用户态运行时、编译器与全部数值库，需 root 权限，脚本自动处理依赖。

步骤三：配置权限并验证。 将当前用户加入 render 与 video 组——这是非 root 用户访问 GPU 设备节点的前提——重新登录后运行 rocminfo 检查 GPU 是否可见，rocm-smi 查看设备状态。

官方支持的操作系统为 Ubuntu 22.04/24.04、RHEL/Rocky 9、SLES 与 openSUSE；其他发行版需自行编译或改用容器方案，不建议生产使用。

# 1. 添加 AMD 官方软件源（以 ROCm 6.4 / Ubuntu 22.04 为例）wget https://repo.radeon.com/amdgpu-install/6.4/ubuntu/jammy/amdgpu-install_6.4.60004-1_all.debsudo apt install -y ./amdgpu-install_6.4.60004-1_all.deb # 2. 安装 ROCm 完整用户态栈与内核驱动sudo amdgpu-install --usecase=rocm # 3. 授权当前用户访问 GPU（需重新登录后生效）sudo usermod -aG render,video $USER # 4. 验证：输出中出现 gfx 架构编号（如 gfx942/gfx1100）即成功rocminfo | grep -i "gfx"rocm-smi

快速上手：10 分钟跑通第一个 HIP 程序

最小可用的验证思路分三层：驱动可见 → 编译可跑 → 框架可用。rocminfo 验证驱动层，一个简单的 HIP 内核验证编译器与运行时，最后用 PyTorch 验证框架层。任何一层失败都能按错误特征快速定位。

1. 验证设备可见：运行 rocminfo，输出中应有含 gfx 编号的 GPU Agent 信息；再运行 rocm-smi 确认能读取温度与利用率。

2. 创建源码：将下方 hello_hip.cpp 保存到工作目录。程序含义：在 GPU 上启动 8 个线程，每个线程把自己线程号平方后写回显存，再拷贝到主机端打印。

3. 编译运行：执行 hipcc hello_hip.cpp -o hello_hip && ./hello_hip。hipcc 自动链接 HIP 运行时，无需手动指定库参数。

4. 框架验证：安装 PyTorch 官方 ROCm 轮子（示例对应 ROCm 6.2），导入 torch 检查 torch.cuda.is_available() 是否为 True。

进阶技巧：迁移存量 CUDA 工程时，先跑 hipify-perl 或 hipify-clang 自动转换，再手工处理返回值检查与不兼容 API，不要期望零改动。

// hello_hip.cpp#include <hip/hip_runtime.h>#include <cstdio> __global__ void square(int* out) {    int id = threadIdx.x + blockIdx.x * blockDim.x;    out[id] = id * id;} int main() {    const int n = 8;    int* dev = nullptr;    hipMalloc(&dev, n * sizeof(int));    square<<<1, n>>>(dev);    hipDeviceSynchronize();    int host[n] = {0};    hipMemcpy(host, dev, n * sizeof(int), hipMemcpyDeviceToHost);    for (int i = 0; i < n; i++) printf("%d ", host[i]);    printf("\n");    hipFree(dev);    return 0;}

hipcc hello_hip.cpp -o hello_hip && ./hello_hip# 预期输出：0 1 4 9 16 25 36 49 pip3 install torch torchvision torchaudio \  --index-url https://download.pytorch.org/whl/rocm6.2.4python3 -c "import torch; print(torch.cuda.is_available())"# 输出 True 即框架层就绪

核心能力详解：四大支柱

支柱一：HIP 编程模型。 HIP 是 ROCm 的异构编程接口，C++ 语法与 CUDA 高度重合：__global__ 标记内核函数，threadIdx/blockIdx 索引线程，hipMalloc/hipMemcpy 对应 cudaMalloc/cudaMemcpy。基于 LLVM 的 hipcc 编译器将 HIP 源码编译为 AMD GPU 指令。官方提供 hipify 工具链做 CUDA→HIP 源码转换，但纹理内存、流与事件等高级 API 存在语义差异，需要人工核对。

支柱二：高性能数学库。 ROCm 提供与 CUDA 生态一一对应的数值库：rocBLAS（基础线性代数，对应 cuBLAS）、rocFFT（快速傅里叶变换）、rocSPARSE（稀疏矩阵运算）、rocSOLVER（线性方程组与特征值）、MIOpen（深度学习算子与卷积，对应 cuDNN）。PyTorch、TensorFlow 的 ROCm 版底层即由这些库驱动，应用层无需直接调用。

支柱三：RCCL 多卡通信。 RCCL（ROCm Collective Communication Library）对标 NCCL，提供 AllReduce、AllGather、Broadcast 等集合通信原语，支撑 PyTorch DDP 数据并行与 DeepSpeed 等并行训练框架。支持多机扩展，底层可走 InfiniBand、RoCE 或 TCP。多卡训练的扩展效率主要由它决定。

支柱四：深度学习框架集成。 PyTorch 官方提供 ROCm 构建的 pip wheel（rocm6.x 索引），JAX、TensorFlow、ONNX Runtime 亦有 AMD 官方构建；推理侧 vLLM、Ollama 等支持 AMD GPU。AMD 还发布 rocm/pytorch Docker 镜像，将系统库与框架打包，省去本地装配。集成深度逐季提升，但框架小版本发布往往滞后于 CUDA 版，需留意版本对应。

生产部署与监控：从上线到运维

容器化部署是 ROCm 生产环境的主流方式。官方镜像 rocm/pytorch 预装 ROCm 运行时与主流框架。启动容器必须显式挂载设备节点并配置组权限：--device=/dev/kfd（内核融合驱动设备）与 --device=/dev/dri（渲染设备），并追加 video/render 组、IPC 与共享内存参数，否则容器内直接报 hipErrorNoDevice。

Kubernetes 部署使用 AMD 官方 k8s-device-plugin：以 DaemonSet 运行，将 AMD GPU 作为 amd.com/gpu 资源上报给调度器，实现显式分配与多租户隔离。设备插件版本需与集群内 ROCm 版本配套，升级 ROCm 时同步升级插件。

可观测性：rocm-smi 提供实时利用率、温度、功耗、显存占用；rocprof 做内核级性能剖析（对应 Nsight Compute）；omnitrace 采集应用层与零耗。GPU 遥测可通过 sysfs 导出并接入 Prometheus，构建集群级告警与容量报表。

<p class="para-label">避坑清单：</p>

<ul class="dash-list"><li>重启后 GPU 消失：多为 DKMS 内核模块未编译成功，用 dkms status 检查，失败则重装 amdgpu-dkms 并确认内核头文件齐全；</li><li>运行报 hipErrorNoDevice：先确认 /dev/kfd 与 /dev/dri/renderD* 设备节点存在，再确认当前用户已加入 render、video 组并重新登录；</li><li>PyTorch 检测不到 GPU：wheel 索引（如 rocm6.2.4）必须与系统 ROCm 大版本一致，混用大版本会出现运行时符号缺失；</li><li>消费级显卡（如 RX 6600，gfx1032）报 not supported：该卡不在官方支持名单，强行使用需设置 HSA_OVERRIDE_GFX_VERSION，性能与稳定性无保证；</li><li>内核升级后驱动失效：DKMS 会尝试自动重编，若失败重新执行 sudo amdgpu-install 匹配新内核，生产环境建议锁定内核版本。</li></ul>

docker run -it --rm \  --device=/dev/kfd --device=/dev/dri \  --group-add video --group-add render \  --ipc=host --shm-size=16G \  --cap-add=SYS_PTRACE --security-opt seccomp=unconfined \  rocm/pytorch:latest

版本迭代

ROCm 自 2016 年开源，5.x 完成架构整合，6.x 转向以 AI 为核心的重构——统一安装方式、跟随 PyTorch 大版本同步发布 ROCm 构建、逐年扩大消费级显卡支持。截至训练数据，最新正式版为 ROCm 6.4（2025-03，可能已有更新版本）。

AI 应用场景

常见误区

面试题

参考来源

• webpageAMD 官网 ROCm 页面产品定位、版本路线与下载入口