Ray：分布式计算

为什么需要 Ray：Python 单机算力瓶颈与集群调度成本

Python 是 AI 与数据分析的事实标准语言，但单进程程序受 GIL 与单机 CPU 核数限制，无法充分利用多核与多机资源。传统扩展路径有两条：改用 Spark 等大数据框架，把逻辑改写成声明式 DataFrame API，代价是丢掉 Python 对象模型与丰富的库生态；或者自行搭建“多进程 + 消息队列 + 任务调度”系统，需要自己解决节点发现、网络通信、失败重试、资源分配等问题，工程量大且难以复用。

Ray 用两个最小原语解决上述问题：远程任务（Task）与远程类（Actor）。普通函数加 @ray.remote 装饰器即成为分布式任务，普通类加 @ray.remote 即成为跨节点可调用的有状态对象。任务调度、对象传输（共享内存零拷贝）、失败重试、资源调度均由运行时透明处理，开发者不需要维护节点列表或消息协议。同一份代码在本地 ray.init() 与多节点集群间无缝迁移，这是它区别于“分布式框架需要改架构”的传统印象的核心。

与 Dask、Spark 相比，Ray 的定位不是“数据分析框架”而是“通用 AI 运行时”：数据处理、训练、调参、推理由同一套分布式原语承载。这意味着团队只维护一条技术栈，数据预处理与模型训练之间不需要额外格式转换或数据搬运——这是它被 OpenAI、Uber、蚂蚁集团等采用的主要原因。

安装与环境配置：3 步就绪

步骤一·安装：要求 Python 3.8 以上（官方推荐 3.9-3.12）。建议先创建虚拟环境，再执行 pip install -U "ray[default]"。[default] 为必须的扩展标记，它会附带 Dashboard、客户端、参数服务等常用组件；只装裸 ray 包会缺少 ray start 的部分功能。

步骤二·验证：执行 python -c "import ray; print(ray.__version__)"，能输出版本号即安装成功。若导入报错，优先检查 Python 版本与依赖冲突（常见于 grpcio 版本异常）。

步骤三·初始化：运行 ray start --head --port=6379 启动本地单机集群，终端会输出 Dashboard 地址 http://127.0.0.1:8265，浏览器打开可查看集群资源、任务时间线与 Actor 运行状态。开发调试阶段也可以直接在 Python 里调用 ray.init()，二者等效。

# 创建虚拟环境（推荐）python -m venv ray-env && source ray-env/bin/activate # 安装 Ray（含 Dashboard 等默认组件）pip install -U "ray[default]" # 验证安装python -c "import ray; print(ray.__version__)" # 启动本地集群，Dashboard 默认 http://127.0.0.1:8265ray start --head --port=6379 # 也可用官方镜像免安装体验（注意设置共享内存）docker run -it --shm-size=1g -p 8265:8265 rayproject/ray:latest

快速上手：10 分钟跑通并行任务与 Actor

最小可用流程只需一个 Python 文件：先验证远程任务并行加速，再验证 Actor 的有状态特性。整个流程不需要任何配置文件。

1. 新建 demo.py，在文件开头调用 ray.init() 初始化运行时；

2. 用 @ray.remote 装饰一个模拟耗时计算的函数，通过 compute.remote(i) 提交任务——注意 remote 调用立即返回、不阻塞；

3. 把多次提交返回的引用收集成列表，用 ray.get(futures) 一次性取回全部结果；

4. 再用 @ray.remote 装饰一个计数器类，实例化后通过 counter.inc.remote() 触发方法调用；

5. 运行 python demo.py，应依次输出 [0, 1, 4, 9] 和 [1, 2, 3]。

核心代码示例（与官方文档 API 一致）：

进阶技巧：任务取消用 ray.cancel(ref)；部分结果先到先用 ray.wait(futures, num_returns=1, timeout=...)；小对象会自动内联在任务参数中，大对象才写入共享内存，无需手动管理序列化。

import rayimport time # 1. 初始化本地 Ray 运行时ray.init() # 2. 远程任务：函数加装饰器即可分布式执行@ray.remotedef compute(x: int) -> int:    time.sleep(1)            # 模拟 1 秒耗时    return x * x # 3. 并行提交 4 个任务，立即返回引用，不阻塞futures = [compute.remote(i) for i in range(4)] # 4. 一次性取回结果，总耗时约 1 秒而非 4 秒print(ray.get(futures))      # [0, 1, 4, 9] # 5. Actor：远程类实例，跨调用保留状态，方法默认串行@ray.remoteclass Counter:    def __init__(self):        self.n = 0     def inc(self) -> int:        self.n += 1        return self.n counter = Counter.remote()print(ray.get([counter.inc.remote() for _ in range(3)]))  # [1, 2, 3]

核心能力详解：5 大支柱

支柱一·Ray Core：分布式原语层。Task 是无状态远程函数，Actor 是有状态远程对象，ObjectRef 是对象引用——数据存放在共享内存中，多进程可零拷贝读取。调度、容错、资源上限（CPU/GPU/内存）都由这一层统一处理，是其余所有组件的运行时地基。

支柱二·Ray Data：分布式数据管道。可读取 Parquet、JSON、图片、文本等格式，map_batches、groupby、shuffle 等算子自动并行执行；与 Hugging Face Datasets 无缝衔接，能直接过渡到训练阶段，避免中间结果反复落盘。

支柱三·Ray Train：分布式训练。TorchTrainer、MegatronTrainer 等抽象封装了 DDP/FSDP 配置、checkpoint 保存与恢复、日志与指标聚合，从单卡扩展到多机多卡通常只需改一个配置对象，不用手写 init_process_group 等样板代码。

支柱四·Ray Tune 与 RLlib：调参与强化学习。Tune 提供 ASHA、BOHB 等调度算法做超参搜索，支持早停低效 trial；RLlib 内置 PPO、DQN、APPO 等策略算法与环境并行接口，适用于机器人控制、游戏 AI 等场景。

支柱五·Ray Serve：模型推理服务。用 Python 类定义模型部署，支持自动扩缩、多副本、金丝雀发布、流量分流与模型组合；兼容 FastAPI 接口，可直接把训练产物上线为 HTTP/gRPC 服务，是 LLM 应用在线化的常用层。

生产部署与监控：从上线到运维

部署方式一·Kubernetes（推荐）：使用官方 KubeRay Operator，通过 RayCluster 自定义资源（CRD）声明集群规模、镜像与资源配额，KubeRay 负责 Pod 创建、扩缩容与故障自愈；作业通过 Ray Job 提交，支持排队与自动重试。这是当前生产环境的主流方式，适合已有 K8s 基础设施的团队。

部署方式二·裸机/云虚拟机：head 节点执行 ray start --head --port=6379，其余节点执行 ray start --address=<head-ip>:6379 加入集群。需打通节点内网并开放 6379（GCS 通信）、8265（Dashboard/Job API）、10001（Ray Client）端口。作业统一用 ray job submit --address http://<head>:8265 -- python train.py 提交，避免手工 ssh 分发代码导致版本不一致。

可观测性：Ray Dashboard 提供集群资源视图、任务/Actor 时间线与对象存储用量；ray status 命令行可查看各节点资源分配与排队情况；指标可接入 Prometheus/Grafana 做长期监控与告警。生产配置建议显式设置对象存储内存上限、容器 --shm-size，并用 OpenTelemetry 采集分布式追踪用于链路排查。

<p class="para-label">避坑清单：</p>

<ul class="dash-list"><li>大对象撑爆共享内存：对象存储默认占用物理内存的 30%，超限报 ObjectStoreFullError；用 ray.init(object_store_memory=……) 调大或分段处理，容器部署必须设置 --shm-size。</li><li>集群版本必须严格一致：GCS 协议不跨版本兼容，各节点 Ray 版本（含补丁号）不一致会导致加入集群失败或运行期异常，升级需全集群统一执行。</li><li>任务粒度过小反而更慢：每次远程调用有序列化与调度开销，毫秒级微任务并行收益为负；应放大任务粒度并批量用 ray.get 取回，避免循环内逐条提交。</li><li>GPU 任务必须显式声明：不写 num_gpus=1 时任务默认只申请 CPU，GPU 完全闲置；声明后还要确认节点 GPU 可用且显存未被占用。</li></ul>

版本迭代

Ray 自 2017 年由 UC Berkeley RISELab 开源，2020 年 10 月发布 1.0 稳定版；2022 年 8 月的 2.0 是一次控制平面全面重写，把“分布式执行内核”升级为“AI 应用平台”；此后保持月度/双月发布节奏，重心转向 Data、Train、Serve 等组件的生产化（截至训练数据，可能已有更新版本）。

AI 应用场景

常见误区

面试题

参考来源

• webpageRay 官网产品定位、生态介绍与客户案例