lr = 0.01 w_new = w - lr * grads[0] print(“更新后的参数样本:”, w_new[:5]) ```

岗位关联

代码用途:演示了SPMD在JAX中最典型的数据并行训练闭环——pmap切分数据到多个设备、各设备独立计算局部梯度、pmean聚合全局梯度,最后所有设备持有一致的参数更新。