教程

09.17/苏晚/5 MIN

无 NCCL 也能训 RL：HF Jobs 上用一个桶、一个代理，把训练和推理拆到两台机器

Hugging Face 的 Amine Dirhoussi 等人展示了在 HF Jobs 上跑异步 GRPO 的完整工程细节：LoRA 只同步适配器、共享存储桶替代 NCCL、代理做 KV 缓存亲和路由。同一份 recipe 从 3 小时 27 分钟压到 53 分钟，MFU 从 3.9% 提到 23.5%——每一步的诊断路径都写进了指标里。