AWS 发布 Ray Train DLC 在 EKS 上分布式训练教程

AWS 发布 Ray Train DLC 镜像（public.ecr.aws/deep-learning-containers/ray:train-ml-cuda-v1.1），预集成 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 及 EFA 与 AWS OFI NCCL 插件，用户无需自行构建镜像。AWS 同时发布在 EKS 上使用该镜像与 EFA 做分布式训练的教程及示例仓库。 示例用该镜像在 2 台 g6.12xlarge 的 8 块 NVIDIA L4 GPU 上以 PyTorch FSDP 微调 Qwen2.5-1.5B。AWS 称 GPU 实例运行期间每小时约 9.50 美元，含两台实例、EKS 控制面和 NAT Gateway；需在至少一个可用区提供该实例的区域备有 96 vCPU 的 G 系列按需配额。 deploy_all.sh 默认不运行训练任务，需加 --train 参数才会串联执行。

AI 根据报道生成 · 58 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。