AWS 发布 Nemotron 3.5 Super VL 在 EKS 上的部署教程

AWS 发布教程，说明如何在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 3.5 Super VL。该模型为 120B 参数、每 token 激活 12B 的 MoE 多模态模型，支持文本、图像、文档和视频输入，上下文长度最高 1M tokens。 教程指向 aws-do-eks 项目中的完整流程，涵盖前置条件、集群创建、模型权重下载、部署、测试、基准测试和清理，并给出在用户自有账户中部署的参考实现。NVIDIA 公开了该模型的权重、训练数据集和后训练配方，用户可针对特定领域定制，并在自己控制的基础设施上运行。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。