AWS发布TTS端点自动扩缩容实测配置教程

AWS Machine Learning Blog 发布教程，介绍如何在 Amazon SageMaker AI 实时端点上为自定义容器部署的 8200 万参数 TTS 模型 Kokoro-82M 推导自动扩缩容配置：用实测的单实例 SLO 内最高并发 Q_max 和一次扩容端到端耗时 T_total，算出扩容阈值、缩容阈值和两个冷却时间，替代凭猜测设定目标值。 教程要求运行扩容测量前具备 ml.g5.xlarge 服务配额，且比基线至少多一个空闲槽位；示例容器固定的是旧版 PyTorch，存在已知漏洞 PYSEC-2026-2286（torch 2.10.0 已修复），非概念验证用途前需评估并升级。 教程称可先以 dry-run 模式零 AWS 调用打印测量计划与耗时估算，据此为约 36 分钟的实测预留成本；文中算例可用两份已提交的测量文件重跑复现，无需 AWS 调用或新增支出。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。