发布TTS自动扩缩容测量方法教程

AWS Machine Learning Blog 发布了一篇教程，介绍如何在 Amazon SageMaker AI 实时端点上部署 82M 参数的 Kokoro-82M TTS 模型，并通过实测 Q_max（单实例不突破 SLO 的最高并发）和 T_total（一次扩容耗时）来推导自动扩缩容的阈值与冷却时间，替代以往靠猜测的方式。 教程提供了可复现的测量流程，并注明运行前需有 ml.g5.xlarge 服务配额且至少有一个空闲槽位；示例容器固定了存在已知安全通告的 PyTorch 版本，非验证用途前需升级。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。