AWS Machine Learning Blog· Joseph Cottingham·· 4 小时前AI 评分32
别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
针对 Kokoro-82M(8200 万参数 TTS 模型)在 Amazon SageMaker AI 实时端点上的部署,该方案用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次完整扩容耗时)通过算术推导出扩容阈值、缩容阈值及两个冷却时间,替代凭猜测设定的自动扩缩容目标。
来源:AWS Machine Learning Blog · aws.amazon.com