AWS Machine Learning Blog· Pierre Lienhart·· 4 小时前AI 评分31
Deepgram 如何用 AWS Trainium2 优化大规模语音 AI 推理
How Deepgram optimized voice AI at scale with AWS Trainium
AI 导读
Deepgram 将 Nova-3 语音转文字模型移植到 AWS Trainium2,在单台 trn2.3xlarge 实例上运行 8 个模型副本,离线批处理场景下每美元处理的音频量比原有算力方案提升 11–70%。
来源:AWS Machine Learning Blog · aws.amazon.com