AWS Machine Learning Blog· Giuseppe Zappia·· 6 小时前AI 评分38
在 Amazon SageMaker AI 上用知识蒸馏构建高效智能体
Build efficient agents with knowledge distillation on Amazon SageMaker AI
AI 导读
亚马逊云科技介绍如何用序列级知识蒸馏(SeqKD)在 Amazon SageMaker AI 上微调购物智能体:由前沿教师模型生成多步工具调用轨迹,仅保留成功解题的样本,再以监督微调训练小模型。SeqKD 只需教师模型的文本输出,无需 logits 或强化学习基础设施,因此适用于仅提供 API 的闭源教师模型。文中以 DeepSeek-R1 蒸馏到 Qwen、Llama 小模型为例说明该路径。
来源:AWS Machine Learning Blog · aws.amazon.com