AWS Machine Learning Blog· Giuseppe Zappia·· 17 天前精选AI 评分75
在Amazon SageMaker AI上用知识蒸馏构建高效智能体
Build efficient agents with knowledge distillation on Amazon SageMaker AI
AI 导读
AWS教程演示如何使用序列级知识蒸馏(SeqKD),在Amazon SageMaker AI上训练低成本购物智能体。流程包括由Amazon Bedrock上的GLM-5.3生成并筛选 ShoppingBench轨迹,再以LoRA微调Qwen3.5-4B、评测并部署。蒸馏模型的平均ASR从基础模型的0.297提升至0.541,接近GLM-5.3贪心解码的0.540;仅保留工具调用时降至0.415。
推荐理由
完整展示SeqKD智能体的轨迹生成、过滤、训练、评测与部署链路,并量化推理保留和专项微调的效果差异。
来源:AWS Machine Learning Blog · aws.amazon.com