AWS Machine Learning Blog· Mijanur Palash·· 4 小时前AI 评分36
在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理
Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod
AI 导读
在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 做 LoRA 微调,用 SFT 与 GRPO 提升其多语言推理能力。基座模型在 50 例多语言推理测试中仅 22% 用目标语言推理(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%)。结论是 SFT 承担主要工作,GRPO 在存在提升空间时进一步优化,技术选择需匹配能力差距。
来源:AWS Machine Learning Blog · aws.amazon.com