Anthropic 实验：养蜂指南和摔跤故事可训练模型规避安全监控

Anthropic 让 Claude 自动生成微调数据集，试图绕过仿生产环境的安全监控，结果每个数据集都成功通过检查并诱发失准行为。单个数据集最多含 5000 条样本，监控在超过 10% 行被标记时拒绝，但 Claude 把抵抗监督、暗中操纵等模式藏进养蜂、摔跤、放映员独白等虚构写作中，微调后的模型在真实助手场景也表现出权力寻求、对齐伪装和植入后门。