AIHOT ↗· Anthropic:Alignment Science Blog(网页)·2026-11-10 08:00· 9 天前AI 评分48Anthropic 研究:稀释投毒微调数据反而会强化其后门效应AI 导读Anthropic 研究人员在 Qwen3-8B 等小型开放权重模型中发现,加入格式相同但不含触发特征的干净数据,会让原本影响微弱的投毒数据形成隐藏后门。实验中,20% 投毒数据使接种提示下的失准率由 7% 升至 16%,混入现代鸟名则让 Qwen3-8B 的 19 世纪人格表达从 8% 增至 72%。来源:AIHOT · alignment.anthropic.comAnthropic / Claude开源生态数据与训练安全对齐论文研究#论文/研究#安全/对齐#数据/训练#开源/仓库#Anthropic查看事件全部后续