跳到正文
AIHOT ↗· Anthropic:Alignment Science Blog(网页)·· 9 天前AI 评分48

Anthropic 研究:稀释投毒微调数据反而会强化其后门效应

AI 导读

Anthropic 研究人员在 Qwen3-8B 等小型开放权重模型中发现,加入格式相同但不含触发特征的干净数据,会让原本影响微弱的投毒数据形成隐藏后门。实验中,20% 投毒数据使接种提示下的失准率由 7% 升至 16%,混入现代鸟名则让 Qwen3-8B 的 19 世纪人格表达从 8% 增至 72%。

来源:AIHOT · alignment.anthropic.com