Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent
Microsoft Research 发现 Lazarus 可通过重编程少于 10 个休眠神经元,在无需训练的情况下为 AI Agent 植入隐藏后门。该模型可正常通过标准评测,并在日期变化等触发条件出现后执行攻击者命令,进而下载代码、窃取秘密或运行破坏性命令。研究人员建议将模型权重视同代码进行审计,并采用模型溯源、开放权重来源控制、环境扫描、红队检测及加密签名等纵深防御措施。