Lazarus可篡改权重植入AI后门
热点事件历史事件
Lazarus可篡改权重植入AI后门
1 篇报道1 个报道来源9 天前更新
先了解这件事
AI 综述
Microsoft Research发现,攻击者可改动模型权重,重编程少于10个休眠神经元,无需重新训练便为AI Agent植入隐藏后门;模型在常规评测中仍可表现正常,但触发条件出现后会执行恶意命令,包括下载代码、窃取秘密或运行破坏性命令。 该技术依赖篡改权重,普通测试难以发现。Microsoft Research建议审计模型权重,并结合模型溯源、来源控制、环境扫描、红队检测和加密签名降低风险;其Foundry通过来源控制确认开放权重模型及其原始发布方。
AI 根据报道生成 · 8 天前更新
最新进展11月11日 04:52
Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- AIHOTMicrosoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent
Microsoft Research 发现 Lazarus 可通过重编程少于 10 个休眠神经元,在无需训练的情况下为 AI Agent 植入隐藏后门。该模型可正常通过标准评测,并在日期变化等触发条件出现后执行攻击者命令,进而下载代码、窃取秘密或运行破坏性命令。研究人员建议将模型权重视同代码进行审计,并采用模型溯源、开放权重来源控制、环境扫描、红队检测及加密签名等纵深防御措施。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 311月12日 19:00
- 近 24 小时变化
- –
01234
20:0022:0011月13日02:0004:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。