跳到正文
AI 资讯
11月17日周二
  1. AIHOT82

    Microsoft Research 发布开源插件 TokenEconomizer,用仓库历史经验降低 AI 编码 Agent 成本 18.4–30.9%

    Microsoft Research、UC Berkeley 与 Microsoft Security 发布开源插件 TokenEconomizer,通过复用同一仓库的历史经验降低 AI 编码 Agent 成本,无需修改 Agent 或底层模型。

    推荐理由:提供无需修改底层模型的插件机制与跨仓库实测数据,便于理解编码 Agent 如何利用历史经验控制成本。

11月13日周五
11月11日周三
  1. AIHOT65

    Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent

    Microsoft Research 发现 Lazarus 可通过重编程少于 10 个休眠神经元,在无需训练的情况下为 AI Agent 植入隐藏后门。该模型可正常通过标准评测,并在日期变化等触发条件出现后执行攻击者命令,进而下载代码、窃取秘密或运行破坏性命令。研究人员建议将模型权重视同代码进行审计,并采用模型溯源、开放权重来源控制、环境扫描、红队检测及加密签名等纵深防御措施。

11月6日周五
  1. Microsoft Research62

    PDD Kit 用 Verus 形式化验证智能体编写的 Rust 全栈应用

    Microsoft Research 推出研究原型 PDD Kit,将用户意图转为 Verus 形式化规范,验证编码智能体生成的 Rust 代码,并在证明无法覆盖处回退到测试。

    推荐理由:给出了从意图澄清、Verus 证明、信任边界测试到 CI 接入的完整流程,可用于评估形式化验证如何约束编码智能体生成代码。

10月30日周五
  1. Microsoft Research45

    Microsoft Copilot 如何用合成企业数据建立真实场景评估基线

    Microsoft 构建 Industry Evaluation Data Generation Platform,以合成企业环境评估 Microsoft Copilot 在真实业务场景中的表现。该平台结合 O*NET、在线职位信息和 SEC 文件生成完全合成的测试环境,并通过自动化查询管线和质量框架建立首个标准化评估基线;内容安全检查用于排除有害及个人可识别信息。

10月29日周四
  1. AIHOT78

    Anthropic 报告 Claude 研究模型发现多平台漏洞并串联 5 条攻击链

    Anthropic 发布研究报告称,其内部未公开的 Claude 研究模型在 Chrome、Safari、Android、Windows 和 Linux 中发现漏洞,并串联出 5 条可实际运行的攻击链。Chrome 报告产生 62 个严重或高危 CVE,其中修复已随 Chrome 156 发布;相关漏洞也已通过协调披露流程交由厂商处理。

    推荐理由:报告展示了 Claude 自主发现漏洞、编写利用代码并串联多平台漏洞的方法与攻击链细节。

10月22日周四
  1. Microsoft Research86

    Microsoft Research 与合作者借助人机协作证明 KLS 猜想

    Microsoft Research 研究员 Xinzhi Zhang 与合作者 Zhao Song 借助研究人员引导的 AI 智能体流程,完成了 KLS 猜想的证明。研究团队探索了 100 多条候选路径,并通过递归改进将界限与维度脱钩,10 月 4 日论文版本完成证明。另有两组独立证明随后出现,Lean 4 形式化验证也已发布,简化后的证明仍在整理和审查中。

    推荐理由:文章展示了人机协作研究如何通过约百条轨迹、递归改进和形式化验证推进高维几何核心难题。

10月14日周三
  1. GitHub Blog · AI & ML71

    GitHub 上线基于 ModernBERT 的上下文感知秘密扫描器

    GitHub 上线由正则筛选与微调 ModernBERT 分类器组成的两阶段秘密扫描器,将通用秘密检测扩展至推送保护。该分类器结合候选值、文件路径、变量名和上下文判断告警,并与此前基于远程 LLM 的流程相比,将推送后扫描执行时间中位数降低 86%,服务成本降低超过 98%。

    推荐理由:GitHub 公开了秘密扫描器的模型架构、训练方法与线上评测结果,可用于理解专用小模型替代远程 LLM 的实现路径。

10月13日周二
  1. Microsoft Research48

    StudentSim:模拟学生学习以改进 AI 辅导系统

    Microsoft Research 提出研究系统 StudentSim,利用公开且去标识化的学习者记录训练个性化学生模拟器,在接触真实学习者前评估并改进 AI 辅导系统。同步推出覆盖国际象棋、第二语言英语写作和数学的 StudentSimEval,以行为忠实度和指导响应性评估模拟器。模拟器表现优于领先基线,但目前并非产品,也未部署于课堂或用于替代教师。

10月8日周四
10月5日周一