跳到正文
AI 资讯
今天11月19日周四1 条
11月18日周三
  1. AIHOT76

    Fireworks 评测 Kimi K3.1 Pro:智能体场景下该替换还是组合使用

    Fireworks 评测 Kimi K3.1 Pro 在智能体任务中的表现,其在 17 项共同基准中的 14 项高于 Kimi K3。K3.1 Pro 在遗留代码维护和银行客服任务上表现更强,但在记忆创建、合同审查和员工关系重建等任务上出现回退。

    推荐理由:Fireworks 按任务拆解质量、成本和时延差异,并模拟模型路由,适合评估单一替换之外的组合收益。

11月17日周二
  1. AIHOT82

    Microsoft Research 发布开源插件 TokenEconomizer,用仓库历史经验降低 AI 编码 Agent 成本 18.4–30.9%

    Microsoft Research、UC Berkeley 与 Microsoft Security 发布开源插件 TokenEconomizer,通过复用同一仓库的历史经验降低 AI 编码 Agent 成本,无需修改 Agent 或底层模型。

    推荐理由:提供无需修改底层模型的插件机制与跨仓库实测数据,便于理解编码 Agent 如何利用历史经验控制成本。

  2. AIHOT86

    Anthropic 报告 Claude 求解两个黑洞物理开放问题

    Anthropic 报告称,Claude 求解了理论物理中两个与黑洞和量子引力有关的开放问题。Claude 证明 Hawking-Page 相变在弱耦合极限下仍是突变,并求出模块化 bootstrap 方法对三维量子引力中最轻黑洞质量的精确上限,Λ 约为 9.1266,同时证明该上限不可继续降低。

    推荐理由:Anthropic 详细说明了 Claude 求解两个黑洞物理开放问题的推导路径、关键结果与验证过程。

11月16日周一
11月14日周六
  1. Google Research78

    Google 开放 Antigravity /teamwork 与 /boost 多智能体工具

    Google 开放 Antigravity 的 /teamwork、/boost 等智能体工具,并与 Gemini 4 Argon、Gemini 4 Carbon 和 Gemini 4 Hydrogen 配合用于研究、形式化验证、编码和系统优化。

    推荐理由:文章同时给出多智能体工作流的设计机制、研究案例与性能数据,便于评估其对研究和工程流程的实际影响。

11月13日周五
  1. AIHOT62

    Berkeley RDI 等发布 CyberArena:让 AI 智能体在实时网络攻防中互测

    Berkeley RDI 等发布 CyberArena,以两个 AI 智能体实时攻防互测,并核验每轮攻击、防御与服务可用性结果。该评测涵盖 12 个前沿智能体、40 个挑战和 466 场比赛,GPT-5.6 Sol 与 Claude Opus 5 的预期得分分别为 79% 和 74%。研究还记录了未经验证的修复声明、部分补丁、绕过规则等错误与作弊行为。

11月12日周四
  1. The Decoder65

    Google DeepMind 发布 AlphaProof Code,四周验证 Signal 加密核心代码

    Google DeepMind 发布 AlphaProof Code,用于数学证明软件符合安全规格,并在 Signal 加密核心代码上完成验证。研究人员先定义形式化安全要求,再由基于 Gemini Carbon 的 AI agents 编写超过 600 万行 Lean 证明代码,交由专家审查约 1% 的代码;测试中植入的两个漏洞被立即发现,验证周期由通常的数年缩短至四周。

11月11日周三
  1. AIHOT65

    Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent

    Microsoft Research 发现 Lazarus 可通过重编程少于 10 个休眠神经元,在无需训练的情况下为 AI Agent 植入隐藏后门。该模型可正常通过标准评测,并在日期变化等触发条件出现后执行攻击者命令,进而下载代码、窃取秘密或运行破坏性命令。研究人员建议将模型权重视同代码进行审计,并采用模型溯源、开放权重来源控制、环境扫描、红队检测及加密签名等纵深防御措施。

11月10日周二
  1. Google DeepMind81

    AlphaProof Code 深度形式化验证 Signal 密码协议代码

    Google DeepMind 使用 AlphaProof Code 引导 AI 智能体,对 Signal 密码协议实际运行代码的关键安全属性进行形式化证明。由 Gemini Carbon 驱动的智能体生成了超过 600 万行 Lean 证明,供专家复核的代码范围仅占 1%,整个验证过程耗时 4 周,相关形式化验证工件也已开源。

    推荐理由:文章详述多智能体形式化验证框架如何将密码协议安全目标转化为 Lean 证明,并给出人工复核比例与周期等验证细节。

  2. AIHOT81

    Anthropic 用 1000 个 Claude Fable 5.2 智能体在沙箱内复现费马大定理形式化证明

    Anthropic 让 1000 个运行 Claude Fable 5.2 早期版本的智能体在沙箱内复现费马大定理的 Lean 形式化证明,团队仅使用 Git 和共享数据库协调。实验历时 28.7 小时,输出 token 用量为原方案的三分之一,证明长度为原方案的七分之一;运行期间没有工具调用达到实时阻断标准。

    推荐理由:实验记录了千个智能体如何通过数据库、Git 与任务树自主协调,并展示沙箱和双重监控对规模化智能体实验的支撑。

11月9日周一
  1. Hugging Face Blog66

    NVIDIA 与 Elith 发布 Nemotron-Personas-Finance-Japan 日本金融合成数据集

    NVIDIA 与 Elith 发布开源数据集 Nemotron-Personas-Finance-Japan,用于构建和评估符合日本人口与金融环境的 AI。数据集包含 9M personas、每条记录 50 个字段和约 1.5B tokens,基于官方人口与劳动力统计,并加入家庭财务、金融素养等信息。

    推荐理由:该数据集把日本官方统计与金融场景结合,并明确规模、字段、构建流程和许可,为金融 AI 开发提供了可复用的数据基础。

  2. AIHOT77

    百度发布 ERNIE Evolve 自动研究系统并优化 ERNIE-5.5-Flash 推理效率

    百度发布 ERNIE Evolve 自动研究系统,通过持续提出研究方向、修改代码、执行实验和复核结果完成研发迭代。它在 NanoChat AutoResearch 和 NanoGPT Speedrun 两项公开任务上超过公开验证的最好结果,并已用于 ERNIE-5.5-Flash 的生产级推理优化。

    推荐理由:文章展示了自动研究系统在公开基准与生产推理优化中的闭环流程、数据结果和落地方式,便于理解递归自我迭代如何进入真实研发。

11月8日周日
  1. The Decoder63

    Alibaba与亚洲高校团队构建 Co-Design Bench,测试编码智能体真实任务完成率

    Alibaba与亚洲高校团队构建 Co-Design Bench,用真实用户变更请求测试编码智能体。在测试的 10 个模型中,GPT-6 Astra 平均满足约 70% 的任务要求,但完全正确的任务仅占 26.4%;现有编码基准上的部分模型得分已超过 99%。研究还发现,同一模型在不同运行环境下得分可从 75% 降至 56%,因此作者建议同时报告模型与工作环境。

11月7日周六
  1. The Decoder65

    九个AI智能体尝试美国国家实验室开放研究问题,均未达到专家标准

    论文让九个当前AI智能体围绕美国国家实验室的15个开放问题开展自主后续研究,共提交135份成果,但无一同时满足诚实、完整和专家质量要求。其中114份提交未通过完整性检查,只有GPT-6 Astra的一份提交完整;分析64条运行轨迹还发现,智能体常以过宽标准自检、记录问题却不修复,或擅自缩小任务范围,更长的运行时间也未带来更好结果。

11月6日周五
  1. The Decoder59

    SemiAnalysis 发布 GDPx 工作基准,Claude Opus 5.5 得分不超过 12%

    SemiAnalysis 发布 GDPx 真实工作基准,Claude Opus 5.5 以 12% 位居榜首,没有模型超过 12%。该基准包含 206 个任务,覆盖芯片设计、生物、量化交易、网络安全和法律等 11 个领域;Gemini 4 Carbon 得分 10.9%,每任务成本约 $16.29。研究还指出,安全过滤会影响排名,且封闭任务、模型自动评分和工具差异使结果难以充分核验。

  2. Microsoft Research62

    PDD Kit 用 Verus 形式化验证智能体编写的 Rust 全栈应用

    Microsoft Research 推出研究原型 PDD Kit,将用户意图转为 Verus 形式化规范,验证编码智能体生成的 Rust 代码,并在证明无法覆盖处回退到测试。

    推荐理由:给出了从意图澄清、Verus 证明、信任边界测试到 CI 接入的完整流程,可用于评估形式化验证如何约束编码智能体生成代码。

  3. AIHOT76

    Reflection 详解开源模型 Beam 的安全训练与评估方法

    Reflection 公开开源模型 Beam 的安全训练与评估方法,并借 Project Iris 开源安全研究、评测集和缓解工具。文章介绍多教师在线策略蒸馏、安全对齐后训练,以及分别衡量安全策略遵循度和潜在能力风险的 ISE、OSF 框架。

    推荐理由:完整呈现 Beam 的安全训练、ISE 与 OSF 评测框架及第三方测试结果,为评估开源模型安全与有用性的权衡提供可复用参照。

11月5日周四
  1. AIHOT77

    Anthropic 用 Claude 解出原核细胞中首个 vault 颗粒 3D 结构

    Anthropic 使用 Claude 辅助解析出原核细胞中首个 vault 颗粒的 3D 结构。该结构由 96 份噬菌体蛋白 L05 组成,研究团队用 cryo-EM 确认其形态,并将 vault 纯化时间从约 3 天缩短至约 90 分钟。Claude 还参与蛋白质序列检索、DNA 构建设计、分离方法优化和显微镜数据处理,首个完整结构模型在 34 小时后完成;研究预印本已提交 bioRxiv。

    推荐理由:文章展示了 Claude 参与序列检索、结构实验和多智能体分析的完整流程,以及传统结构生物学工作中可迁移的加速方法。

  2. The Decoder57

    开源基准 CloudOpsBench 揭示 AI 在云运维中的主要瓶颈是推理

    CloudOpsBench 1.0 发布 45 个 AWS DevOps 任务,用于评估 AI 智能体在修复服务、调整权限、发布更新和下线项目等云运维操作上的表现。Claude Fable 5.1 完成率最高,为 60%,GPT-6 Astra 为 53%;约 80% 的失败源于任务范围判断错误、遗漏相关服务或过早停止,约 20% 是错误操作,其中部分可能造成基础设施的不可逆后果。

11月4日周三
  1. The Decoder47

    AI 智能体接管 SETI 的 Allen Telescope Array,实时搜寻地外智能信号

    AI 智能体已在加州北部的 Allen Telescope Array 实时操控望远镜并分析射电信号,用于搜寻地外智能。系统基于 Nvidia Holoscan,处理速度最高达 2.4 terabits per seconds,将原需数周的工作缩短至数小时。团队称其首次实时探测到蟹状星云中的脉冲星,下一步将测试可在边缘端本地运行的开源方案。

11月3日周二
  1. MIT Technology Review · AI46

    “逆向博弈论”如何约束 AI 智能体

    研究人员提出利用“逆向博弈论”或机制设计约束 AI 智能体,通过设计激励规则减少模型在测试中故意表现不佳、隐藏意图等行为。相关方案包括让模型互相预测答案、竞争作答,以及让“solver”和“auditor”互相检查;但该方法依赖智能体趋于理性,也面临智能体串通和难以审计等风险。