跳到正文
AI 资讯
10月29日周四
  1. MIT Technology Review · AI58

    专家呼吁实时监控 AI 智能体的行动

    专家呼吁企业、监管机构和标准组织共同补齐 AI 智能体的实时可观测性缺口,以掌握其行动、决策过程与人工干预情况。对四种主流智能体框架的研究发现,持续身份标识、人类审批记录等关键记录缺失,妨碍识别越权行为和监督失效;OpenTelemetry 正在起草智能体追踪格式,但相关标准尚未定稿。

  2. AIHOT78

    Anthropic 报告 Claude 研究模型发现多平台漏洞并串联 5 条攻击链

    Anthropic 发布研究报告称,其内部未公开的 Claude 研究模型在 Chrome、Safari、Android、Windows 和 Linux 中发现漏洞,并串联出 5 条可实际运行的攻击链。Chrome 报告产生 62 个严重或高危 CVE,其中修复已随 Chrome 156 发布;相关漏洞也已通过协调披露流程交由厂商处理。

    推荐理由:报告展示了 Claude 自主发现漏洞、编写利用代码并串联多平台漏洞的方法与攻击链细节。

  3. Simon Willison70

    GitHub 发布 Octoverse 2026 报告

    GitHub Octoverse 2026 报告展示了 2026 年 GitHub 平台的开发活动增长。合并 pull requests 在不到一年内增至每月 220 million,commits 增至每月 7.38 billion,新建仓库率达到每月 30.3 million。报告还按行业统计数据,并介绍了利用微调多语言嵌入模型归类仓库行业、识别互操作性与逆向工程项目的方法。

10月28日周三
  1. Google Research42

    Google Research 提出 sleep framework:以睡眠周期实现 LLM 持续学习与知识巩固

    Google Research 提出 sleep framework,让 LLM 在活跃交互与离线“睡眠”间交替,持续学习并将短期上下文巩固为长期参数。框架通过 MoE 参数扩展、GKD 知识播种与突触修剪减少灾难性遗忘,再以合成样本、筛选和 RL 微调提升复杂推理能力。实验显示,该方法可保留最长 10M tokens 的长上下文知识。

  2. AIHOT83

    Parameter 披露 ChatGPT 公开分享链接可在受害者登录会话中执行任意代码

    Parameter 安全研究团队披露,公开的 ChatGPT 分享链接可让攻击者构造的 JavaScript 在打开者的已登录会话中执行,枚举并读取其未分享的私人对话内容。

    推荐理由:完整还原了从图形组件、postMessage 到 CSP 绕过的完整利用链,并给出跨帧消息认证等可迁移的防御要点。

10月27日周二
  1. AIHOT84

    OpenAI 邀请外部专家核查 AI 生成的数学、计算机科学与物理学证明

    OpenAI 邀请外部专家核查其 AI 在数学、计算机科学和物理学领域产出的证明,涉及 ETH、局部平滑猜想和四维量子场论。OpenAI 已将部分数学和计算机科学证明转为 Lean,并承诺公开原始材料;计算机科学、物理学和数学证明分别由不同专家小组审查,部分材料尚未公布。

    推荐理由:文章梳理 OpenAI 如何组织外部专家核查 AI 生成的数学与物理学证明,并呈现 Lean 验证、开放材料与独立复核之间的张力。

  2. AIHOT51

    Cartesia 发布 H-Net 扩缩律研究:字节级层级网络较 BPE 最高提升 3-5x 计算效率

    Cartesia 发布 H-Net 扩缩律研究,字节级层级网络通过端到端学习分块替代静态 BPE,在受控 1-stage 对比中最高提升 3-5x 计算效率。更灵活的 2-stage H-Net 在与 SmolLM3 计算匹配时,用约 0.99T tokens 达到后者 11.04T tokens 后的平均分,研究还展示了 DNA 建模及多维图像生成中的初步结果。

  3. AIHOT88

    OpenAI 宣布 AI 模型取得局部光滑猜想、ETH 与杨–米尔斯理论三项突破

    OpenAI 宣布其 AI 模型在数学、计算机科学和物理学领域取得三项突破,包括证明所有维度下的局部光滑猜想、推翻指数时间假设 ETH,以及提出量子色动力学和纯杨–米尔斯理论存在性的严格数学证明。数学和计算机科学成果已通过 Lean 形式化验证,证明材料已发布至公开 GitHub 代码仓库,物理学成果正由包括诺贝尔物理学奖得主在内的专家审查。

    推荐理由:OpenAI 公开了数学与计算机科学成果及 Lean 证明,并邀请领域专家参与验证和审查,呈现了 AI 参与科学研究的协作机制。

  4. AIHOT64

    Anthropic研究:AI智能体隐性倾向如何影响50名专业分析师的判断决策

    Anthropic在研究中让50名专业分析师使用Claude Code完成因果分析任务,并通过随机指定智能体的隐性倾向,测量其对分析选择和最终建议的影响。四项分析决策中,分析师有86%的时间选择与智能体倾向一致的选项,77%在解释时复用了智能体论点,但只有15%明确将智能体列为论点来源。研究还指出,智能体参与组完成得更快且严重错误更少,但两组经验差异较大,不能据此确定因果关系。

10月26日周一
10月24日周六
  1. Google Research66

    Google Research 介绍基础模型在结核病筛查中的应用

    Google Research 介绍 MedGemma、MedSigLIP 和 HeAR 在结核病筛查及分诊中的研究与部署进展。Nexus AI 的胸片工具已在 6 个国家的约 40 家医疗机构使用,超过 90 名临床医生评估了 25,000 多张胸片,将出报告时间从数周缩短到 45 秒以内。

    推荐理由:文章梳理了从胸片算法、临床验证到开源模型和本地部署的完整路径,并提供医疗资源不足地区的实际应用数据。

10月22日周四
  1. Microsoft Research86

    Microsoft Research 与合作者借助人机协作证明 KLS 猜想

    Microsoft Research 研究员 Xinzhi Zhang 与合作者 Zhao Song 借助研究人员引导的 AI 智能体流程,完成了 KLS 猜想的证明。研究团队探索了 100 多条候选路径,并通过递归改进将界限与维度脱钩,10 月 4 日论文版本完成证明。另有两组独立证明随后出现,Lean 4 形式化验证也已发布,简化后的证明仍在整理和审查中。

    推荐理由:文章展示了人机协作研究如何通过约百条轨迹、递归改进和形式化验证推进高维几何核心难题。

10月17日周六
  1. Google Research70

    Google Research 介绍 AI 智能体自主湿实验室的三项研究进展

    Google Research 展示了 VERID 实验室数字孪生、闭环适配体发现和全新蛋白质结合物设计三项研究进展。VERID 通过实时 3D 状态、虚拟试运行、硬件安全检查及同步日志,让智能体在液体处理机器人执行实验前识别物理、逻辑和科学层面的无效操作。

    推荐理由:给出VERID数字孪生、适配体闭环发现和蛋白质结合物设计三类路径,便于比较AI智能体进入湿实验室的技术难点与安全边界。

10月15日周四
10月14日周三
  1. GitHub Blog · AI & ML71

    GitHub 上线基于 ModernBERT 的上下文感知秘密扫描器

    GitHub 上线由正则筛选与微调 ModernBERT 分类器组成的两阶段秘密扫描器,将通用秘密检测扩展至推送保护。该分类器结合候选值、文件路径、变量名和上下文判断告警,并与此前基于远程 LLM 的流程相比,将推送后扫描执行时间中位数降低 86%,服务成本降低超过 98%。

    推荐理由:GitHub 公开了秘密扫描器的模型架构、训练方法与线上评测结果,可用于理解专用小模型替代远程 LLM 的实现路径。

10月13日周二
  1. Microsoft Research48

    StudentSim:模拟学生学习以改进 AI 辅导系统

    Microsoft Research 提出研究系统 StudentSim,利用公开且去标识化的学习者记录训练个性化学生模拟器,在接触真实学习者前评估并改进 AI 辅导系统。同步推出覆盖国际象棋、第二语言英语写作和数学的 StudentSimEval,以行为忠实度和指导响应性评估模拟器。模拟器表现优于领先基线,但目前并非产品,也未部署于课堂或用于替代教师。

10月8日周四
10月5日周一
9月28日周一
9月21日周一
  1. Import AI47

    Import AI 473:美国超级智能战略、鼠脑中的类人脑组织与机器释义学

    RAND 发布美国面向超级智能不确定路径的战略报告,主张以“行动自由”策略保留选项,构建人机生态、AI 安全架构并提升社会应对能力。报告比较七类战略与五项不确定性;研究人员还在实验小鼠脑内培育类人脑组织,探索其作为潜在实验体的用途。本期还涉及机器释义学。

7月29日周三
7月26日周日
  1. Berkeley AI Research48

    ABBEL:教 LLM 更新信念以实现高效长程交互

    ABBEL 将自然语言信念状态作为智能体的工作上下文,并通过信念分级监督摘要信息,帮助 LLM 处理长程交互。CollabBench 协作编程测试显示,重构式信念分级可将模型与完整上下文的性能差距缩小约 50%,训练步数从 100 步降至 50 步,同时峰值 token 更少。

7月1日周三
5月8日周五
  1. Berkeley AI Research50

    Berkeley AI Research 分析自适应并行推理:让大语言模型自主控制推理扩展

    Berkeley AI Research 对自适应并行推理的研究进展与未来方向展开分析,探讨由模型自主决定何时分解任务、生成多少并行线程及如何协调。该方法旨在克服固定并行结构带来的冗余计算,并缓解顺序推理导致的上下文退化、延迟上升与算力消耗问题。

4月20日周一
  1. Berkeley AI Research47

    GRASP:面向长时程世界模型的梯度式规划

    Berkeley AI Research 提出 GRASP,一种面向学习动力学世界模型的梯度式规划器,使长时程规划更可行。它将轨迹提升到虚拟状态以跨时间并行优化,在状态迭代中加入随机性促进探索,并重塑梯度,让动作获得清晰信号,同时避开高维视觉模型中脆弱的“状态输入”梯度。

3月13日周五
  1. Berkeley AI Research55

    Berkeley AI Research 提出 SPEX 与 ProxySPEX 扩展大规模关键交互识别

    Berkeley AI Research 提出 SPEX 与 ProxySPEX,用于在大量特征、训练样本和模型组件中识别影响输出的关键交互。方法利用稀疏性、低度性和层级结构减少所需消融次数,其中 ProxySPEX 以约少 10x 的消融次数达到 SPEX 的表现。实验覆盖特征归因、数据归因和注意力头归因,相关代码已集成至 SHAP-IQ 仓库。

1月10日周六
  1. Berkeley AI Research50

    Berkeley AI Research 基于信息量优化成像系统设计

    Berkeley AI Research 提出基于信息量的成像系统评估与优化框架,可直接利用含噪测量和噪声模型估算互信息。框架在色彩摄影、射电天文、无镜头成像和显微镜四个领域验证了性能预测能力,优化后的设计可媲美端到端方法,并减少内存与计算量,无需任务专用解码器设计。