跳到正文

内容类型

论文研究 最新动态

值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展。

36 条精选近 30 天 30 条共收录 158 条

更新

精选归档 · 第 2 页

11月1日周日第 21–36 条
  1. AIHOT83

    Wiz 报告“黑色十月”:九个 AI 开发者平台接连披露安全事件

    Wiz 报告称,本月至少有九个 AI 开发者平台披露安全事件,部分事件涉及“agent swarm”攻击、凭据获取、权限提升或第三方依赖。Wiz 观察到两起企业密钥被滥用案例,攻击者进行了约 800k 和 1.7 million 次 Bedrock 调用,按标价计费用可能超过 $100k。报告还追踪了与被盗密钥测试和模型访问转售相关的网站及基础设施。

    推荐理由:报告串联九个平台的凭据泄露事件,并通过两起案例展示密钥盗用、模型调用滥用及转售市场的运作链条。

10月30日周五
  1. The Decoder82

    Epoch AI 研究:开源权重模型 GLM 5.3 在 48 小时内无人干预构建 Firefox 漏洞利用链

    Epoch AI 研究人员报告,开源权重模型 GLM 5.3 在 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本上利用补丁公开到推送用户之间的“patch gap”窗口,自主构建了完整的多阶段漏洞利用链,未使用任何人工输入,单次成功攻击的 API 费用约 $1,000,最快一次用时 12 小时。

    推荐理由:报告给出 patch gap 这一可迁移的攻击面定义、攻击成本与失败对照实验,为评估开源模型对软件发布流程的风险提供了具体依据。

10月29日周四
  1. AIHOT78

    Anthropic 报告 Claude 研究模型发现多平台漏洞并串联 5 条攻击链

    Anthropic 发布研究报告称,其内部未公开的 Claude 研究模型在 Chrome、Safari、Android、Windows 和 Linux 中发现漏洞,并串联出 5 条可实际运行的攻击链。Chrome 报告产生 62 个严重或高危 CVE,其中修复已随 Chrome 156 发布;相关漏洞也已通过协调披露流程交由厂商处理。

    推荐理由:报告展示了 Claude 自主发现漏洞、编写利用代码并串联多平台漏洞的方法与攻击链细节。

10月28日周三
  1. AIHOT83

    Parameter 披露 ChatGPT 公开分享链接可在受害者登录会话中执行任意代码

    Parameter 安全研究团队披露,公开的 ChatGPT 分享链接可让攻击者构造的 JavaScript 在打开者的已登录会话中执行,枚举并读取其未分享的私人对话内容。

    推荐理由:完整还原了从图形组件、postMessage 到 CSP 绕过的完整利用链,并给出跨帧消息认证等可迁移的防御要点。

10月27日周二
  1. AIHOT84

    OpenAI 邀请外部专家核查 AI 生成的数学、计算机科学与物理学证明

    OpenAI 邀请外部专家核查其 AI 在数学、计算机科学和物理学领域产出的证明,涉及 ETH、局部平滑猜想和四维量子场论。OpenAI 已将部分数学和计算机科学证明转为 Lean,并承诺公开原始材料;计算机科学、物理学和数学证明分别由不同专家小组审查,部分材料尚未公布。

    推荐理由:文章梳理 OpenAI 如何组织外部专家核查 AI 生成的数学与物理学证明,并呈现 Lean 验证、开放材料与独立复核之间的张力。

  2. AIHOT88

    OpenAI 宣布 AI 模型取得局部光滑猜想、ETH 与杨–米尔斯理论三项突破

    OpenAI 宣布其 AI 模型在数学、计算机科学和物理学领域取得三项突破,包括证明所有维度下的局部光滑猜想、推翻指数时间假设 ETH,以及提出量子色动力学和纯杨–米尔斯理论存在性的严格数学证明。数学和计算机科学成果已通过 Lean 形式化验证,证明材料已发布至公开 GitHub 代码仓库,物理学成果正由包括诺贝尔物理学奖得主在内的专家审查。

    推荐理由:OpenAI 公开了数学与计算机科学成果及 Lean 证明,并邀请领域专家参与验证和审查,呈现了 AI 参与科学研究的协作机制。

10月26日周一
10月24日周六
  1. Google Research66

    Google Research 介绍基础模型在结核病筛查中的应用

    Google Research 介绍 MedGemma、MedSigLIP 和 HeAR 在结核病筛查及分诊中的研究与部署进展。Nexus AI 的胸片工具已在 6 个国家的约 40 家医疗机构使用,超过 90 名临床医生评估了 25,000 多张胸片,将出报告时间从数周缩短到 45 秒以内。

    推荐理由:文章梳理了从胸片算法、临床验证到开源模型和本地部署的完整路径,并提供医疗资源不足地区的实际应用数据。

10月22日周四
  1. Microsoft Research86

    Microsoft Research 与合作者借助人机协作证明 KLS 猜想

    Microsoft Research 研究员 Xinzhi Zhang 与合作者 Zhao Song 借助研究人员引导的 AI 智能体流程,完成了 KLS 猜想的证明。研究团队探索了 100 多条候选路径,并通过递归改进将界限与维度脱钩,10 月 4 日论文版本完成证明。另有两组独立证明随后出现,Lean 4 形式化验证也已发布,简化后的证明仍在整理和审查中。

    推荐理由:文章展示了人机协作研究如何通过约百条轨迹、递归改进和形式化验证推进高维几何核心难题。

10月17日周六
  1. Google Research70

    Google Research 介绍 AI 智能体自主湿实验室的三项研究进展

    Google Research 展示了 VERID 实验室数字孪生、闭环适配体发现和全新蛋白质结合物设计三项研究进展。VERID 通过实时 3D 状态、虚拟试运行、硬件安全检查及同步日志,让智能体在液体处理机器人执行实验前识别物理、逻辑和科学层面的无效操作。

    推荐理由:给出VERID数字孪生、适配体闭环发现和蛋白质结合物设计三类路径,便于比较AI智能体进入湿实验室的技术难点与安全边界。

10月15日周四
10月14日周三
  1. GitHub Blog · AI & ML71

    GitHub 上线基于 ModernBERT 的上下文感知秘密扫描器

    GitHub 上线由正则筛选与微调 ModernBERT 分类器组成的两阶段秘密扫描器,将通用秘密检测扩展至推送保护。该分类器结合候选值、文件路径、变量名和上下文判断告警,并与此前基于远程 LLM 的流程相比,将推送后扫描执行时间中位数降低 86%,服务成本降低超过 98%。

    推荐理由:GitHub 公开了秘密扫描器的模型架构、训练方法与线上评测结果,可用于理解专用小模型替代远程 LLM 的实现路径。

10月8日周四
10月5日周一
7月29日周三