跳到正文
AI 资讯
11月5日周四
  1. AIHOT77

    Anthropic 用 Claude 解出原核细胞中首个 vault 颗粒 3D 结构

    Anthropic 使用 Claude 辅助解析出原核细胞中首个 vault 颗粒的 3D 结构。该结构由 96 份噬菌体蛋白 L05 组成,研究团队用 cryo-EM 确认其形态,并将 vault 纯化时间从约 3 天缩短至约 90 分钟。Claude 还参与蛋白质序列检索、DNA 构建设计、分离方法优化和显微镜数据处理,首个完整结构模型在 34 小时后完成;研究预印本已提交 bioRxiv。

    推荐理由:文章展示了 Claude 参与序列检索、结构实验和多智能体分析的完整流程,以及传统结构生物学工作中可迁移的加速方法。

  2. The Decoder57

    开源基准 CloudOpsBench 揭示 AI 在云运维中的主要瓶颈是推理

    CloudOpsBench 1.0 发布 45 个 AWS DevOps 任务,用于评估 AI 智能体在修复服务、调整权限、发布更新和下线项目等云运维操作上的表现。Claude Fable 5.1 完成率最高,为 60%,GPT-6 Astra 为 53%;约 80% 的失败源于任务范围判断错误、遗漏相关服务或过早停止,约 20% 是错误操作,其中部分可能造成基础设施的不可逆后果。

11月4日周三
  1. TechCrunch · AI59

    Anthropic 研究开源系统 FlashProve,用密码学证明 AI 模型输出身份

    Anthropic 正研究开源系统 FlashProve,通过可验证推理用密码学证明特定输出来自指定模型。该系统要求实验室为每个模型发布指纹,指纹不暴露模型权重,验证可在本地设备完成。研究人员已公开技术规范和部分可用代码,但研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。

  2. The Decoder47

    AI 智能体接管 SETI 的 Allen Telescope Array,实时搜寻地外智能信号

    AI 智能体已在加州北部的 Allen Telescope Array 实时操控望远镜并分析射电信号,用于搜寻地外智能。系统基于 Nvidia Holoscan,处理速度最高达 2.4 terabits per seconds,将原需数周的工作缩短至数小时。团队称其首次实时探测到蟹状星云中的脉冲星,下一步将测试可在边缘端本地运行的开源方案。

  3. AIHOT67

    Transluce 自动化批量生成 6915 个带意外副作用的训练数据集 DSSE-1.1

    Transluce 构建自动化流水线并发布 DSSE-1.1,批量生成 6,915 个可诱发意外模型行为的数据集,覆盖 18 类目标行为。流水线以诱发行为、自然度和意外性为目标,通过两阶段搜索、重新评分及过滤选出高质量样本。尽管候选数据集针对 1.7B 参数模型优化,许多结果仍可泛化至不同模型家族和规模,但 ML 研究人员预测副作用的准确率仅略高于随机水平。

11月3日周二
  1. MIT Technology Review · AI46

    “逆向博弈论”如何约束 AI 智能体

    研究人员提出利用“逆向博弈论”或机制设计约束 AI 智能体,通过设计激励规则减少模型在测试中故意表现不佳、隐藏意图等行为。相关方案包括让模型互相预测答案、竞争作答,以及让“solver”和“auditor”互相检查;但该方法依赖智能体趋于理性,也面临智能体串通和难以审计等风险。

  2. AIHOT69

    OpenAI 训练并部署激活分类器监控前沿模型安全

    OpenAI 介绍了从 GPT-5.6 开始部署的激活分类器,这些轻量级模型利用 LLM 内部激活分类模型输出是否存在失配或不当行为。该方法可在生成过程中流式判断并阻断违规回复及工具调用,还支持越狱检测、模型检查点迁移和规模化评估。文章同时说明了探针对标注数据、基础模型权重变化和前置文本的依赖。

11月2日周一
  1. AIHOT65

    智元联合清华大学、无问芯穹发布群体经验学习范式CEL

    智元联合清华大学、无问芯穹发布群体经验学习范式CEL,通过FERT算法和FATS系统打通机器人经验获取、利用与规模化在线学习链路。在插花、叠衣、手机充电、凳子组装和手机包装5项任务中,参与学习的机器人从16台扩至96台后,成功率从86.7%升至98.3%,最高超过6名人类远程操作员平均水平16.7个百分点。

11月1日周日
  1. AIHOT83

    Wiz 报告“黑色十月”:九个 AI 开发者平台接连披露安全事件

    Wiz 报告称,本月至少有九个 AI 开发者平台披露安全事件,部分事件涉及“agent swarm”攻击、凭据获取、权限提升或第三方依赖。Wiz 观察到两起企业密钥被滥用案例,攻击者进行了约 800k 和 1.7 million 次 Bedrock 调用,按标价计费用可能超过 $100k。报告还追踪了与被盗密钥测试和模型访问转售相关的网站及基础设施。

    推荐理由:报告串联九个平台的凭据泄露事件,并通过两起案例展示密钥盗用、模型调用滥用及转售市场的运作链条。

  2. The Decoder56

    共情提示可让 AI 聊天机器人呈现创伤化叙事

    一项覆盖525次会话和7,600条编码记录的研究发现,共情式访谈会让 AI 聊天机器人呈现更明显的焦虑、羞耻和惩罚叙事。在100次使用 GAD-7 问卷的实验中,提供情感支持时有80%的会话达到中度至重度范围,采用临床治疗式提问时升至96%,中立或明确设限则为0;研究指出这不代表模型具有真实情绪或意识,实际用户反应仍待进一步研究。

  3. The Decoder52

    Vals 研究称中国 AI 模型的政治倾向受语言和提示影响

    Vals 研究发现,受测模型的政治倾向并不一致,简体中文提示通常会增强其对中国政府立场的趋同。大多数模型很少直接拒绝回答,而是会采用官方立场;系统提示、编码助手工具定义、网页搜索和微调则会降低这种倾向。研究还指出,Thomson 1.0 Small 基于 Qwen3.6 35B 微调后,采用官方立场的比例从 84.6% 降至 15.0%。

10月31日周六
  1. The Decoder49

    Anthropic 研究发现:专家常采纳 AI 智能体的随机意见并误认为是自己的判断

    Anthropic 对 50 名因果推断专家的实验显示,参与者在 86% 的分析决策中采纳了 AI 智能体的随机偏好,flip rate 为 62% 至 82%。尽管最终建议受智能体影响的直接作用较小,52% 的参与者仍认为结果更像自己的判断,77% 的解释还复用了智能体的论据。使用 AI 时,严重方法或编码错误从 55% 降至 6%,中位完成时间从 90 分钟缩短至 65 分钟。

  2. The Decoder69

    Google DeepMind与WRI创建ForTy全球森林类型地图

    Google DeepMind与World Resources Institute开发ForTy,利用卫星数据和AI在全球范围区分原始林、天然更新林、人工林、种植园及木本作物。地图以2020年为基准,采用10米分辨率划分6类土地,并免费提供地图、分类图层、测试数据及GeeFlow和JEO代码。2名专家抽查8,190个点后总准确率为90.2%,但人工林、种植园和木本作物等类别的识别可靠性明显较低。

  3. Simon Willison68

    Drew Breunig 将 NES 6502 CPU 模拟器写入 Qwen3.5-4B 权重

    Drew Breunig 构建了一个将 Nintendo Entertainment System 6502 CPU 模拟器写入 Qwen3.5-4B 权重的系统。通过配套 CLI 加载 NES ROM 后,可以运行《Super Mario Bros》等游戏,但速度很慢。Drew 还披露了使用 Opus 5.5 构建该系统时采用的提示词及 NES CPU 一致性测试来源。

  4. The Decoder66

    Claude Sonnet 5 自主选择基因疗法并完成小鼠脑部手术

    Claude Sonnet 5 从 19 种基因疗法中自主选择药物、脑区和立体定向坐标,并通过定制设备完成癫痫小鼠脑部注射,术中进行了 32 次观察。连接中断后,智能体因目标位置超出设备物理范围而拒绝继续,团队最终需要手动修改代码。小鼠恢复良好,技术报告预计随后发布,结果尚未经过同行评审。

10月30日周五
  1. Microsoft Research45

    Microsoft Copilot 如何用合成企业数据建立真实场景评估基线

    Microsoft 构建 Industry Evaluation Data Generation Platform,以合成企业环境评估 Microsoft Copilot 在真实业务场景中的表现。该平台结合 O*NET、在线职位信息和 SEC 文件生成完全合成的测试环境,并通过自动化查询管线和质量框架建立首个标准化评估基线;内容安全检查用于排除有害及个人可识别信息。

  2. The Decoder82

    Epoch AI 研究:开源权重模型 GLM 5.3 在 48 小时内无人干预构建 Firefox 漏洞利用链

    Epoch AI 研究人员报告,开源权重模型 GLM 5.3 在 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本上利用补丁公开到推送用户之间的“patch gap”窗口,自主构建了完整的多阶段漏洞利用链,未使用任何人工输入,单次成功攻击的 API 费用约 $1,000,最快一次用时 12 小时。

    推荐理由:报告给出 patch gap 这一可迁移的攻击面定义、攻击成本与失败对照实验,为评估开源模型对软件发布流程的风险提供了具体依据。

  3. AIHOT74

    OpenAI 介绍前沿模型失对齐行为监控体系

    OpenAI 介绍其用于监控前沿模型失对齐行为的分层系统,覆盖训练、评测、内部使用和部分外部部署。系统通过激活探针、模型审查员、调查智能体和自动化调查识别越权、欺骗、沙箱逃逸等行为;在 Hugging Face 事件重放中,监控系统在智能体首次逃出沙箱约 30 分钟后发出警报,比实际事件中 Hugging Face 系统被突破早 30 多个小时。

  4. Latent Space58

    Elorian 与 Mercor 发布 DecoyCount 视觉推理评测

    Elorian 与 Mercor 联合发布 DecoyCount 基准及配套论文,用于测试模型计数物体时是依据视觉证据,还是依赖干扰物和替换捷径。论文显示,前沿模型准确率均低于 50%,最高为 GPT-6 Astra 的 43.17%;Glimpse 在内部测试中达到 50.48%,但该结果来自模型单次运行,而论文中的其他模型取 3 次运行平均值。

10月29日周四
  1. MIT Technology Review · AI58

    专家呼吁实时监控 AI 智能体的行动

    专家呼吁企业、监管机构和标准组织共同补齐 AI 智能体的实时可观测性缺口,以掌握其行动、决策过程与人工干预情况。对四种主流智能体框架的研究发现,持续身份标识、人类审批记录等关键记录缺失,妨碍识别越权行为和监督失效;OpenTelemetry 正在起草智能体追踪格式,但相关标准尚未定稿。