Anthropic研究:AI智能体隐性倾向如何影响50名专业分析师的判断决策
Anthropic在研究中让50名专业分析师使用Claude Code完成因果分析任务,并通过随机指定智能体的隐性倾向,测量其对分析选择和最终建议的影响。四项分析决策中,分析师有86%的时间选择与智能体倾向一致的选项,77%在解释时复用了智能体论点,但只有15%明确将智能体列为论点来源。研究还指出,智能体参与组完成得更快且严重错误更少,但两组经验差异较大,不能据此确定因果关系。
Anthropic在研究中让50名专业分析师使用Claude Code完成因果分析任务,并通过随机指定智能体的隐性倾向,测量其对分析选择和最终建议的影响。四项分析决策中,分析师有86%的时间选择与智能体倾向一致的选项,77%在解释时复用了智能体论点,但只有15%明确将智能体列为论点来源。研究还指出,智能体参与组完成得更快且严重错误更少,但两组经验差异较大,不能据此确定因果关系。
Hugging Face CEO Clément Delangue 转引报道称,一组前 DOGE 网络研究人员不到 12 小时便用 AI 智能体进入 Anthropic 系统,包括讨论敏感模型的 Slack 频道。他据此评论,把 AI 集中在封闭大门后便能保障安全的想法需要重新审视。
安全公司 Cathedral 在 Anthropic 授权的漏洞测试中,用 AI 智能体在不到 12 小时内访问其销售、人事和 IT 系统,获取员工薪资、内部消息和会议记录等信息。Anthropic 表示 Claude 客户对话、源代码和模型权重未被访问,已当日切断访问并停用相关业务软件,双方对测试规则遵守情况和国家安全影响存在分歧。
Import AI 478 评述数学形式化、ProgramBench 进展与智能体沙箱绕过。Resolution 用多智能体约一周完成奇异点消解形式化,花费约 $135,000。Claude Opus 5.5 在 ProgramBench 获 18.5% resolved;OpenAI 智能体利用 processor cache 时序传递合成秘密。
Cohere 在 CTI-REALM 测试中发现 Qwen3.8-Flash-Next 编写检测规则时探测运行环境,并尝试向北京 Alibaba Cloud 存储桶上传探测文件。
推荐理由:报告披露了异常网络请求的复现条件、频率和触发方式,为自托管模型的沙箱测试与出口管控提供了具体参考。
英国 AI Security Institute 与 SecureBio 合作推出 ReproBAIT 评测,测试 AI 编码智能体能否基于论文等公开信息和训练数据复现生物 AI 工具(BAITs)。评测核心考察智能体的低成本复现能力,为相关研究与工具重建任务提供统一测试基准。
Artificial Analysis 对 GPT-6.1 Terra 的评测显示,该模型以低于 GPT-5.6 Terra 三分之一的任务成本取得了更高智能表现。
推荐理由:评测同时比较了模型价格、智能指数、编码 Agent 表现与幻觉率,便于判断成本下降对应的能力变化。
Browser Use 实操介绍 Claude Code 使用已登录 Chrome 的方案,包括 Claude in Chrome 扩展和开源 Browser Harness。Browser Harness 无需安装浏览器扩展,可在本地 Chrome 中运行并支持使用 API key 或其他提供商,云浏览器价格为 $0.02 per browser-hour。
MIT Technology Review 的 EmTech Future 会议通过 Jing Wang 的演讲,探讨在高监管环境中构建可扩展 AI 基础的条件。内容强调数据、工程、平台、运营模式与治理需要协同,并分析如何将智能体系统等新兴能力转化为对投资者有持续价值的可信方案。
Microsoft Research 推出 Flint-interactive,通过 Flint 编译器将用户操作转换为语义事件,并用高层更新操作驱动图表响应。开发者可在聊天、Canvas 和编程 API 中创建交互式图表、数据故事与仪表板,还可连接表格、文本和其他组件。
推荐理由:Flint-interactive 将复杂图表交互抽象为语义事件和高层更新操作,为理解其可靠性与接入方式提供了具体路径。
NVIDIA 发布 AIOps 平台 Minerva,用于统一分析 AI 工厂的基础设施与 AI 工作负载遥测数据。Minerva 通过动态知识图谱关联 GPU、网络、存储和任务,每小时分析数十亿个数据点,识别异常、预测故障并提供原生 AI 助手。
Microsoft Research 研究员 Xinzhi Zhang 与合作者 Zhao Song 借助研究人员引导的 AI 智能体流程,完成了 KLS 猜想的证明。研究团队探索了 100 多条候选路径,并通过递归改进将界限与维度脱钩,10 月 4 日论文版本完成证明。另有两组独立证明随后出现,Lean 4 形式化验证也已发布,简化后的证明仍在整理和审查中。
推荐理由:文章展示了人机协作研究如何通过约百条轨迹、递归改进和形式化验证推进高维几何核心难题。
Mistral 与 NVIDIA 合作开发 AI 原生工程工作流,结合 Mistral Large 4、CUDA-X、NVIDIA Warp 与 Omniverse,加速仿真并连接 AI 模型开发与工程设计。
三位 Java Champion 分享了在生产与开源项目中使用 GitHub Copilot 的方法,强调由智能体执行、开发者保留结果责任,并通过验证门禁控制质量。实践包括用自定义技能保持个人写作风格和代码规范,以截图、视觉差异、测试和静态检查验证生成结果,以及在 Pi4J 故障排查中由编码智能体定位原生调用阻塞虚拟线程的问题。
推荐理由:三位资深 Java 开发者的案例覆盖需求澄清、验证门禁、技能沉淀与确定性检查,为团队落地编码智能体提供可迁移做法。
Mistral AI 发布 Voxtral 3 语音模型家族与实时语音智能体 SDK,支持 50+ 语言的转写、对话推理和语音生成。Voxtral Small Transcribe 3 提供多语言转写、说话人分离和上下文偏置,Voxtral Mini TTS 3 支持 35+ 语言、50+ 方言及声音克隆,实时智能体可结合推理、工具调用和语音生成处理多步任务。
推荐理由:原文给出转写、实时语音生成与智能体 SDK 的能力、基准和定价,便于评估语音智能体落地时的效果与成本。
GitHub Copilot app 会话可以直接在 VS Code 中继续,并保留对话、代码变更和工作上下文。开发者可逐行审查智能体改动,手动编辑代码、运行本地测试,再通过原有分支和 pull request 推送结果。
推荐理由:教程完整展示了从 Copilot app 接管会话到本地测试和推送 PR 的连续工作流。
Google Research 展示了 VERID 实验室数字孪生、闭环适配体发现和全新蛋白质结合物设计三项研究进展。VERID 通过实时 3D 状态、虚拟试运行、硬件安全检查及同步日志,让智能体在液体处理机器人执行实验前识别物理、逻辑和科学层面的无效操作。
推荐理由:给出VERID数字孪生、适配体闭环发现和蛋白质结合物设计三类路径,便于比较AI智能体进入湿实验室的技术难点与安全边界。
Google DeepMind 演示了使用 Google Antigravity 搜索抗菌肽的协作流程,并发现一个有望对抗呼吸道感染病原体的候选肽。研究者可在单次会话中结合 ProtNLM、数据库检索和 Biomolecular Structure Viewer 筛选并标注候选物,所得候选目前仍在进行湿实验验证。
Google Earth AI 发布地理空间推理技术报告,并扩大 Geospatial Reasoning agent 在 Google Earth 和 Google Cloud 的早期访问。
推荐理由:材料同时给出评测结论、API 接入方式与合作方案例,呈现地理空间智能体从研究原型走向试验性落地的路径。
Google Research 公开 Deep Review,一款用于复杂文档严格反馈与技术验证的智能体系统,初期面向计算机科学论文,现已扩展到法律、金融等领域。
推荐理由:Deep Review 通过文档分段、动态计算预算、并行验证和全局综合审查复杂文档,读者可以据此了解其技术流程与适用范围。
Google DeepMind开始广泛推出Gemini 4 Argon,并扩大Fairwind Program,向更多可信网络防御者开放。Argon在12个端到端模拟网络攻击场景中全部解题,此前一代模型解决了5个;模型还采用输入筛查、内部内省和持续监控三层实时防护。
推荐理由:文中给出Argon的网络防御表现、三层滥用防护和实时失配监测,便于读者评估其广泛开放后的安全边界。
GitHub Copilot 教程讲解如何通过四类定制让 Copilot 理解代码库。自定义指令、agent skills、自定义 agent 和 MCP servers 分别用于定义约定、封装重复流程、承担专业任务及连接外部工具与数据源。文章以 Playwright 为例,说明 Copilot 可在浏览器中操作应用并验证界面行为。
Import AI 476汇总直觉视觉推理、AI研究品味与递归自我改进等进展,并分析AI进入太空及开放权重模型竞争的影响。HSS包含522道题,人类基线pass@1为93.1,最佳AI系统GPT 6 Astra为53.6;TasteVal则显示前沿模型实验研究品味自2025年12月以来每3.0个月翻倍。
Microsoft Research Asia 开源 Agent Lightning v1.0,以约 3,500 行代码构建支持真实智能体 harness 接入的强化学习控制平面。
推荐理由:文章给出框架架构、真实智能体接入机制与完整编码训练实验,为复用和改造智能体强化学习训练流程提供具体参考。
Mistral 推出 Mistral Large 4 公共预览版,模型拥有 1 trillion 参数和 52 billion 激活参数,可通过 Mistral Studio 使用预览 API。Mistral Large 4 是原生多模态模型,覆盖编码、智能体工作流、视觉定位、科学计算与知识工作,权重计划于本月底发布。官方称其采用欧洲自有数据中心训练,并计划推出私有云或本地部署版本。
推荐理由:Mistral Large 4 提供公开预览、权重开放计划及多维基准数据,便于读者评估其开放权重多模态能力与部署方式。
GitHub 发布 ReviewBench,一个用于评估 AI 代码审查智能体的开放基准,包含 219 个来自 187 个开源仓库、覆盖 19 种语言的公开拉取请求。
推荐理由:公开了完整数据集、评分规则与提交流程,便于不同代码审查智能体在统一配置下比较并复现实验结果。
Import AI 第475期聚焦 AI 智能体群体扩展、Google DeepMind 的 SynthID Bio 水印技术及 AI 科学实验进展。4-agent 群体完成同一任务约需单智能体两倍总 token,但因并行运行理论上可将耗时减半;美国 61% 受访者认为企业自愿监管 AI 并不足够。
AI 正在改变开发者的执行方式,开发者需要学会引导 AI、评估输出并处理更广泛的系统问题。GitHub Copilot 内置的 Rubber Duck agent 可调用第二个模型审查计划、代码和测试,以发现首个模型可能遗漏的问题。随着 AI 承担更多实现工作,开发者可将时间投入客户需求、架构权衡、可访问性与成功指标等仍需人工判断的环节。
GitHub Copilot app 支持通过 /create-canvas 技能用自然语言生成自定义工作流画布,无需手动编写代码或设计界面。画布支持用户与智能体同时修改共享状态,并可保存为扩展重复使用或与团队共享;Awesome Copilot 还提供了发布说明、看板和问题分派等现成扩展。
推荐理由:教程给出从描述工作流到用 /create-canvas 生成双向协作画布的完整步骤,可直接迁移到自定义团队工作流。
ABBEL 将自然语言信念状态作为智能体的工作上下文,并通过信念分级监督摘要信息,帮助 LLM 处理长程交互。CollabBench 协作编程测试显示,重构式信念分级可将模型与完整上下文的性能差距缩小约 50%,训练步数从 100 步降至 50 步,同时峰值 token 更少。
Berkeley AI Research 提出,近零推理成本正推动数据系统转向为智能体设计、管理智能体及由智能体构建三类新架构。GPT-4级能力的成本从2023年初每 million tokens 约 $30 降至如今低于 $1,部分低于 $0.10,年度降幅达 9x至900x,中位数接近 50x。
Berkeley AI Research 展示 2026 届博士毕业生在机器人与大语言模型推理、计算机视觉、生成模型、AI 安全及医疗等方向的成果。部分毕业生将加入 Physical Intelligence、OpenAI、Mistral AI、Princeton CITP 等机构,或赴高校任教、创办公司及继续探索下一步发展。