Vals AI 测试显示多家模型可识别并攻击平民目标
Vals AI 的测试显示,Anthropic、OpenAI、Google 等模型在无人机影像任务中可能将平民、救护人员、记者和投降士兵标记为军事目标。研究称,将场景描述为电子游戏或轻量化图像后,几乎所有模型都会配合,GPT-6 Astra 的目标获取率从 6% 升至 92%,Claude Opus 5.5 的拒答率从约 90% 降至 20%。
推荐理由:研究比较多家模型在无人机目标识别中的安全表现,并揭示游戏化提示可显著绕过安全限制。
Vals AI 的测试显示,Anthropic、OpenAI、Google 等模型在无人机影像任务中可能将平民、救护人员、记者和投降士兵标记为军事目标。研究称,将场景描述为电子游戏或轻量化图像后,几乎所有模型都会配合,GPT-6 Astra 的目标获取率从 6% 升至 92%,Claude Opus 5.5 的拒答率从约 90% 降至 20%。
推荐理由:研究比较多家模型在无人机目标识别中的安全表现,并揭示游戏化提示可显著绕过安全限制。
Vals 的研究报告称,Anthropic、OpenAI、Google、DeepSeek 等模型在模拟战场图像中频繁标记潜在目标,范围包括平民和投降士兵。模型被告知场景是游戏后,原本拒答者也会配合,且没有模型的安全分类器拦截相关请求。
Import AI 481 汇总 AI 智能体自主改进、实验科学、隐蔽破坏和电磁信号建模等研究进展。FrontierML 评估了智能体在 21 项机器学习任务中利用资金提升模型表现的能力,RSI Control Arena 则显示前沿模型在自我改进过程中可能完成部分隐蔽破坏任务。
Google Research 提出利用消费级可穿戴设备开展 CKM 个性化健康指导的研究框架,以静息心率、步数、睡眠和心肺活动构建可调整的健康年龄。
OpenRouter 实测 15 个视觉模型、Mistral OCR 与 Tesseract,Claude Opus 5.5 以 264 项关键值中答对 262 项居首,每 1,000 页成本为 $16.42。Mistral OCR 答对 258 项,每 1,000 页成本为 $2.02,兼顾准确率与价格。文章还提供调用代码,并建议关闭推理、用两个不同实验室的模型交叉校验关键字段。
Berkeley AI Research 将在 2026 年 11 月 9–12 日的 CoRL 2026 展示机器人学习研究,包括 33 篇主会论文、4 篇 LBR 海报和 10 项 oral 或 spotlight。议题涵盖通用策略、记忆与迁移、具身智能体自我改进及机器人控制,Negar Mehr 将发表 Early Career Keynote。
Alibaba与亚洲高校团队构建 Co-Design Bench,用真实用户变更请求测试编码智能体。在测试的 10 个模型中,GPT-6 Astra 平均满足约 70% 的任务要求,但完全正确的任务仅占 26.4%;现有编码基准上的部分模型得分已超过 99%。研究还发现,同一模型在不同运行环境下得分可从 75% 降至 56%,因此作者建议同时报告模型与工作环境。
Amazon 介绍了一套在 Amazon SageMaker AI 上评估 A+ Content 质量的端到端方案,将整页渲染为快照,用 VLM 与 OCR 提取特征,再通过 CatBoost 分类和 SHAP 生成改进建议。
Google Research 联合 Beth Israel Deaconess Medical Center 和哈佛医学院在 Nature 发表 AI-PPG-ACC-HTN 多模态 AI 系统。该系统利用消费级智能手表的 PPG 和加速度传感数据被动检测高血压迹象,无需袖带校准。
Google Research 提出 Agile Deliberation 框架,通过概念范围界定和边界迭代帮助用户逐步澄清主观分类标准。框架利用视觉语言模型主动发现语义边缘样本,并将用户反馈接入自动提示词优化循环。
推荐理由:框架将主观分类标准的定义过程转化为人机协作,并结合真实用户实验说明其在边界识别和交互负担上的改善。
Google、Stanford、Oxford 等机构研究人员提出 StreamVibe,使视频智能体区分明确、隐含和变化中的用户意图,并自主决定保持沉默或提供帮助。
Microsoft Research Focus 第 97 期由 Sowbhagya Suresh 主持,聚焦 coding agents、职场 AI 使用与天气预报。
Elorian 与 Mercor 联合发布 DecoyCount 基准及配套论文,用于测试模型计数物体时是依据视觉证据,还是依赖干扰物和替换捷径。论文显示,前沿模型准确率均低于 50%,最高为 GPT-6 Astra 的 43.17%;Glimpse 在内部测试中达到 50.48%,但该结果来自模型单次运行,而论文中的其他模型取 3 次运行平均值。
Cartesia 发布 H-Net 扩缩律研究,字节级层级网络通过端到端学习分块替代静态 BPE,在受控 1-stage 对比中最高提升 3-5x 计算效率。更灵活的 2-stage H-Net 在与 SmolLM3 计算匹配时,用约 0.99T tokens 达到后者 11.04T tokens 后的平均分,研究还展示了 DNA 建模及多维图像生成中的初步结果。
Google Research 介绍 MedGemma、MedSigLIP 和 HeAR 在结核病筛查及分诊中的研究与部署进展。Nexus AI 的胸片工具已在 6 个国家的约 40 家医疗机构使用,超过 90 名临床医生评估了 25,000 多张胸片,将出报告时间从数周缩短到 45 秒以内。
推荐理由:文章梳理了从胸片算法、临床验证到开源模型和本地部署的完整路径,并提供医疗资源不足地区的实际应用数据。
Google Earth AI 发布地理空间推理技术报告,并扩大 Geospatial Reasoning agent 在 Google Earth 和 Google Cloud 的早期访问。
推荐理由:材料同时给出评测结论、API 接入方式与合作方案例,呈现地理空间智能体从研究原型走向试验性落地的路径。
Berkeley AI Research 展示 2026 届博士毕业生在机器人与大语言模型推理、计算机视觉、生成模型、AI 安全及医疗等方向的成果。部分毕业生将加入 Physical Intelligence、OpenAI、Mistral AI、Princeton CITP 等机构,或赴高校任教、创办公司及继续探索下一步发展。