跳到正文
AI 资讯
10月29日周四
10月28日周三
  1. AIHOT73

    Cathedral 使用 AI 智能体侵入 Anthropic 内部系统,双方对事件范围说法不一

    Cathedral 使用运行先进模型的 AI 智能体,通过第三方业务软件进入 Anthropic 的内部系统。公司称智能体在不到 12 小时内发现通往会议记录、薪资数据、职位信息和 Slack 消息的路径。Anthropic 确认部分销售、人力资源和 IT 系统被访问,但称 Claude 对话、源代码和模型权重未暴露;双方对入侵持续时间、范围及披露方式存在分歧。

  2. Latent Space65

    Anthropic取消传统编码面试并提出初级工程师求职建议

    Anthropic招聘经理Felix Reiseberg宣布停止使用传统编码面试,认为Claude的编码能力已优于相关测试,工程师的贡献不应由此类题目衡量。他建议初级工程师优先关注业务影响,选择有突破性的想法,利用周末做出原型,并集中打磨一个方案,同时发挥面向用户工作的新视角。

  3. Latent Space73

    Anthropic 如何分离 Claude 的“大脑”与“双手”交付模型

    Anthropic 工程与产品负责人介绍 Claude 的模型交付流程,以及 Managed Agents 如何分离智能体会话、harness 与代码执行沙箱。凭据通过代理单独附加并控制沙箱网络,可在保持执行隔离的同时改善延迟和可靠性。团队还讨论了 Opus 5.5 的成本与推理保护、模型发布评测,以及将更多资源投入智能体安全。

  4. AIHOT74

    Anthropic 拟以特殊治理结构抵御 IPO 后股东的安全施压

    Anthropic 拟在 IPO 中采用特殊治理结构,通过长期利益信托和创始人持股限制普通股东对董事及表决的影响。按照方案,7 名董事中有 4 名由长期利益信托任命,Founder LLC 则掌握 50.1% 的股东事项表决权。多位专家认为,该结构能在法律上减少股东施压,但资本需求、竞争压力和创始人离任仍可能削弱公司的安全承诺。

  5. AIHOT83

    Parameter 披露 ChatGPT 公开分享链接可在受害者登录会话中执行任意代码

    Parameter 安全研究团队披露,公开的 ChatGPT 分享链接可让攻击者构造的 JavaScript 在打开者的已登录会话中执行,枚举并读取其未分享的私人对话内容。

    推荐理由:完整还原了从图形组件、postMessage 到 CSP 绕过的完整利用链,并给出跨帧消息认证等可迁移的防御要点。

10月27日周二
  1. AIHOT92

    Anthropic 提交 S-1:拟以代码 ANT 上市纳斯达克,H1 2026 营收 16.3B 美元

    Anthropic 公开提交 S-1,计划以代码 ANT 在纳斯达克上市,H1 2026 营收达 16.3B 美元。文件显示营收从 2023 年的 41M 增至 H1 2026 的 16.3B,Q2 单季 11.6B、同比增长 1368%,Q2 经营利润 974M,H1 经营现金流 +3.9B,累计募资 141.1B,持现金与短期投资合计约 131.7B。

    推荐理由:梳理了营收、利润、募资与算力承诺等关键数字,并指出渠道分成与烧钱口径之间相互矛盾之处。

  2. MIT Technology Review · AI85

    Anthropic 到底是谁:IPO 招股书中的多重叙事与安全定位

    作者分析 Anthropic 提交 335 页 IPO 招股书后呈现的多重叙事与安全定位。文件既将技术描述为可能改变世界的力量,也警告其可能侵蚀信任、扰乱地缘政治并带来灾难性风险。公司关于模型意识、负责任研发和监管立场的表态,与追求商业利益及前沿能力的目标之间存在张力。

    推荐理由:梳理招股书、公司高管言论与安全倡议,帮助读者审视 Anthropic 多重身份之间的一致性与可信度。

  3. AIHOT64

    Anthropic研究:AI智能体隐性倾向如何影响50名专业分析师的判断决策

    Anthropic在研究中让50名专业分析师使用Claude Code完成因果分析任务,并通过随机指定智能体的隐性倾向,测量其对分析选择和最终建议的影响。四项分析决策中,分析师有86%的时间选择与智能体倾向一致的选项,77%在解释时复用了智能体论点,但只有15%明确将智能体列为论点来源。研究还指出,智能体参与组完成得更快且严重错误更少,但两组经验差异较大,不能据此确定因果关系。

10月26日周一
  1. AIHOT73

    安全公司 Cathedral 用 AI 智能体在 12 小时内获取 Anthropic 内部员工信息

    安全公司 Cathedral 在 Anthropic 授权的漏洞测试中,用 AI 智能体在不到 12 小时内访问其销售、人事和 IT 系统,获取员工薪资、内部消息和会议记录等信息。Anthropic 表示 Claude 客户对话、源代码和模型权重未被访问,已当日切断访问并停用相关业务软件,双方对测试规则遵守情况和国家安全影响存在分歧。

  2. AIHOT82

    SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题

    SGLang 与 Cloudflare 联合披露 PD 分离服务中的跨请求 KVCache 暴露问题,并提交了修复,避免已中止请求的异步写入落入其他请求的缓存。

    推荐理由:文章拆解跨请求 KVCache 污染的竞态机制,并给出延迟释放、准入修复、完整性校验与升级路径,便于 PD 部署者评估风险并处置。

10月21日周三
10月19日周一
  1. Import AI67

    Jack Clark在IMF会议演讲称AI奇点已经开启

    Jack Clark在曼谷举行的IMF会议上发表演讲,主张AI已进入奇点早期,并将推动科学与整体创新加速。他以Claude Opus 5.5在Humanity’s Last Exam取得67.7%、GPT-6-Astra在TheoPhysEval取得98%等结果为依据,提出扩充算力、电力、实验设施和机器人能力,同时对生物研究及AI研究加强人类监督、透明度与规则约束。

10月17日周六
  1. Google Research70

    Google Research 介绍 AI 智能体自主湿实验室的三项研究进展

    Google Research 展示了 VERID 实验室数字孪生、闭环适配体发现和全新蛋白质结合物设计三项研究进展。VERID 通过实时 3D 状态、虚拟试运行、硬件安全检查及同步日志,让智能体在液体处理机器人执行实验前识别物理、逻辑和科学层面的无效操作。

    推荐理由:给出VERID数字孪生、适配体闭环发现和蛋白质结合物设计三类路径,便于比较AI智能体进入湿实验室的技术难点与安全边界。

10月14日周三
  1. Google DeepMind41

    Google DeepMind与GovTech Singapore合作微调Gemma模型检测诈骗

    Google DeepMind与GovTech Singapore合作微调轻量级Gemma模型,用于在设备端实时检测诈骗;诈骗占新加坡已报告犯罪一半以上,自2019年以来损失超过S$4 billion,当前最高占总损失的80%。模型采用两阶段流程分析消息和对话上下文,发现操纵意图后直接在设备上警示;用户同意后,Google与新加坡政府均无法通过部署访问对话。

  2. Google DeepMind77

    Google DeepMind广泛推出Gemini 4 Argon并公布安全机制

    Google DeepMind开始广泛推出Gemini 4 Argon,并扩大Fairwind Program,向更多可信网络防御者开放。Argon在12个端到端模拟网络攻击场景中全部解题,此前一代模型解决了5个;模型还采用输入筛查、内部内省和持续监控三层实时防护。

    推荐理由:文中给出Argon的网络防御表现、三层滥用防护和实时失配监测,便于读者评估其广泛开放后的安全边界。

  3. GitHub Blog · AI & ML71

    GitHub 上线基于 ModernBERT 的上下文感知秘密扫描器

    GitHub 上线由正则筛选与微调 ModernBERT 分类器组成的两阶段秘密扫描器,将通用秘密检测扩展至推送保护。该分类器结合候选值、文件路径、变量名和上下文判断告警,并与此前基于远程 LLM 的流程相比,将推送后扫描执行时间中位数降低 86%,服务成本降低超过 98%。

    推荐理由:GitHub 公开了秘密扫描器的模型架构、训练方法与线上评测结果,可用于理解专用小模型替代远程 LLM 的实现路径。

  4. Google DeepMind86

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布 Gemini 4 Argon 前沿模型,面向开发者、企业和消费者开放,用于复杂编码、科研、金融及智能体任务。模型经 API 在全球推出,首发价为每百万输入 token $2、每百万输出 token $10,缓存输入 token 优惠 95%,并支持 1M 统一输入输出 token 上限。

    推荐理由:给出了 Argon 在代码库重构、科学计算、机器人和安全防护上的实测数据与落地路径,便于比较其复杂任务能力和使用门槛。

10月5日周一
9月21日周一
  1. Import AI47

    Import AI 473:美国超级智能战略、鼠脑中的类人脑组织与机器释义学

    RAND 发布美国面向超级智能不确定路径的战略报告,主张以“行动自由”策略保留选项,构建人机生态、AI 安全架构并提升社会应对能力。报告比较七类战略与五项不确定性;研究人员还在实验小鼠脑内培育类人脑组织,探索其作为潜在实验体的用途。本期还涉及机器释义学。