跳到正文
AI 资讯
11月6日周五
  1. AIHOT76

    Reflection 详解开源模型 Beam 的安全训练与评估方法

    Reflection 公开开源模型 Beam 的安全训练与评估方法,并借 Project Iris 开源安全研究、评测集和缓解工具。文章介绍多教师在线策略蒸馏、安全对齐后训练,以及分别衡量安全策略遵循度和潜在能力风险的 ISE、OSF 框架。

    推荐理由:完整呈现 Beam 的安全训练、ISE 与 OSF 评测框架及第三方测试结果,为评估开源模型安全与有用性的权衡提供可复用参照。

11月5日周四
11月4日周三
  1. AIHOT67

    Transluce 自动化批量生成 6915 个带意外副作用的训练数据集 DSSE-1.1

    Transluce 构建自动化流水线并发布 DSSE-1.1,批量生成 6,915 个可诱发意外模型行为的数据集,覆盖 18 类目标行为。流水线以诱发行为、自然度和意外性为目标,通过两阶段搜索、重新评分及过滤选出高质量样本。尽管候选数据集针对 1.7B 参数模型优化,许多结果仍可泛化至不同模型家族和规模,但 ML 研究人员预测副作用的准确率仅略高于随机水平。

11月3日周二
  1. TechCrunch · AI68

    Trajectory完成$45M A轮融资并开放后训练平台

    Trajectory宣布完成$45M A轮融资,估值达到$300M,并将后训练平台开放公开使用。这家18人公司通过持续学习机制收集应用反馈并重新训练模型,帮助法律、金融等专业人员自动优化模型在专业任务上的表现。Harvey、Rogo、Decagon、Mercor和Nvidia已成为其客户,Sequoia领投本轮融资。

  2. AIHOT69

    OpenAI 训练并部署激活分类器监控前沿模型安全

    OpenAI 介绍了从 GPT-5.6 开始部署的激活分类器,这些轻量级模型利用 LLM 内部激活分类模型输出是否存在失配或不当行为。该方法可在生成过程中流式判断并阻断违规回复及工具调用,还支持越狱检测、模型检查点迁移和规模化评估。文章同时说明了探针对标注数据、基础模型权重变化和前置文本的依赖。

  3. AWS Machine Learning Blog75

    在Amazon SageMaker AI上用知识蒸馏构建高效智能体

    AWS教程演示如何使用序列级知识蒸馏(SeqKD),在Amazon SageMaker AI上训练低成本购物智能体。流程包括由Amazon Bedrock上的GLM-5.3生成并筛选 ShoppingBench轨迹,再以LoRA微调Qwen3.5-4B、评测并部署。蒸馏模型的平均ASR从基础模型的0.297提升至0.541,接近GLM-5.3贪心解码的0.540;仅保留工具调用时降至0.415。

    推荐理由:完整展示SeqKD智能体的轨迹生成、过滤、训练、评测与部署链路,并量化推理保留和专项微调的效果差异。

10月31日周六
  1. The Verge · AI57

    Wikimedia 就 AI 版权诉讼提出折中立场,主张保护 LLM 训练但限制内容复制

    Wikimedia Foundation 在涉及 The New York Times、OpenAI 和 Microsoft 的 AI 版权诉讼中提交法庭之友意见,主张未获许可的 LLM 预训练在产出新内容时属于合理使用。组织认为,模型向用户复制受版权保护的材料并替代原作阅读时则应获得许可,同时警告过于简单的裁决可能威胁开放知识与开源技术。

10月30日周五
  1. Microsoft Research45

    Microsoft Copilot 如何用合成企业数据建立真实场景评估基线

    Microsoft 构建 Industry Evaluation Data Generation Platform,以合成企业环境评估 Microsoft Copilot 在真实业务场景中的表现。该平台结合 O*NET、在线职位信息和 SEC 文件生成完全合成的测试环境,并通过自动化查询管线和质量框架建立首个标准化评估基线;内容安全检查用于排除有害及个人可识别信息。

  2. AIHOT77

    Figma 讲解专用画布编辑模型的 SFT 与 RL 训练方法

    Figma 介绍了其自研画布编辑模型的训练与评测方法:用 Figma 原生文件格式表示设计,构造超过 250,000 条示例对 Llama 3.3 70B 做监督微调,后续转向基于 Qwen 3.8 27B 等更新基础模型并引入 RL,以改善泛化和样本效率。

    推荐理由:Figma 公开了画布编辑模型从 SFT 到 RL 的训练与评测思路,对非可验证设计类任务给出可参考的落地路径。

10月28日周三
  1. Google Research42

    Google Research 提出 sleep framework:以睡眠周期实现 LLM 持续学习与知识巩固

    Google Research 提出 sleep framework,让 LLM 在活跃交互与离线“睡眠”间交替,持续学习并将短期上下文巩固为长期参数。框架通过 MoE 参数扩展、GKD 知识播种与突触修剪减少灾难性遗忘,再以合成样本、筛选和 RL 微调提升复杂推理能力。实验显示,该方法可保留最长 10M tokens 的长上下文知识。

10月27日周二
  1. AIHOT51

    Cartesia 发布 H-Net 扩缩律研究:字节级层级网络较 BPE 最高提升 3-5x 计算效率

    Cartesia 发布 H-Net 扩缩律研究,字节级层级网络通过端到端学习分块替代静态 BPE,在受控 1-stage 对比中最高提升 3-5x 计算效率。更灵活的 2-stage H-Net 在与 SmolLM3 计算匹配时,用约 0.99T tokens 达到后者 11.04T tokens 后的平均分,研究还展示了 DNA 建模及多维图像生成中的初步结果。

  2. AIHOT87

    Meta 向 SEC 申报募资 950 亿美元建设 AI 数据中心与超级智能

    Meta 向 SEC 申报拟通过新股发行募资 950 亿美元,用于 AI 数据中心和超级智能投入。首批 350 亿美元包括 225 亿美元普通股和 125 亿美元强制可转换优先股,后续计划通过 at-the-market 机制再募资 600 亿美元;Nvidia、AMD 和 Broadcom 表示有意合计认购至多 50 亿美元。

    推荐理由:Meta 的超大额募资计划及供应商认购意向,展示了 AI 基础设施投入背后的资本规模与产业参与方式。

10月26日周一
10月15日周四
  1. Mistral AI65

    Mistral AI 发布 Timestral 时间序列基础模型家族

    Mistral AI 发布首个时间序列基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四种规模,支持概率预测、多变量目标、过去协变量和已知未来协变量。

    推荐理由:Timestral 提供四种规模与多种部署方式,并公开基准成绩、训练方法和代码,便于评估其在企业预测场景中的适配与成本。

10月13日周二
  1. Microsoft Research48

    StudentSim:模拟学生学习以改进 AI 辅导系统

    Microsoft Research 提出研究系统 StudentSim,利用公开且去标识化的学习者记录训练个性化学生模拟器,在接触真实学习者前评估并改进 AI 辅导系统。同步推出覆盖国际象棋、第二语言英语写作和数学的 StudentSimEval,以行为忠实度和指导响应性评估模拟器。模拟器表现优于领先基线,但目前并非产品,也未部署于课堂或用于替代教师。

10月8日周四
9月28日周一
  1. Mistral AI62

    Mistral 在慕尼黑开设德国中心,推进工业 AI 与 Physics AI

    Mistral 在慕尼黑开设德国中心,组建 Physics AI 和 Industrial AI 专业研究团队及应用工程团队,并与 BMW、Siemens Energy 开展合作。Mistral 计划到 2030 年建设 1 gigawatt 欧洲算力capacity,同时与 TUM 合作研究基于风洞数据的实时汽车空气动力学预测。

    推荐理由:Munich 研究中心及欧洲算力建设计划交代了 Mistral 进入德国工业 AI 市场的组织布局与基础设施投入。

7月26日周日
  1. Berkeley AI Research48

    ABBEL:教 LLM 更新信念以实现高效长程交互

    ABBEL 将自然语言信念状态作为智能体的工作上下文,并通过信念分级监督摘要信息,帮助 LLM 处理长程交互。CollabBench 协作编程测试显示,重构式信念分级可将模型与完整上下文的性能差距缩小约 50%,训练步数从 100 步降至 50 步,同时峰值 token 更少。

5月8日周五
  1. Berkeley AI Research50

    Berkeley AI Research 分析自适应并行推理:让大语言模型自主控制推理扩展

    Berkeley AI Research 对自适应并行推理的研究进展与未来方向展开分析,探讨由模型自主决定何时分解任务、生成多少并行线程及如何协调。该方法旨在克服固定并行结构带来的冗余计算,并缓解顺序推理导致的上下文退化、延迟上升与算力消耗问题。