AIHOT ↗· OpenAI:Alignment 研究博客(RSS)·2026-11-03 04:00· 17 天前AI 评分69OpenAI 训练并部署激活分类器监控前沿模型安全OpenAI 训练并部署激活分类器作为前沿模型安全监控层AI 导读OpenAI 介绍了从 GPT-5.6 开始部署的激活分类器,这些轻量级模型利用 LLM 内部激活分类模型输出是否存在失配或不当行为。该方法可在生成过程中流式判断并阻断违规回复及工具调用,还支持越狱检测、模型检查点迁移和规模化评估。文章同时说明了探针对标注数据、基础模型权重变化和前置文本的依赖。来源:AIHOT · alignment.openai.comOpenAI / ChatGPT部署工程数据与训练安全对齐论文研究#论文/研究#安全/对齐#数据/训练#部署/工程#OpenAI查看事件全部后续