AIHOT ↗· OpenAI:Alignment 研究博客(RSS)·2026-11-10 16:00· 9 天前AI 评分69OpenAI 研究模型生命周期中影响 CoT 可监控性的因素OpenAI 研究:模型生命周期中哪些因素影响 CoT 可监控性AI 导读OpenAI 研究了预训练、模型架构、强化学习和模型生成数据对 CoT 可监控性的影响。研究发现,较低的基座模型困惑度与更强的无 CoT 能力相关,强化学习会提高 CoT 可控性,且这种特性可通过模型生成数据在 SFT 中传递;CoT 可控性仍是存在噪声且不完善的监控规避代理指标。来源:AIHOT · alignment.openai.comOpenAI / ChatGPTAgent 智能体推理能力数据与训练安全对齐论文研究评测基准#论文/研究#安全/对齐#推理#数据/训练#评测/基准#Agent查看事件全部后续