跳到正文
AIHOT ↗· OpenAI:Alignment 研究博客(RSS)·· 9 天前AI 评分69

OpenAI 研究模型生命周期中影响 CoT 可监控性的因素

OpenAI 研究:模型生命周期中哪些因素影响 CoT 可监控性

AI 导读

OpenAI 研究了预训练、模型架构、强化学习和模型生成数据对 CoT 可监控性的影响。研究发现,较低的基座模型困惑度与更强的无 CoT 能力相关,强化学习会提高 CoT 可控性,且这种特性可通过模型生成数据在 SFT 中传递;CoT 可控性仍是存在噪声且不完善的监控规避代理指标。

来源:AIHOT · alignment.openai.com