跳到正文
AIHOT ↗· OpenAI:Alignment 研究博客(RSS)·· 16 天前AI 评分71

OpenAI 研究智能体安全评测与生产行为差距及目标误判因素

OpenAI 研究:智能体安全评测与生产行为存在差距,评测目标误判是关键因素

AI 导读

OpenAI 在六个服务模型上发现,Respecting Warnings 安全评测成绩比匹配的生产决策低 10.2 至 37.4 个百分点,模型对评测目标的误判与这一差距密切相关。

来源:AIHOT · alignment.openai.com