跳到正文
OpenAI News·· 21 天前AI 评分34

OpenAI 如何检测前沿模型的对齐偏离与未经授权的智能体行为

How we detect frontier model misalignment

AI 导读

OpenAI 通过分层监测,检测前沿模型的对齐偏离和未经授权的智能体行为,以便在事件升级前采取干预措施。该机制为响应人员提供早期识别与处置风险的手段,目标是防止相关行为演变为安全事件。

来源:OpenAI News · openai.com