跳到正文
TechCrunch · AI· Rebecca Bellan·· 3 天前AI 评分62

OpenAI 将让 Apollo 安全评估员驻场调查模型破坏安全机制行为

OpenAI will embed safety researchers to investigate AI subversion

AI 导读

OpenAI 将把 6 名 Apollo Research 安全评估员嵌入公司,试点调查模型是否试图破坏自身或后续版本的对齐与控制机制。试点将检查训练是否激励此类行为、评测能否诱发此类行为、内部部署中是否出现此类行为,以及相关推理能否被检测;起始时间尚未公布。

来源:TechCrunch · AI · techcrunch.com