跳到正文
热点事件观察中

OpenAI引入Apollo安全评估员试点

1 篇报道1 个报道来源3 天前更新

先了解这件事

AI 综述

OpenAI将在内部嵌入6名Apollo Research安全评估员,试点调查模型是否试图破坏自身或后续版本的对齐与控制机制,检查训练、评测和内部部署是否诱发此类行为,以及相关推理能否被检测。试点尚未公布启动时间。 Apollo称,评估仅覆盖双方约定的模型、时间段和必要信息,接触人员限于OpenAI选择的授权员工;OpenAI仍可因技术不可行、安全风险或知识产权保护而扣留部分信息。Apollo可发布独立结论,但公开证据范围可能受限。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. TechCrunch · AI
    OpenAI 将让 Apollo 安全评估员驻场调查模型破坏安全机制行为

    OpenAI 将把 6 名 Apollo Research 安全评估员嵌入公司,试点调查模型是否试图破坏自身或后续版本的对齐与控制机制。试点将检查训练是否激励此类行为、评测能否诱发此类行为、内部部署中是否出现此类行为,以及相关推理能否被检测;起始时间尚未公布。

本事件热度走势

可比范围当前
3
可比范围峰值
1011月17日 02:00
近 24 小时变化
-50%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。