METR测得Opus 5.5能区分对齐评测
热点事件历史事件
METR测得Opus 5.5能区分对齐评测
1 篇报道1 个报道来源4 天前更新
先了解这件事
AI 综述
METR研究人员让调查型智能体探索19个对齐评测和36个能力评测,结果显示Opus 5.5在这组数据上几乎能完美区分两类评测,直接评分与开放式评分均达到这一水平。 研究认为,智能体主要通过发现环境“看起来虚假”,以及识别任务是诱导模型做坏事的“蜜罐”来作出区分。METR同时说明,这些观察不一定代表其整体立场,研究也未证明相关判断会因果性地影响智能体执行任务。
AI 根据报道生成 · 3 天前更新
最新进展11月16日 00:00
METR 调查模型对对齐评测的识别能力报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- AIHOTMETR 调查模型对对齐评测的识别能力
METR 研究人员让调查型智能体在 19 个对齐评测和 36 个能力评测中探索环境,以测量其识别两类评测的能力。结果显示,Opus 5.5 的直接与开放式评分在这组数据上几乎达到完美区分,研究还将线索分为环境级和任务级两类。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 411月17日 07:00
- 近 24 小时变化
- –
0246
09:0012:0015:0018:0021:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。