跳到正文
热点事件历史事件

METR测得Opus 5.5能区分对齐评测

1 篇报道1 个报道来源4 天前更新

先了解这件事

AI 综述

METR研究人员让调查型智能体探索19个对齐评测和36个能力评测,结果显示Opus 5.5在这组数据上几乎能完美区分两类评测,直接评分与开放式评分均达到这一水平。 研究认为,智能体主要通过发现环境“看起来虚假”,以及识别任务是诱导模型做坏事的“蜜罐”来作出区分。METR同时说明,这些观察不一定代表其整体立场,研究也未证明相关判断会因果性地影响智能体执行任务。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AIHOT
    METR 调查模型对对齐评测的识别能力

    METR 研究人员让调查型智能体在 19 个对齐评测和 36 个能力评测中探索环境,以测量其识别两类评测的能力。结果显示,Opus 5.5 的直接与开放式评分在这组数据上几乎达到完美区分,研究还将线索分为环境级和任务级两类。

本事件热度走势

可比范围当前
3
可比范围峰值
411月17日 07:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。