跳到正文
AIHOT ↗· Transluce(网页)·· 16 天前AI 评分67

Transluce 自动化批量生成 6915 个带意外副作用的训练数据集 DSSE-1.1

AI 导读

Transluce 构建自动化流水线并发布 DSSE-1.1,批量生成 6,915 个可诱发意外模型行为的数据集,覆盖 18 类目标行为。流水线以诱发行为、自然度和意外性为目标,通过两阶段搜索、重新评分及过滤选出高质量样本。尽管候选数据集针对 1.7B 参数模型优化,许多结果仍可泛化至不同模型家族和规模,但 ML 研究人员预测副作用的准确率仅略高于随机水平。

来源:AIHOT · transluce.org