跳到正文
热点事件观察中

OpenAI推出儿童虐待图像分类器

2 篇报道2 个报道来源3 天前更新

先了解这件事

AI 综述

OpenAI推出儿童性虐待图像分类器,可检测相关影像并判断其是否由AI生成;OpenAI称,分类器将误报减少48%,被标记影像含有虐待内容的概率高出一倍。 该工具将向经审核的机构免费开放,OpenAI还将提供开发者检测指引和执法培训。其ChatGPT图像生成器在用户尝试生成儿童性虐待内容时会发出警告,首次违规将暂停访问24小时;OpenAI称会向美国国家失踪与受虐儿童中心报告所有此类影像。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. The Verge · AI
    OpenAI 推出面向儿童性虐待影像的分类器,可识别 AI 生成内容

    OpenAI 宣布推出儿童性虐待影像分类器,可检测相关影像并标记其中是否由 AI 生成,误报减少 48%,被标记影像含有虐待内容的概率高出一倍。OpenAI 将向经过审核的机构免费开放该工具,并提供开发者的检测指引和执法培训;其 ChatGPT 图像生成器也会在用户尝试生成 CSAM 时显示警告,首次违规将暂停访问 24 小时。

  2. TechCrunch · AI
    OpenAI 发布 CSAM 图像分类器并加强 ChatGPT 儿童安全警告

    OpenAI 发布新工具应对儿童性虐待材料,包括检测包括 AI 生成图像在内的 CSAM 图像分类器,以及 ChatGPT 警告和临时封禁机制。新分类器现向部分公司通过 API 免费开放,合作方早期测试显示其标记的图像数量减少 48%,同时发现的虐待图像数量不变,被标记图像为虐待图像的可能性高 2 倍。OpenAI 还发布开发者指南,并为执法机构提供专用插件、调查工具、数据分析和培训。

本事件热度走势

可比范围当前
3
可比范围峰值
1011月17日 04:00
近 24 小时变化
-51%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。