OpenAI推出儿童虐待图像分类器
热点事件观察中
OpenAI推出儿童虐待图像分类器
2 篇报道2 个报道来源3 天前更新
先了解这件事
AI 综述
OpenAI推出儿童性虐待图像分类器,可检测相关影像并判断其是否由AI生成;OpenAI称,分类器将误报减少48%,被标记影像含有虐待内容的概率高出一倍。 该工具将向经审核的机构免费开放,OpenAI还将提供开发者检测指引和执法培训。其ChatGPT图像生成器在用户尝试生成儿童性虐待内容时会发出警告,首次违规将暂停访问24小时;OpenAI称会向美国国家失踪与受虐儿童中心报告所有此类影像。
AI 根据报道生成 · 3 天前更新
最新进展11月17日 03:23
OpenAI 推出面向儿童性虐待影像的分类器,可识别 AI 生成内容报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- The Verge · AIOpenAI 推出面向儿童性虐待影像的分类器,可识别 AI 生成内容
OpenAI 宣布推出儿童性虐待影像分类器,可检测相关影像并标记其中是否由 AI 生成,误报减少 48%,被标记影像含有虐待内容的概率高出一倍。OpenAI 将向经过审核的机构免费开放该工具,并提供开发者的检测指引和执法培训;其 ChatGPT 图像生成器也会在用户尝试生成 CSAM 时显示警告,首次违规将暂停访问 24 小时。
- TechCrunch · AIOpenAI 发布 CSAM 图像分类器并加强 ChatGPT 儿童安全警告
OpenAI 发布新工具应对儿童性虐待材料,包括检测包括 AI 生成图像在内的 CSAM 图像分类器,以及 ChatGPT 警告和临时封禁机制。新分类器现向部分公司通过 API 免费开放,合作方早期测试显示其标记的图像数量减少 48%,同时发现的虐待图像数量不变,被标记图像为虐待图像的可能性高 2 倍。OpenAI 还发布开发者指南,并为执法机构提供专用插件、调查工具、数据分析和培训。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1011月17日 04:00
- 近 24 小时变化
- -51%
02.557.510
12:0011月18日12:0011月19日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。