The Verge · AI· Lauren Feiner·· 3 天前AI 评分63
OpenAI 推出面向儿童性虐待影像的分类器,可识别 AI 生成内容
OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
AI 导读
OpenAI 宣布推出儿童性虐待影像分类器,可检测相关影像并标记其中是否由 AI 生成,误报减少 48%,被标记影像含有虐待内容的概率高出一倍。OpenAI 将向经过审核的机构免费开放该工具,并提供开发者的检测指引和执法培训;其 ChatGPT 图像生成器也会在用户尝试生成 CSAM 时显示警告,首次违规将暂停访问 24 小时。
来源:The Verge · AI · theverge.com