主要来源techcrunch
查看原文事件专题 ·多源确认
OpenAI 发布图像分类器,ChatGPT 加入儿童性虐待内容拦截警告
OpenAI 于 11 月 16 日发布了一个新的图像分类器,用于识别儿童性虐待材料(CSAM)。配合该分类器上线,ChatGPT 还新增了账号警告机制:试图访问 CSAM 内容的账号将被封禁 24 小时作为首次警告。分类器部署在模型侧,由系统自动检测用户上传或生成的图像,命中后触发拦截与账号处置流程。这类工具此前多由 Thorn 等专业反儿童性剥削组织或平台信任安全团队提供,OpenAI 将检测能力内置到 ChatGPT 的对话与图像流程中,意味着生成式 AI 平台开始把 CSAM 防护作为产品默认环节。对开发者和平台方而言,这套“分类器 + 账号警告”的组合可作为自建内容安全体系的参考,尤其是面向 UGC 图像场景的服务商。
当前结论
OpenAI 把 CSAM 图像分类器直接接进 ChatGPT 了,还配了 24 小时封号警告机制。做 UGC 图像产品或内容审核的同学可以看看它的拦截逻辑,比自己从零搭一套分类器省事不少。
11 个信源43° AI 热度最后更新 2026/11/16 17:00:00
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。