OpenAI 发布图像分类器,ChatGPT 加入儿童性虐待内容拦截警告
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
OpenAI 把 CSAM 图像分类器直接接进 ChatGPT 了,还配了 24 小时封号警告机制。做 UGC 图像产品或内容审核的同学可以看看它的拦截逻辑,比自己从零搭一套分类器省事不少。
OpenAI 于 11 月 16 日发布了一个新的图像分类器,用于识别儿童性虐待材料(CSAM)。配合该分类器上线,ChatGPT 还新增了账号警告机制:试图访问 CSAM 内容的账号将被封禁 24 小时作为首次警告。
分类器部署在模型侧,由系统自动检测用户上传或生成的图像,命中后触发拦截与账号处置流程。这类工具此前多由 Thorn 等专业反儿童性剥削组织或平台信任安全团队提供,OpenAI 将检测能力内置到 ChatGPT 的对话与图像流程中,意味着生成式 AI 平台开始把 CSAM 防护作为产品默认环节。
对开发者和平台方而言,这套“分类器 + 账号警告”的组合可作为自建内容安全体系的参考,尤其是面向 UGC 图像场景的服务商。
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
ChatGPT will ban an account trying to access CSAM content for 24 hours as a warning
本条情报归属 AITOP「产品」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:OpenAI、ChatGPT、AI安全、内容审核,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「techcrunch」(@Ivan Mehta),经 AITOP 多维评分管线结构化提炼。截至目前,全网已有 11 家独立信源对该事件进行交叉印证与跟进报道(含 @koltregaskes、Tibor Blaho、Techsauce 等),属于近期高关注度行业信号。