事件专题 ·多源确认

OpenAI 发布分类器,帮助儿童性虐待举报热线筛查 AI 生成图像

OpenAI 在华盛顿特区周一的媒体简报会上宣布推出一款分类器工具,用于帮助儿童性虐待内容调查人员从海量举报中快速识别有害图像。该分类器可检测虐待儿童图像,并判断内容是否为 AI 生成。随着生成式模型普及,举报热线收到的 AI 生成图像数量激增,人工核查负担加重。OpenAI 希望通过该工具过滤噪声,让调查人员优先处理可采取行动的真实案件材料。 技术机制上,该分类器由 OpenAI 的模型驱动,对提交的图像进行分类,区分真实虐待图像与 AI 生成或无害内容,从而降低核查人员逐张审阅的工作量。这一方向与 2024 年 Thorn、IWF 等机构报告的趋势一致:NCMEC 等举报渠道收到的疑似 AI 生成 CSAM 举报在近年明显上升,大量占用原本用于追查真实受害者的资源。 对行业而言,这是 OpenAI 将安全研究转化为执法协作工具的一次落地,也可能成为其他平台处理类似举报积压的参考方案。开发者与内容平台需要关注其 API 与开放程度,以及分类器在误报率上的表现如何影响一线核查流程。

当前结论

OpenAI 把自家模型改造成打击儿童性虐待图像的调查工具,能识别 AI 生成内容并帮举报热线过滤噪声。和 Thorn 等机构现有方案比,多了判断图像真伪的能力。做内容审核、信任安全工作的团队应该看看它的开放程度。

11 个信源53° AI 热度最后更新 2026/11/16 19:23:45

证据链

11 个信源
相关来源 2Simon Willison’s Weblog
查看原文
相关来源 5Aravind Srinivas
查看原文
相关来源 8The Information
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。