主要来源Techsauce
查看原文事件专题 ·多源确认
OpenAI 推出 CSAM 检测分类器,违规 ChatGPT 账号将被永久封禁
OpenAI 宣布加强 ChatGPT 平台的儿童安全保护措施:尝试获取儿童性虐待内容(CSAM)的用户账号将被封禁 24 小时,情节严重者可能面临永久封号。同时 OpenAI 发布了一个 CSAM 检测分类器,可以识别图像是否由 AI 生成。 该分类器会免费开放给其他组织使用,帮助平台判断上传或传播的图像是否为 AI 生成的儿童性虐待内容。这一工具针对的是生成式图像模型普及后 AI 生成 CSAM 数量上升的问题,让缺乏自研检测能力的中小平台也能接入检测能力。 分类策略上 OpenAI 采取了分级处置:初次违规封禁 24 小时,反复或严重违规则升级为永久封禁。此前 NCMEC 等机构多次报告 AI 生成儿童性虐待材料举报量激增,OpenAI 此举将检测工具开源化,等于把治理责任扩展到整个行业生态。
当前结论
OpenAI 给 ChatGPT 加了硬规则:碰 CSAM 先封 24 小时,再犯永久封号。它还放出一个能识别 AI 生成儿童违规图像的分类器,免费给其他平台用。做内容平台或社区运营的团队可以直接接入这个工具,省去自研检测的成本。
11 个信源52° AI 热度最后更新 2026/11/17 05:02:56
证据链
11 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。