OpenAI 推出 CSAM 检测分类器,违规 ChatGPT 账号将被永久封禁
ChatGPT ปล่อยกฏโหด ใครโกงคุยเรื่องอนาจารเด็ก มีสิทธิโดน ‘แบนบัญชีถาวร’
OpenAI 给 ChatGPT 加了硬规则:碰 CSAM 先封 24 小时,再犯永久封号。它还放出一个能识别 AI 生成儿童违规图像的分类器,免费给其他平台用。做内容平台或社区运营的团队可以直接接入这个工具,省去自研检测的成本。
OpenAI 宣布加强 ChatGPT 平台的儿童安全保护措施:尝试获取儿童性虐待内容(CSAM)的用户账号将被封禁 24 小时,情节严重者可能面临永久封号。同时 OpenAI 发布了一个 CSAM 检测分类器,可以识别图像是否由 AI 生成。
该分类器会免费开放给其他组织使用,帮助平台判断上传或传播的图像是否为 AI 生成的儿童性虐待内容。这一工具针对的是生成式图像模型普及后 AI 生成 CSAM 数量上升的问题,让缺乏自研检测能力的中小平台也能接入检测能力。
分类策略上 OpenAI 采取了分级处置:初次违规封禁 24 小时,反复或严重违规则升级为永久封禁。此前 NCMEC 等机构多次报告 AI 生成儿童性虐待材料举报量激增,OpenAI 此举将检测工具开源化,等于把治理责任扩展到整个行业生态。
ChatGPT ปล่อยกฏโหด ใครโกงคุยเรื่องอนาจารเด็ก มีสิทธิโดน ‘แบนบัญชีถาวร’
OpenAI ยกระดับการปกป้องเด็กออนไลน์ ChatGPT ระงับผู้ที่พยายามหาภาพละเมิดเด็ก 24 ชั่วโมง พร้อมแจกระบบตรวจจับ CSAM ที่บอกได้ว่าภาพไหน AI สร้างให้องค์กรใช้ฟรี
本条情报归属 AITOP「行业」核心栏目,重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中,该动态直接关联「各国 AI 监管法案、合规治理与主权算力政策」「AI 开发者工具链、Coding Agent 与工程化实践」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:OpenAI、ChatGPT、AI安全、内容审核,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明:本文原始线索采编自「Techsauce」(@ Techsauce Team ),经 AITOP 多维评分管线结构化提炼。截至目前,全网已有 11 家独立信源对该事件进行交叉印证与跟进报道(含 IT之家、Rappler: Technology、Liputan6 Tekno 等),属于近期高关注度行业信号。