事件专题 ·多源确认

OpenAI 推出图像分类器,用于检测儿童性虐待材料

OpenAI 发布了一款图像分类器,可识别儿童性虐待材料(CSAM),包括 AI 生成的图像,帮助内容审核人员更高效地处理这类内容。该工具的定位是辅助审核,而非替代人工判断。随着生成式图像模型普及,AI 生成的滥用内容给审核系统带来新的识别难题,能检测合成图像成为该分类器的关键能力。此事发生在各国监管机构持续加大对平台儿童保护执法力度的背景下,OpenAI 选择同时开放工具与支持资源,也给其他模型公司提供了可参考的做法。

当前结论

OpenAI 做了个能识别 CSAM 的图像分类器,连 AI 生成的图也能查,帮审核人员减轻负担。做内容平台或审核系统的开发者可以关注,生成式图像泛滥后这类检测工具会越来越常用。

11 个信源44° AI 热度最后更新 2026/11/17 03:45:59

证据链

11 个信源
主要来源Rappler: Technology
查看原文
相关来源 8The Business Times: Tech
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。