谷歌开源 Agile Deliberation 框架:用边界案例帮你把模糊分类标准变清晰
谷歌开源了个新框架,让 AI 反过来帮你搞清楚自己的分类标准,做审核或数据标注的可以试试。
谷歌开源了名为 Agile Deliberation 的 AI 分类框架,解决用户自己没把判断标准说清楚导致分类不准的问题。流程分两个阶段:Concept Scoping 先把模糊概念拆开,明确包含和排除哪些情况;Concept Iteration 由 AI 主动寻找有争议的边界图片,让用户逐一判断,再根据反馈调整分类指令。角色从过去用户告诉 AI 什么是对的,变成 AI 帮用户发现自己真正的标准。适用场景包括平台内容审核中界定误导性广告,以及企业数据标注中统一商品照片质量和品牌风格判断。
你想让AI自动筛选出美食网站上所有“健康食品”的照片,有时候AI搞不准,这是因为你也没把标准搞清晰
比如你告诉AI,找出所有健康食品
AI开始分类,边界清晰的容易判断,但有些东西未必有唯一正确答案,你也没说清楚所谓的“健康”究竟是指什么
于是你不得不一遍一遍改提示词
谷歌开源了一个AI分类框架:Agile Deliberation,让AI主动寻找那些难以判断的边界案例,反过来帮助人们把模糊的判断标准变成明确可执行的分类规则
简单说,就是AI的角色变了
过去你告诉AI什么是对的,现在AI帮你发现,你自己究竟认为什么是对的
等你的标准越来越清楚,AI再据此优化分类规则
整个流程有两个核心阶段: Concept Scoping,界定概念范围 先把模糊概念拆开,明确应该包含哪些情况,排除哪些情况,建立初步分类规则
Concept Iteration,迭代分类标准 AI主动去找容易产生争议的边界图片,让用户判断是否符合当前分类标准
然后系统根据反馈不断调整分类指令,再去找新的边界案例,直到规则逐渐符合用户真正想表达的标准
这个框架有几个非常应景的场景
平台内容审核,比如说什么样的广告属于误导性宣传?让AI找出有争议的案例,审核人员判断,完善审核规则
另外一个,企业数据标注,比如什么样的商品照片算高质量,什么样的广告素材符合品牌风格,AI可以通过边界案例帮助建立更一致的判断标准
#AgileDeliberation #AI分类 #AI规则优化