开发者在 MiniCPM5-2B 上构建结构化决策模型 MiniCPM5-2B-Jev
有人把 MiniCPM5-2B 改成了只输出概率的决策模型,JevBench 拿了 78.79%,做工单路由或规则核查的可以直接拿来用,代码全开源。
有人把 MiniCPM5-2B 改成了只输出概率的决策模型,JevBench 拿了 78.79%,做工单路由或规则核查的可以直接拿来用,代码全开源。
一个不做文本生成的决策模型,单次判断 70-500 毫秒,成本比 LLM 低最多 400 倍,Databricks 上能直接给几百万行数据打标打分。
TypeSafe AI 的 CEO 原来是 ChatGPT 的共同发明人,他花了两年时间开发的 Jev,不生成文本只输出结构化决策,解决了 LLM 过度自信和幻觉的问题。
朋友复刻了 TypeSafe Jev,公开了所有数据和模型,用 9B 模型就逼近了 Jev 的表现,还公开了训练方法,值得看看。
朋友,Almeida 公司推出个不生成文本的 AI 模型 Jev,直接输出结构化决策,比大语言模型快 200 倍还便宜,输出还免费,挺有意思的。
TypeSafe AI 推出了 Jev 这个新模型,专门做快速结构化决策,比现在的大模型快很多,而且不会乱说,挺有意思的。