Thinking Machines 的 Inking 模型:速度快 3 倍、价格便宜 5 倍,FrontierCode 2 评测成绩持平
Thinking Machines 的 Inking 蒸馏后快 3 倍、便宜 5 倍,FrontierCode 2 分数还不掉,swyx 说它被严重低估了。
swyx 在 X 上指出,Thinking Machines 的 base 模型 Inking 在 FrontierCode 2 评测中成绩与原模型持平,但速度快 3 倍、价格便宜 5 倍。他认为这是没有性能折损的蒸馏案例,并称 Inking 是目前被低估的 base 模型之一。他预计基于美国预训练模型的类似蒸馏工作会大量出现。
uhhh what, 3x faster 5x cheaper but evals SAME ON FRONTIERCODE 2
this is distillation without tradeoffs. i think @thinkymachines inkling is one of the most underrated base models in the world. expect to see a TON more of these esp on US pretrained models
- Latent.Space11-04 10:49原文