Thinking Machines 发布开源小模型 Inkling 2 Mini,笔记本可跑
Mira Murati 团队这次的 Inkling 2 Mini 有意思:中间层每个 token 跑三遍,用更少 token 就能完成推理。20GB 显存笔记本能跑,DeepSWE 48.2% 拿下百亿级以下开源模型第一。想在本地折腾编程推理的可以试试。
Mira Murati 团队这次的 Inkling 2 Mini 有意思:中间层每个 token 跑三遍,用更少 token 就能完成推理。20GB 显存笔记本能跑,DeepSWE 48.2% 拿下百亿级以下开源模型第一。想在本地折腾编程推理的可以试试。