Ripple-65B Preview 架构拆解:从零构建小型编程模型
一场关于从零训练编程模型的技术直播,主讲人会讲清楚为什么不用 MoE、哪些消融实验失败了,还有 RL 训练里踩过的坑。自己做模型微调或 RL 训练的工程师值得看,这类失败经验比论文里的成功结果更少出现。
一场关于从零训练编程模型的技术直播,主讲人会讲清楚为什么不用 MoE、哪些消融实验失败了,还有 RL 训练里踩过的坑。自己做模型微调或 RL 训练的工程师值得看,这类失败经验比论文里的成功结果更少出现。
想在本地跑编程智能体的可以试试,Ripple 65-B 上了 Ollama,1M 上下文能塞下整个代码库,数据完全不外传。比起把代码扔给云端模型,对隐私要求高的团队多了一个选择。
五人小团队从零训了个 65B 稠密模型,拿了美国开源在 Terminal-Bench 2.1 的最好成绩,训练细节写得挺实在。
RicursiveAI创始人分享对递归自我改进的新思考,挑战传统观点。
RicursiveAI创始人分享颠覆性观点:Transformer胜出可能只是因为适合现有芯片,未来可能有更好架构。
Anna Goldie解释AI芯片设计为何耗时一年,揭秘逻辑门布局难题如何阻碍递归自我改进。