技巧Agent 与开发者精选00:12Sebastian Raschka 提议开源 LLM 构建模块 API做模型实验的同学应该都体会过换一种注意力实现要多痛苦。Raschka 这条提议说到了 Megatron Core、torchtitan 这些框架都没解决掉的抽象层问题,做架构研究和消融实验的人值得看看讨论方向。#PyTorch#Megatron Core#Mamba2#MoE官方账号Sebastian Raschka@rasbt原文稍后读已读值得跟进有用关注 PyTorch