Together AI 研究高级副总裁 Dan Fu 谈内核、3T 模型首日部署与 Together Compiler
这场播客把推理优化的底层讲得挺清楚：内核是什么、3T 参数模型怎么第一天就上线、AI 怎么自己改内核。做推理部署、关心成本和延迟的工程师值得听听，比一般访谈干货多。
Together AI 研究高级副总裁 Dan Fu 在 @thecompute100 播客中系统讲解了三个话题：GPU 内核（kernel）到底是什么、如何让一个 3 万亿参数规模的模型在发布当天（day zero）就能上线推理服务、Together Compiler 如何用 AI 优化推理性能。
他解释了内核作为底层计算代码在推理中的作用，以及服务超大参数模型时对编译和调度链路的要求。Together Compiler 的思路是把模型应用到自己团队的推理工作负载上，让 AI 自动改进内核与推理路径。
Dan Fu 表示，模型能力已经强到可以用来优化推理本身，开始接近“模型能改进模型”的承诺。对依赖推理成本和延迟的开发者与企业来说，这类编译层方案是理解当前推理栈演进的参考。
SVP of Research Dan Fu on @thecompute100 covered: - what a kernel actually is - how a 3T-parameter model gets served on day zero - how Together Compiler uses AI to improve inference
“We’re at a place where the models are good enough now that we can take those models and apply them to our own inference workloads. It’s starting to get to the promise of models that can improve themselves.”
本条情报归属 AITOP「行业」核心栏目，重点聚焦北美前沿实验室与硅谷科技巨头。在跨区域产业观察坐标中，该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」研究主线，反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括：Together AI、Together Compiler、推理优化、GPU kernel，读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。
信源核验说明：本文原始线索采编自「Together AI」（@togethercompute），经 AITOP 多维评分管线结构化提炼。
