#AI推理

FTX 前总裁 Brett Harrison 想把 AI 推理算力做成竞价市场，GPU 提供方按边际成本实时调价来压低价格，思路挺有意思。

The Information@theinformation原文

一二级市场对 AI 的态度出现分化：公开投资者开始担心债务和估值，私募那边 AI 推理和国防科技公司却被抢着看。

The Information@theinformation2 个信源在谈原文

Prime Intellect 买下 Moondream，图的是推理加速技术，帮做机器人和 agent 的客户省算力成本。

The Information@theinformation原文

Prime Intellect 把不到 10 人的 Moondream 收了，看中的是推理加速能力，想降算力成本、拉拢做机器人和 Agent 的客户。

The Information@theinformation原文

Astera Labs 出了个开放机架架构 Orion，算力像搭积木一样自由组合，单 pod 能塞 160 块加速卡，搞数据中心的朋友可以看看。

微软要把自家 Maia 芯片搞到吉瓦级，Maia 300 能效比 GPU 高 40%，这是对英伟达的直接挑战。

官方账号Decoder@Matthias Bastian原文

这位创业者分享了他如何用AI服务替代传统SaaS，每月能省下多少订阅费？

Pieter Levels@levelsio原文

NVIDIA 的人聊 CUDA 和 GPU 折旧，想知道手里的老卡还能撑多久、软件怎么影响换卡决策，可以等完整版。

kimmonismus@kimmonismus11 个信源在谈原文

SemiAnalysis创始人将分享如何从芯片到应用层优化AI推理，对基础设施从业者很有价值。

Fireworks AI@FireworksAI_HQ原文

Replit 老板 amasad 发了条推，说数学规则越清晰就越先被 AI 拿下，聊聊他这个判断逻辑。

Amjad Masad@amasad原文

OpenAI新模型一月内解决百道数学难题，引发数学界讨论

官方账号Decoder@Matthias Bastian11 个信源在谈原文

研究团队做了个实验，让AI当1900年的科学家，结果AI提前提出了光量子理论，挺有意思的。

量子位@henry原文

AWS用高通芯片做推理，高通用AWS Bedrock设计芯片，互相借力

官方账号Decoder@Jonathan Kemper原文

Gimlet Labs获3亿美元融资，推出多硅片推理云，用相同电力提供10倍性能，解决AI算力短缺问题。

a16z@a16z原文

Wafer从大学项目成长为AI基础设施公司，GLM 5.2速度领先行业，800万美元ARR证明市场认可。

Y Combinator@ycombinator原文

中科曙光这款超薄移动工作站能跑35B MoE模型，速度是主流产品3-5倍

Casado深入探讨了AI作为计算新抽象层的概念，对于理解AI在计算领域的作用有重要启示，值得一听。

a16z@a16z原文

Groq与Dell合作，率先使用NVIDIA Groq 3 LPX，为AI推理提供高性能解决方案，领先业界。

官方账号Groq@GroqInc9 个信源在谈原文

创见出了款能扛住 -20℃ 到 +85℃ 的 DDR5 内存，还用了抗硫化技术，适合工业设备用，比普通内存更耐用。

OpenRouter 老板说 AI 推理会是史上最大市场，想了解行业风向可以看看。

OpenRouter@OpenRouterAI原文

宜鼎新内存速度提升 45%，容量最高 128GB，适合跑 AI 推理和计算密集型任务，2026 Q4 送样。

OpenAI研究员认证！AMD和Cerebras合作搞的AI推理方案，延迟低到任务秒完成，每瓦性能提升5倍，搞AI推理的可以看看。

AMD和Cerebras联手搞推理方案，把Helios和晶圆引擎用在推理上，每瓦token吞吐能翻5倍，专治英伟达Groq组合。

俩公司把高吞吐和低延迟硬件凑一块，2026年推云服务。合作消息一出，Cerebras股价涨11%，说明市场很看好。

a16z投资了一家疯狂但认真的公司——Etched在ChatGPT诞生前就赌AI推理需要全新芯片，现在赌对了，值得一看他们的故事。

a16z@a16z7 个信源在谈原文

英伟达 Vera CPU 在智能体 AI 任务上干翻英特尔，延迟 29ms 对 64ms，直接快 2 倍多，搞 AI 推理的得关注。

联想出了首个RISC-V服务器，48核蓝芯LX500，能跑AI推理，国产生态兼容性好。