#AI基础设施
CoreWeave、Oracle、SoftBank 为 AI 算力大举借债的隐患开始浮现,这篇文章讲清了谁在借钱、风险在哪。
数据中心公司 Nscale 想按 300 亿美元估值上市,投资人只肯给 160-190 亿,微软还退了一个英国项目,AI 基建降温的味道很浓。
算力居然能像大宗商品一样交易了,这场面向工程师和交易员的入门讲解把 why now 讲得挺清楚,想搞懂算力市场的人可以看看。
Ray 作者本人要在 PyTorch 大会讲它和 Kubernetes 怎么配合,搞分布式训练和 AI 基础设施的可以去 San Jose 现场听。
SK 海力士预测 2030 年 AI 算力涨 20 倍,正研发 HBF 闪存插进 HBM 和 DRAM 之间,容量扩 10 倍。
fal 和 a16z 下周在旧金山办 AI Infra Night,fal、Black Forest Labs、Krea、ElevenLabs 的基建工程师都会到场分享,做推理部署的可以关注。
SambaNova 的 CEO 跟 Bloomberg 聊了推理成本这笔账,还讲了摩根大通为什么坚持把推理留在自己防火墙里,做企业 AI 的人可以听听。
内存大涨价的最直观数据:南亚科技一个季度毛利率干到 85.7%,营收同比涨了 6 倍,AI 需求拉动有多猛看这份财报就知道。
吴恩达这期 The Batch 聊了个常被忽略的点:Agent 消耗 token 的方式和人不一样,瓶颈可能在工具和基础设施,而不是模型速度。
Milvus 3.0 把向量库升级成支持全文、JSON 和标量的混合检索引擎,10 月 21 日旧金山现场还有 6sense 的大规模实体解析实战分享。
fal 和 a16z 办的 AI Infra Day,BFL、Krea、ElevenLabs 的工程负责人都会来聊怎么搭 AI 基础设施,做基建的可以去听。
Nvidia 拿1000亿美元到处投资,这期直播聊钱会流向哪,还讲 Musk 的 Terafab 建厂计划,挺有意思。