模型Agent 与开发者精选11:10vLLM 数据:配对 4:8 稀疏让 Kimi-K2.5 推理提速 1.18 倍搞推理部署的可以看看:B200 上 4:8 稀疏让 MoE 专家层快 1.35-1.65 倍,Kimi-K2.5 实测也有 1.18 倍。#vLLM#Kimi-K2.5#B200#4:8稀疏官方账号vLLM@vllm_project原文稍后读已读值得跟进有用关注 vLLM
行业中美对照多源确认10:16Token 打折 GPU 涨价:OpenAI 降价 62%,B200 租金涨 50%一组挺反直觉的数据:OpenAI 降价 62%,B200 租金反而涨 50%,想理解推理成本逻辑的可以看看。#OpenAI#DeepSeek#B200#H20010 个信源在谈事件专题AI Will@FinanceYF511 个信源在谈原文稍后读已读值得跟进有用关注 OpenAI
产品中美对照精选08:34英伟达B200二手溢价达首发价158%,AI算力需求推高GPU溢价朋友,英伟达B200二手现在比首发价还贵,AI算力需求太火了,连折旧模型都失效了,你懂的。#英伟达#B200#GPU#AI算力IIT之家原文稍后读已读值得跟进有用关注 英伟达
行业中美对照多源确认精选17:59芝商所将推NVIDIA GPU租赁价格指数期货芝商所要把GPU租赁价格变成期货了,H100和B200都能交易,企业以后可以锁定算力成本,不用再怕价格暴涨。#NVIDIA#H100#B200#芝加哥商品交易所7 个信源在谈事件专题IIT之家8 个信源在谈原文稍后读已读值得跟进有用关注 NVIDIA
模型中美对照多源确认00:12NVIDIA发布Blackwell GPU B200WSJ详细介绍了Blackwell B200的架构和性能,想了解最新AI芯片的来看看。#NVIDIA#Blackwell#B200#GPU10 个信源在谈事件专题小互@imxiaohu11 个信源在谈原文稍后读已读值得跟进有用关注 NVIDIA
模型精选10:38vLLM预填充拆分解码:TileRT解码引擎在GLM-5.1上达618 tok/svLLM拆开预填充和解码,TileRT提供低延迟解码,单用户618 tok/s,适合实时助手。#vLLM#TileRT#GLM-5.1-FP8#B200官方账号vLLM@vllm_project原文稍后读已读值得跟进有用关注 vLLM