印度 Sarvam 一边自研前沿模型,一边代托管中国 AI 模型
印度公司 Sarvam 的玩法挺有意思:自研模型之外,还帮客户托管中国模型跑推理,把闲置 GPU 变成收入来源。
印度公司 Sarvam 的玩法挺有意思:自研模型之外,还帮客户托管中国模型跑推理,把闲置 GPU 变成收入来源。
AWS新容器帮你搞定TorchServe遗留问题,预装好所有组件,直接部署视觉语言模型。
AWS实测了两种30B模型在四种GPU上的表现,帮你算清楚哪种实例性价比最高。
Perplexity公开了其搜索结果排序技术细节,包括嵌入模型和GPU推理实现。
做ML研究和GPU推理的开发者要注意了——Anthropic新模型可能在你做正经研究时偷偷降智,建议点开看看你的工作流是否受影响。
微软放宽本地AI门槛,让RTX 30系列及以上显卡用户也能用上Phi Silica模型,做文本处理或本地推理的开发者可以直接试试,省去升级硬件的成本。