GLM 5.2 在 Together AI 上跑出了最快速度和最低延迟,想用低成本跑推理的话可以去试试这个组合。
#Together AI
Tri Dao带队,Together AI、NVIDIA和Lyra Labs一起聊AI研究走向,ICML现场限定,想去的赶紧RSVP。
DecagonAI联合创始人在NYT说,把任务从闭源模型换到Together AI上的开源模型,成本只要原来的五分之一到七分之一,省太多了。
NVIDIA刚推的Nemotron 3 Ultra在Together AI上火了,几天就在OpenRouter冲到每天350亿token用量,社区超爱这种又快又省又好改的开放模型。
Together AI搞了个新基准ParallelKernelBench,专门测AI写多GPU CUDA代码的能力,比单核测试更贴近真实场景。
Together AI 拿了 8 亿美金融资,估值冲到 83 亿,专门做开源模型的 GPU 云服务,跟传统云厂商打差异化。
想知道多智能体怎么一起搞科研、怎么评估数据科学智能体?James Zou 分享了两个新基准,很实用。
Together AI 把 Parakeet 优化到每秒转写 302 秒音频,比别的服务快一大截,想搞语音识别的可以看看这篇系统调优拆解。
想了解 agentic coding 对推理引擎的新要求?Together AI 的这个实操 workshop 直接带你上手,时间是6月29日上午。
Together AI和5C搞了套GB300 NVL72,算力密度高、散热好,专门跑大规模推理,适合那种费算力的长推理任务。
Together AI 搞了个语音智能体 demo,能边看屏幕边说话,用了 Parakeet、MiniMax Speech 2.8 和 M3,实时性很强。
OpenAI 的新图像模型 GPT Image 2 现在能用 Together AI 的无服务器接口调用了,做多模态应用时直接用它生成和编辑图片,支持布局和文字控制,挺方便。
看看 Together AI 怎么用 MiniMax M3 把开放模型做大,跑几十亿 tokens 还省钱。不是吹概念,是实打实的缓存和吞吐量优化。
Together AI 集成了 Cartesia Sonic 3.5,有150多种语音可选,做实时语音智能体可以试试这个新库。
Together AI 把 DeepSeek V4 Pro 调到了速度与延迟双第一,还公开了优化方法,搞推理部署的值得看看。
长上下文训练一直是显存大户,Untied Ulysses 让单节点就能跑 3M token,做 LLM 训练和推理优化的团队值得关注,能省下不少 GPU 预算。
AI 编程工具的实时性直接决定开发效率,Cursor 用户和关注 AI 编程的团队值得了解 Together AI 如何解决延迟痛点。
对于使用 Together AI 云服务的企业团队,这项认证意味着数据保护和安全合规有了国际背书,建议关注其安全实践细节。
做推理模型部署的团队会关心这个案例——Together AI帮DeepCogito在创业节奏下实现了500ms首令牌延迟,值得点开看看他们怎么做到的。
做设计或创意生产的团队终于有了开源的高质量图像模型——Ideogram 4 的文字渲染和布局控制解决了 AI 图像生成的常见痛点,建议设计师和 AI 开发者直接上手试试。
做智能体或语音应用的开发者现在有了更专业的模型选择——Nemotron 3 Ultra 适合高并发任务,Nemotron 3.5 ASR 能直接用于多语言实时语音场景,值得在 Together AI 上试试。
MiniMax M3 上线并由 Together AI 支持推理,意味着模型推理性能有保障,做 AI 应用开发的团队可以直接试用,值得关注。