General Compute CTO:推理速度是 AI 编程工具的下一个关键变量
General Compute 的 CTO 在讲为什么编程智能体的等待时间值得从一小时压到几秒,给高薪工程师省时间这事真有算盘可打。
General Compute 的 CTO 在讲为什么编程智能体的等待时间值得从一小时压到几秒,给高薪工程师省时间这事真有算盘可打。
neocloud 公司 General Compute 拿了 1 亿美元 A 轮,专门用 Nvidia 之外的芯片做推理,算是对 neocloud 泡沫论的一次回应。
Prefill 跑 GPU、decode 交给 Positron 的内存优先芯片,合成一个端点卖,思路挺聪明的,讲清了为啥推理瓶颈在内存不在算力。
General Compute用4亿美元采购Cerebras,试图挑战NVIDIA在AI云服务领域的垄断地位。