无问芯穹联合《三体》IP推出角色智能体，首 token 延迟降低 51.5%
无问芯穹和三体宇宙合作做了个三体角色智能体，用 split inference 把首 token 延迟砍了一半多，做延迟敏感的 Agent 可以看看这个方案。
#AgentWorks
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「AgentWorks」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月27日
无问芯穹和三体宇宙合作做了个三体角色智能体，用 split inference 把首 token 延迟砍了一半多，做延迟敏感的 Agent 可以看看这个方案。