11:00
elvis@omarsar0
elvis@omarsar0精选
推荐理由：Google的新研究发现，给模型喂对TPU文档，比堆参数管用。JAXBench测50个真实负载，结果很实在。
Llama-3.1
共 2 条相关 AI 资讯
7月27日
11:00
Google、哈佛、UC Berkeley联合发布JAXBench，包含50个JAX工作负载，基于Llama-3.1、DeepSeek-V3、Mixtral、Mamba-2、AlphaFold2等真实架构。通过Gemini 3 Flash结合TPU文档优化，正确率从5.8%提升到37.3%，解决48个基准，速度提升1.28倍。束搜索进一步提速至1.36倍。研究表明正确率是文档问题，速度是搜索问题。
6月26日
10:17
10:17
官方一手arXiv: DeepSeek@Jushi Kai, Zhuiri Xiao, Alexandra Birch, Zhouhan Lin
推荐理由：这篇论文提出了InfoKV，用信息熵改进KV缓存压缩，在Llama-3.1和DeepSeek-R1上比传统注意力方法效果更好，适合关注长推理效率的人。