#注意力计算

1 条

9月4日

论文精选73°11:19

硬件感知的FP4 FlashAttention-4

NVIDIA研究团队推出Direct-P方法，解决了Blackwell FP4张量核心在注意力计算中的瓶颈问题。

#FlashAttention-4 #FP4 #Blackwell #Direct-P

官方账号arXiv cs.LG@Robert Hu原文