fractalyze_io 优化 Qwen3-Omni，单卡 RTX 5090 首音频延迟降至 23ms
有人在单张 RTX 5090 上跑 Qwen3-Omni，用 AWQ-4bit 把首音频延迟从 213ms 压到 23ms，本地语音对话流畅度差了近十倍。
#AWQ量化
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「AWQ量化」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月5日
有人在单张 RTX 5090 上跑 Qwen3-Omni，用 AWQ-4bit 把首音频延迟从 213ms 压到 23ms，本地语音对话流畅度差了近十倍。
