主要来源arXiv: DeepSeek
查看原文事件专题 ·官方一手
GraphTok：GPU加速的LLM分词器
GraphTok将整个编码流程在GPU上运行，从预分词到字节对编码(BPE)合并再到token-ID组装。该分词器在GPT-2、Llama 3、Qwen 2.5、DeepSeek-V3和Gemma 3上能精确复现参考token ID。处理100万个GPT-2 token仅需1.7-3.2毫秒，比gigatoken CPU分词器快4.7-6.0倍。在vLLM中使用缓存前缀时，将平均TTFT降低2.1-2.4倍。
当前结论
GraphTok把分词从CPU移到GPU，在121k-token流量下每秒处理518个请求，比gigatoken提升75%。
6 个信源58° AI 热度最后更新 2026/10/9 10:05:09
证据链
6 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。