#n-gram

共 5 条 · 7 天 1 条 · 30 天 2 条
信息流里打上「n-gram」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月18日
tree-grams:层次化 n-gram 模型成为可控的语言近似器

搞理论或调参的人可以看看这篇:tree-grams 让你能像拧旋钮一样控制语言模型的上下文长度和容量,用它生成可控数据做 μP 超参迁移实验,比直接在大语料上试更稳。还能剪掉 95% 的拓扑不损性能,思路对构建小型可解释模型也有启发。

arXiv cs.AI@Aritra Das 等 6 人原文
10月23日
10月16日
10月9日
10月2日