grammar

general · 首次出现 2026-06-19 · 最近出现 2026-10-02 · 累计提及 14

综述

Grammar(语法)作为语言学与计算科学交叉的核心概念,既指自然语言的结构规则体系,也指在计算机科学中用于描述形式语言的文法。在大模型时代,grammar 一词正同时活跃于两个方向:一是用形式文法辅助分子生成、模型压缩等机器学习研究,二是探索大语言模型能否替代传统的语法工程(Grammar Engineering)工作。

grammar 相关研究近期进展

  • Higher-Order Molecular Grammars for Generative and Foundation Models in Chemistry:该研究提出将高阶分子文法引入化学领域的生成式模型与基础模型,用形式文法结构约束分子生成过程,提升化学空间探索的可控性与可解释性。
  • Weight Pair Encoding: Inducing a Smaller Grammar in Neural Network Weights:这项工作尝试从神经网络权重中归纳出更小的 grammar 表示,探索模型压缩的新路径,将文法思想从输入序列迁移到参数空间。
  • Grammar Engineering Meets LLMs: Development of Cantonese and Irish ParGram Treebanks 与 How Useful are LLMs for Grammar Engineering? Cantonese ParGram Resources and Controlled Experimental Evaluation with English Baselines:两项研究以粤语和爱尔兰语为对象,通过对照实验评估 LLM 在语法工程中的实际效用,并与英语基线进行比较,为低资源语言的树库建设提供了实证参考。
  • 工程实践方面,Vercel 团队 @shuding 发布了一个在浏览器里做语法高亮的小型神经网络模型「gpu-lexer」:该模型仅 27.5KB,推理跑在 WebGPU 上,展示了用轻量神经网络替代传统语法规则解析器的可行性。
  • 当前焦点与观察点

    grammar 相关讨论目前的焦点集中在“形式文法与神经网络的融合”上。一端是文法作为先验约束被引入生成模型,例如分子文法在化学基础模型中的应用;另一端是神经网络反过来学习或归纳文法结构,如从权重中提取更小的 grammar,或在浏览器端用 27.5KB 的模型完成词法/语法高亮任务。

    语言学层面,LLM 是否能胜任传统上依赖专家手工编写的语法工程,仍存在争议。粤语 ParGram 等低资源语言的实验表明,大模型在特定语言上的表现与英语基线存在差距,语法资源的构建尚不能完全交给自动化方法。后续值得关注的观察点包括:高阶分子文法能否在化学基础模型中形成可复用的范式,以及文法归纳类方法在模型压缩上的实际收益。

    相关报道

    9 条在档
    grammar · AI 话题观测|AI热报