Conv(卷积神经网络,Convolutional Neural Network)是一种以卷积运算为核心、擅长提取局部空间特征的深度学习模型,长期主导计算机视觉任务。尽管 Transformer 在多个领域崛起,Conv 架构凭借计算高效、对硬件友好、小数据场景表现稳定等优势,仍在边缘设备、图像修复、联邦学习等场景中保持广泛使用。
Conv 近期进展
在分布式训练安全方向,联邦微调中的隐私泄露与后门投毒研究:FedAvg 攻击与 FLTrust 防御实测 一文对包含 Conv 模块的联邦微调流程进行了攻防实测。研究指出,经典 FedAvg 聚合方式在面对恶意客户端时存在隐私泄露与后门注入风险,而引入信任机制的 FLTrust 防御能在一定程度上缓解投毒影响。这提示 Conv 模型的联邦部署同样需要关注聚合安全。
在架构探索方向,ADPTNet:受听觉皮层启发的非线性SSM序列建模新架构 提出受听觉皮层启发的非线性状态空间序列建模方法,代表了以 SSM 为代表的新架构对传统 Conv 与注意力机制的补充尝试,反映出序列建模领域正在形成卷积、注意力、SSM 多路线并存的格局。
在应用落地方向,Porting the Moebius 0.2B image inpainting model to run in the browser with Claude Code 记录了将 0.2B 参数的 Moebius 图像修复模型移植到浏览器端运行的过程。这类轻量 Conv 系模型能直接在前端完成推理,说明小参数量视觉模型在浏览器等无 GPU 环境中的可行性正在提升。
当前焦点与观察点
当前围绕 Conv 的讨论主要集中在三点:一是与新架构(如 SSM、线性注意力)的关系,Conv 更常作为局部特征提取组件被融合进混合架构,而非独立竞争范式;二是部署效率,轻量化 Conv 模型在浏览器、移动端等资源受限场景的价值持续被验证;三是安全与鲁棒性,联邦学习、后门防御等研究方向正在把视觉模型的安全性纳入评测体系。后续值得观察的是混合架构能否在保持 Conv 效率优势的同时补齐长程建模能力,以及浏览器端推理生态是否会成为小模型分发的新入口。