DSGNAR：物理信息神经网络的良态训练优化框架
PINNs一直跑不过传统方法，DSGNAR用二阶优化解决了问题，精度和速度都大幅提升，代码已开源，值得看看。
#二阶优化
共 4 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「二阶优化」标签的资讯、产品与论文，按刊登时间排，新的在上。
7月3日
6月12日
论文13:44
S-GBT：二阶平滑增长张量提升NLP模型对抗词替换攻击的鲁棒性NLP安全研究者终于有了兼顾梯度与曲率的防御方法——S-GBT在词替换攻击下将认证鲁棒准确率提升23.4%，做文本对抗防御的团队值得关注。
5月18日
ML-FOP-SOAP：二阶优化器解决多模态模型模态竞争问题
多模态模型训练中模态竞争是常见痛点，做多模态预训练或大batch训练的团队可以直接参考这个二阶优化方案，能显著提升训练效率和稳定性。
Asteria：运行时编排二阶优化，让大模型训练更高效
Asteria 让二阶优化从理论走向实用，做大模型训练的团队可以大幅降低显存压力，同时保持收敛速度优势，值得关注其开源进展。