Transport(最优传输)是一种数学方法,用于衡量和转换不同概率分布之间的距离,近年来在人工智能领域特别是深度学习中获得广泛应用。2024年6月至8月间,Transport相关研究在机器学习多个子领域取得了显著进展,包括强化学习、Transformer架构优化和流匹配等方向。
Transport 近期进展
2024年6月20日,CDOT成为首个凸最优传输框架,能够对齐异构域分布并保持几何结构,为跨领域学习提供了新方法。CDOT:首个凸最优传输框架,对齐异构域分布并保持几何结构
2024年6月28日,RLDT提出用强化学习微调流匹配策略,通过密度传输对齐奖励区域,解决了强化学习中的分布对齐问题。RLDT:用强化学习微调流匹配策略,密度传输对齐奖励区域
2024年7月10日,ITSPACE提出了一种单调高斯最优传输更新方法,改进了传统传输算法的效率和稳定性。ITSPACE:一种单调高斯最优传输更新方法
当前焦点与观察点
Transport技术在Transformer架构中的应用日益深入,2024年6月17日提出的Signed-Permutation Coordinate Transport方法优化了RMSNorm Transformers的训练过程,提高了模型性能。Signed-Permutation Coordinate Transport for RMSNorm Transformers
2024年7月,OpenRouter推出Claude MCP快速接入功能,只需两条命令一分钟内即可连接模型,展示了Transport技术在模型部署中的实际应用价值。OpenRouter 推出 Claude MCP 快速接入:两命令一分钟连模型
A16Z于2024年8月投资Atoms公司,Ben Horowitz加入董事会,表明资本市场对Transport相关技术的持续看好。a16z 投资 Atoms,Ben Horowitz 加入董事会