JEPA（Joint Embedding Predictive Architecture）是一种自监督学习框架，通过预测目标表示来学习数据表征，目前在计算机视觉、机器人技术和医疗影像分析等多个领域展现出广泛应用前景。2023年以来，JEPA及其变体已成为人工智能研究热点，特别是在自监督表征学习领域取得了显著进展。
JEPA 近期进展
从2023年9月至2024年8月，JEPA框架在多个领域取得了重要突破。Tactile-JEPA是一种拓扑感知的自监督触觉表征学习方法，通过原文标题提出了一种新的触觉数据处理方式。Semigroup-JEPA模型在9月发布，实现了零样本物理泛化能力，为物理系统模拟提供了新思路原文标题。Orthogonal JEPA于8月提出，通过正交预测状态分解优化了潜在世界模型原文标题。MR-JEPA作为心脏MRI通用视频基础模型，在医疗影像分析领域展现出强大潜力原文标题。
当前焦点与观察点
JEPA框架目前主要聚焦于提升模型的泛化能力和效率。LeVJEPA于8月提出，实现了高效可扩展的视频预训练方法，解决了传统视频预训练计算成本高的问题原文标题。CSWAM模型结合JEPA思想，提升了机器人的环境适应能力，为机器人技术发展提供了新方向原文标题。值得注意的是，JEPA在能源预测领域也有应用，一种用于能源预测的自监督框架JEPA于9月被提出，展示了该技术在跨领域的适用性原文标题。