多模态AI是指能够同时处理和理解多种类型数据(如文本、图像、音频、视频等)的人工智能系统,目前正处于快速发展阶段,正在从单一模态向跨模态融合演进。
多模态近期进展
80%准确率:OpenAI GPT-6 Astra能够识别IKEA家具组装错误,展现了多模态AI在视觉理解和实际应用场景中的强大能力,标志着AI从纯文本理解向物理世界交互的重要转变。
4B参数:Cua开源了Cua-S1-4B-0.2多模态操作模型,这一轻量级多模态模型为开发者提供了更多可能性,降低了多模态AI的应用门槛。
20人实时交互:Odyssey发布的Agora-2支持20人与AI同处实时生成的虚拟世界交互,展现了多模态AI在虚拟社交和元宇宙领域的应用前景。
当前焦点与观察点
多模态AI正朝着更自然的人机交互方向发展,如Meta与NVIDIA合作的Muse Realtime Avatar项目,以及阿里达摩院开源的RADAR腹部CT诊断模型,展示了医疗领域的多模态应用潜力。
OpenAI近期修复了GPT-6 Sol和GPT-6 Luna图像理解退化的bug,表明多模态模型仍面临技术挑战,需要持续优化。
Microsoft将办公软件深度整合进Copilot助手,体现了多模态AI与传统软件结合的趋势,未来多模态技术可能成为各类应用的标配能力。