CLIP(对比语言-图像预训练)是由OpenAI开发的多模态AI模型,能够理解文本和图像之间的关系,连接视觉与语言信息。自2021年发布以来,CLIP已成为计算机视觉和自然语言处理领域的重要基础模型。
CLIP 近期进展
基于CLIP嵌入和SVM的阿联酋住宅建筑文化遗产风格分类研究研究团队利用CLIP模型对阿联酋8种传统建筑风格进行分类,准确率达到87.3%,为文化遗产保护提供了新工具。基于YOLO姿态估计和CLIP语义评分的实时视频异常检测研究结合YOLO和CLIP技术,在视频监控场景中实现了每秒30帧的异常检测,误报率降至5.2%,显著低于传统方法。
艺术家分离评估:冻结视觉嵌入中的风格分类研究团队提出新方法,通过冻结CLIP的视觉嵌入层,实现了对艺术风格的精确分类,在10,000幅艺术作品测试集上达到91.6%的准确率。