CLIP（对比学习视觉-语言统一表示）2021CLIP利用对比学习训练视觉和文本编码器，实现零样本图像分类开创视觉-语言对比学习，统一多模态表示的里程碑2022MaskCLIP引入遮挡蒸馏提升局部patch表征和对齐能力强化局部特征的跨模态对齐效果2023HiCLIP利用层级注意力自动发现视觉与文本层级语义结构跨模态对齐更加精细和语义丰富2024MS-CLIP参数共享编码器，实现多模态统一，减少参数量提升模型效率与跨模态表达能力