Contrastive Learning(对比学习)
对比学习是一种无需人工标注的自监督学习技术,通过让模型在正样本对和负样本对之间进行区分,从而学会抽取通用的特征表示。该方法在图像、文本和视频领域表现突出,被认为是通向通用AI表征的重要路径之一。
一句话解释
对比学习是一种自监督学习方法,核心思想是让模型学会把相似的数据拉近,把不相似的数据推远,从而在没有标签的情况下提取高层次的语义特征。
为什么会被关注
传统深度学习依赖大量人工标注数据,成本高且难以扩展到新场景。对比学习利用数据本身的变换(如裁剪、旋转、加噪声)自动构造正负样本,在ImageNet等基准上取得了接近甚至超过有监督学习的效果。
它还推动了多模态理解(如CLIP)、少样本学习和迁移学习的发展,降低了AI应用的落地门槛,因此成为近年顶会论文的热点方向。
核心逻辑
对比学习的基本流程是:对每个输入样本,生成两个不同的增强版本作为正样本对,并从全局批次或存储队列中抽取其他样本作为负样本。模型通过一个对比损失函数(如NT-Xent损失)使正样本对的表征尽可能接近,负样本对的表征相互远离。
关键设计包括数据增强策略(决定什么变换不改变语义)、负样本的数量和质量(影响区分难度),以及避免模型坍塌的机制(如预测头、动量编码器)。代表性方法有SimCLR、MoCo和BYOL。
常见场景
在计算机视觉中,对比学习常用于预训练ResNet、ViT等骨干网络,后续再用少量标签微调,显著降低标注成本。例如医学影像分析中,利用对比学习从大量未标注CT图像学习通用解剖结构特征。
自然语言处理领域,对比学习被用于学习句子级的语义嵌入,通过同义句和无关句的对比提升检索和问答性能。推荐系统中,它可用于学习用户和物品的ID嵌入,通过用户点击序列构造正负样本。
容易混淆的点
对比学习不等于全部自监督学习。自监督学习还包括生成式(如掩码重建、图像补全)和预测式(如旋转预测)等方法,而对比学习仅依赖于样本之间的判别关系,并非生成内容。
对比学习与三元组损失(Triplet Loss)原理相似,但三元组损失通常在度量学习中使用固定锚点+一个正例+一个负例,而对比学习采用更灵活的批内负采样策略,并通常结合数据增强生成正例。
本文内容用于 AI 热词解释和概念整理,仅供学习和理解参考。若涉及表述偏差或内容修正,欢迎联系站点进行更新。
相关热词法院AI应用是指人工智能技术在司法领域的落地实践,包括智能辅助办案、类案自动推送、裁判文书生成、庭审语音识别等,旨在提升审判效率与公平性,减轻法官事务性负担。
法院AI部署是指将语音识别、文书生成、类案推送等人工智能技术集成到法院办案流程中,旨在提升审判效率、降低人为差错,并推动司法透明化。近年来,各地智慧法院试点加速,AI从辅助工具逐渐嵌入核心业务环节。
法院AI训练指利用裁判文书、法律法规等数据,训练机器学习模型以辅助司法工作,如案件分类、证据分析、量刑建议等。它并非替代法官,而是通过技术手段提升效率与一致性,正成为智慧法院建设的核心环节。
法院AI仿真利用人工智能技术对法庭场景、审判程序、辩论逻辑进行数字化模拟,用于法律教学、案件预演、证据推演等场景,帮助法官、律师和法学院学生更直观地理解司法过程。
法院AI建模是指运用人工智能技术,尤其是大语言模型和机器学习算法,对案件的事实要素、法律条文和历史判例进行结构化建模,辅助法官完成证据审查、量刑参考和文书生成的技术方案。

