GenAI > 基础概念 > 自监督学习

自监督学习

Supervised Learning（监督学习） 和 Self-Supervised Learning（自监督学习） 是两种常见的机器学习范式。它们在数据标注和训练方式上有本质的区别。以下是对它们的详细解释和比较：

监督学习 是机器学习中最传统、最常见的一种学习范式。在监督学习中，模型是在有标注的训练数据集上进行训练的。

输入与输出（标签）：
- 训练数据集包含输入数据（特征）和目标输出（标签），模型需要学习从输入数据到输出标签的映射关系。
- 比如，在图像分类任务中，输入可能是图像，输出是该图像的类别标签（如“猫”、“狗”等）。
训练过程：
- 在训练过程中，模型通过输入数据和标签的对比来调整内部参数，以便最小化预测输出和真实标签之间的误差。
- 常见的目标函数是交叉熵损失（分类任务）或均方误差（回归任务）。
常见应用：
- 图像分类
- 语音识别
- 自然语言处理中的文本分类（如情感分析）
- 回归任务（如房价预测）

优点：
- 当标注的数据量充足时，监督学习能够训练出性能非常好的模型。
- 易于理解和实施，广泛应用于工业生产环境中。
缺点：
- 数据标注依赖：监督学习需要大量标注数据，这在许多情况下会非常昂贵或难以获取（例如医疗图像分析中的数据标注通常需要专业知识）。
- 泛化能力有限：当训练数据和测试数据分布不同（即数据分布存在变化）时，模型的泛化能力可能不足。

自监督学习 是一种特殊的无监督学习，它的目标是在不依赖于人工标注数据的情况下进行训练。模型通过数据自身的信息生成“伪标签”，从而训练出能够理解数据结构的模型。

伪标签生成：
- 自监督学习利用输入数据本身生成训练任务。例如，给定一个输入数据，模型会从这组数据中构建一些相关的任务（通常称为“预训练任务”）。
- 常见的预训练任务包括：
  - 填补缺失部分：例如，给定一段文本，删除其中的某个单词，任务就是预测被删除的单词（如 BERT 模型的 masked language model）。
  - 预测未来部分：给定一段视频或音频，模型尝试预测接下来的帧或声音片段。
训练过程：
- 自监督学习中的模型首先在大量的无标注数据上进行预训练，模型通过解决这些自定义任务来学习数据的内在结构和模式。
- 预训练后的模型可以通过微调（fine-tuning）应用于特定任务上，例如文本分类、图像分类等。
常见应用：
- 语言模型（如 GPT 和 BERT）：通过自监督学习进行预训练，再用于下游任务（如问答、翻译等）。
- 图像理解：如图像的对比学习，模型通过自监督方式学习图像的表征（representation）。
- 多模态模型：可以通过自监督学习结合不同模态（如文本与图像）的相关性。

优点：
- 数据获取容易：由于不需要人工标注，自监督学习可以利用海量的无标注数据，这极大地降低了数据收集的成本。
- 通用性强：通过预训练，自监督学习模型能够学到非常广泛的特征，能够很好地适应多种不同的下游任务。
缺点：
- 训练复杂性较高：自监督学习的训练过程往往非常复杂，预训练任务的设计需要较多的实验与调优。
- 计算资源需求大：训练自监督学习模型，尤其是大规模模型（如 GPT-3），需要极其强大的计算资源。

方面	监督学习（Supervised Learning）	自监督学习（Self-Supervised Learning）
数据标注	需要大量的人工标注数据	不需要人工标注，使用数据自身生成伪标签
数据要求	标注数据较为昂贵和稀缺，特别是在特定领域	可利用海量的无标注数据
模型训练任务	输入数据与标签的映射学习	利用输入数据本身构建任务，学习数据的内在特征
应用场景	图像分类、回归任务、语音识别等	自然语言处理（NLP）、图像生成、表征学习、多模态任务
优点	直观且易于实现，标注数据丰富时性能优越	不需要标注，能够学习更通用的特征，适合大规模无监督预训练
缺点	标注数据难以获取，泛化能力有限	训练过程复杂，预训练任务设计和计算资源需求较高

监督学习（Supervised Learning） 是传统的机器学习方式，依赖于标注数据来训练模型，应用广泛，但数据标注成本高。
自监督学习（Self-Supervised Learning） 则是一种新兴的学习范式，利用数据自身生成伪标签进行训练，尤其适合无标注数据量大且模型预训练需求高的场景。自监督学习已经在自然语言处理（NLP）和计算机视觉（CV）中取得了显著的成功，成为深度学习领域的热门研究方向。