深度学习是什么？与机器学习主要差异解析

2016年，AlphaGo击败韩国围棋冠军李世石的消息席卷全球媒体，当时“深度学习”迅速成为高频热词。而新版本的AlphaGo Zero则将深度学习推向了全新高度——它不再依赖人类棋手的棋谱进行训练，而是完全通过自我对弈，在与自己的无数次较量中学会围棋。经过一段时间的自主学习，它反过来击败了那个曾战胜李世石、完胜柯洁的旧版AlphaGo。

这一突破揭示了一个事实：机器确实开始具备了某种学习能力。它从训练中获得的，不再仅仅是规则和对象信息，还学会了识别对象出现的可能条件。换句话说，它开始能够“感知”和捕捉可能性，而不仅仅是处理既定数据。这个过程是非线性的、概率驱动的，通过持续反馈调整，层层递进、逐时深化，最终形成一个准发生的、具有真实时间历程的习得过程。

什么是深度学习？

深度学习是机器学习的一种特殊形式，它采用的人工神经网络在输入节点和输出节点之间包含了许多“深度”层。通过基于大量数据集训练网络，最终创建一个模型，能够根据输入数据做出极为精确的预测。在深度学习的神经网络中，每一层的输出都会前馈到下一层的输入。通过反复调整各层之间连接的权重，不断优化模型。每一个训练周期，模型预测的准确度反馈都会被用来指导这些连接权重的调整。

输入和输出之间含有“深度”隐藏层的神经网络：

相对输入加权的更改：

人工智能、机器学习与深度学习

从上图可以清晰看到，最早出现的人工智能位于同心圆的最外层；随后发展起来的机器学习位于中间；而推动人工智能突飞猛进的深度学习，则位于最核心的内侧。

自20世纪50年代那波人工智能热潮以来，基于人工智能概念的机器学习和深度学习又掀起了一股前所未有的新浪潮。

1956年，几位计算机科学家在达特茅斯会议上首次提出了“人工智能”这个概念。从此，人工智能便一直在人们的脑海中盘旋，并在科研实验室中积蓄力量。接下来的几十年里，人工智能的口碑两极分化——有人把它看作开启人类文明辉煌未来的钥匙，也有人觉得它不过是科技疯子的狂想，迟早要被丢进技术的垃圾堆。其实在2012年之前，这两种看法一直势均力敌。

不过过去几年，尤其是2015年以后，人工智能的发展速度令人瞠目。这主要归功于图形处理器（GPU）的广泛应用，使得并行计算变得更快、更便宜、更高效。当然，存储能力的无限拓展和爆发式增长的大数据（图像数据、文本数据、交易数据、映射数据全面海量爆发）也功不可没。

机器学习——实现人工智能的方法

机器学习最基本的做法，就是使用算法来解析数据、从中学习，然后对真实世界中的事件做出决策和预测。与传统那种为特定任务硬编码的软件程序不同，机器学习是用海量数据来“训练”，通过各种算法从数据中学会如何完成任务。

机器学习直接脱胎于早期的人工智能领域。传统的算法包括决策树学习、推导逻辑规划、聚类、强化学习和贝叶斯网络等。众所周知，我们至今还没有实现强人工智能，早期机器学习方法甚至连弱人工智能都难以达到。

机器学习最成功的应用领域之一是计算机视觉，不过它仍然需要大量手工编码来完成工作。人们需要手动编写分类器、边缘检测滤波器，让程序能识别物体从哪里开始、到哪里结束；还要写形状检测程序来判断检测对象是不是有八条边；再写分类器来识别字母“ST-O-P”。借助这些手工编写的分类器，才终于能开发出算法来感知图像，判断一幅图像是不是一个停止标志牌。

深度学习——实现机器学习的技术

人工神经网络是早期机器学习中的一个重要算法。神经网络的原理受到大脑生理结构——互相交叉相连的神经元——的启发。但与大脑中一个神经元可以连接一定距离内的任意神经元不同，人工神经网络具有离散的层、连接和数据传播的方向。

举个例子，我们可以把一幅图像切分成图像块，输入到神经网络的第一层。第一层的每一个神经元都数据传递到第二层，第二层的神经元同样把数据传递到第三层，以此类推，直到最后一层，然后生成结果。

每一个神经元都为它的输入分配权重，这个权重是否正确与其执行的任务直接相关。最终的输出由这些权重加总来决定。

拿停止标志牌来说：将标志牌图像的所有元素都打碎，然后用神经元进行“检查”——八边形的外形、救火车般的红颜色、鲜明突出的字母、交通标志的典型尺寸、静止不动的运动特性等等。神经网络的任务就是给出结论：它到底是不是一个停止标志牌？神经网络会根据所有权重，给出一个经过深思熟虑的猜测——也就是“概率向量”。

在这个例子里，系统可能会给出这样的结果：86%可能是一个停止标志牌；7%可能是一个限速标志牌；5%可能是一个风筝挂在树上……然后网络结构会告诉神经网络，它的结论是否正确。

其实早在人工智能出现的初期，神经网络就已经存在了，但当时它对“智能”的贡献微乎其微。主要原因在于，即使是最基本的神经网络，也需要海量的运算。神经网络算法的运算需求在那个年代根本得不到满足。

如今，经过深度学习训练的图像识别，在某些场景中甚至比人做得更好：从识别猫，到辨别血液中癌症的早期成分，到识别核磁共振成像中的肿瘤。Google的AlphaGo先是学会了如何下围棋，然后与自己下棋训练——它训练自己神经网络的方法，就是不断地与自己下棋，反复地下，永不停歇。

深度学习的相关技术

深度学习让那些拥有多个处理层的计算模型能够学习具有多层次抽象的数据表示。这些方法在语音识别、视觉对象识别、对象检测等许多领域都带来了显著的改善。深度学习能发现大数据中的复杂结构。深度卷积网络在处理图像、视频、语音和音频方面实现了突破，而递归网络在处理序列数据（比如文本和语音）时则表现出色。

几十年来，要构建一个模式识别系统或机器学习系统，需要一个精致的引擎和相当专业的知识来设计一个特征提取器，把原始数据（如图像的像素值）转换成适当的内部特征表示或特征向量，然后由学习系统（通常是一个分类器）对输入样本进行检测或分类。特征表示学习，就是给机器灌入原始数据，让它自动发现需要进行检测和分类的表达。

深度学习正是一种特征学习方法：把原始数据通过一些简单的但非线性的模型，转变成为更高层次、更加抽象的表达。通过足够多的转换组合，非常复杂的函数也能被学会。

监督学习

机器学习中，不论是不是深层，最常见的形式是监督学习。我们要建立一个系统，它能够对包含一座房子、一辆汽车、一个人或一个宠物的图像进行分类。我们先收集大量房子、汽车、人与宠物的图像数据集，并对每个对象标上它的类别。训练期间，机器会获取一幅图片，然后产生一个输出——以向量形式的分数表示，每个类别都有一个这样的向量。我们希望所需的类别在所有类别中具有最高的得分，但这在训练之前几乎不可能发生。通过计算一个目标函数，可以获取输出分数和期望模式分数之间的误差（或距离）。然后机器会修改内部可调参数来减少这种误差。这些可调节参数通常被称为权值，它们是一些实数，定义了机器的输入输出功能。

在典型的深度学习系统中，可能有数以百万计的样本和权值，以及带有标签的样本来训练机器。为了正确调整权值向量，学习算法会计算每个权值的梯度向量，表示如果权值增加一小点，误差会增加或减少的量。权值向量然后在梯度矢量的相反方向上进行调整。目标函数（所有训练样本的平均）可以被看作是一种在权值的高维空间上的多变地形。负的梯度矢量表示在地形中下降方向最快，使其更接近于最小值——也就是平均输出误差最低的地方。

卷积神经网络

卷积神经网络被设计用来处理多维数组数据，比如一个有3个包含像素值的2D图像组合成的彩色图像（具有3个颜色通道）。很多数据形态都是这种多维数组：1D用来表示信号和序列（包括语言），2D用来表示图像或声音，3D用来表示视频或有声音的图像。卷积神经网络使用四个关键想法来利用自然信号的属性：局部连接、权值共享、池化以及多网络层的使用。

一个典型的卷积神经网络结构由一系列过程组成。最初的几个阶段由卷积层和池化层组成。卷积层的单元被组织在特征图中，在特征图中，每一个单元通过一组叫做滤波器的权值连接到上一层的特征图的一个局部块，然后这个局部加权和被传给一个非线性函数（比如ReLU）。在一个特征图中的全部单元享用相同的过滤器，不同层的特征图使用不同的过滤器。使用这种结构出于两方面的原因：

1. 在数组数据（比如图像数据）中，一个值附近的值经常是高度相关的，可以形成比较容易探测到的有区分性的局部特征。

2. 不同位置的局部统计特征不太相关，也就是说，在一个地方出现的某个特征，也可能出现在别的地方，所以不同位置的单元可以共享权值以及探测相同的样本。在数学上，这种由一个特征图执行的过滤操作是一个离线的卷积（卷积神经网络也因此得名）。

深度神经网络利用了自然信号层级组成的属性——高级特征是通过对低级特征的组合来实现的。在图像中，局部边缘的组合形成基本图案，这些图案形成物体的局部，然后再形成物体。这种层级结构也存在于语音数据和文本数据中，比如电话中的声音、因素、音节，文档中的单词和句子。当输入数据在前一层中的位置有变化时，池化操作让这些特征表示对这些变化具有鲁棒性。

使用深度卷积网络进行图像理解

21世纪以来，卷积神经网络被成功大量用于检测、分割、物体识别以及图像的各个领域。这些应用都使用了大量有标签的数据，比如交通信号识别、生物信息分割、面部探测、文本、行人以及自然图形中的人的身体部分的探测。近年来，卷积神经网络的一个重大成功应用是人脸识别。

图像可以在像素级别打标签，从而应用于自动电话接听机器人、自动驾驶汽车等技术中。像Mobileye和NVIDIA公司正在把基于卷积神经网络的方法用于汽车视觉系统。其他应用涉及自然语言理解和语音识别。

如今的卷积神经网络架构有10～20层，采用ReLU激活函数，拥有上百万个权值以及几十亿个连接。训练如此大的网络两年前还需要几周时间，而现在硬件、软件以及算法并行的进步，又把训练时间压缩到了几小时。

卷积神经网络很容易在芯片或现场可编程门阵列（FPGA）中高效实现，许多公司正在开发卷积神经网络芯片，以使智能机、相机、机器人以及自动驾驶汽车中的实时视觉系统成为可能。

递归神经网络

引入反向传播算法时，最令人兴奋的便是使用递归神经网络训练。对于涉及序列输入的任务（比如语音和语言），利用RNN能获得更好的效果。RNN一次处理一个输入序列元素，同时维护网络中隐式单元中包含的、过去时刻序列元素历史信息的“状态向量”。如果是深度多层网络不同神经元的输出，我们就会考虑在不同离散时间步长的隐式单元的输出，这会使我们更清楚如何利用反向传播来训练RNN。

RNN是非常强大的动态系统，但训练它们被证实是存在问题的——因为反向传播的梯度在每个时间间隔内会增长或下降，经过一段时间后将导致结果激增或降为零。

得益于先进的架构和训练方式，RNN被发现可以很好地预测文本中下一个字符或句子中下一个单词，并且能应用于更复杂的任务。例如，在某个时刻读取英语句子中的单词后，训练一个英语的“编码器”网络，使得隐式单元的最终状态向量能够很好地表征句子所要表达的意思或思想。这种“思想向量”可以作为联合训练一个法语“编码器”网络的初始化隐式状态（或额外的输入），其输出为法语翻译首单词的概率分布。如果从分布中选择一个特殊的首单词作为编码网络的输入，将会输出翻译句子中第二个单词的概率分布，直到停止选择为止。

总体而言，这一过程是根据英语句子的概率分布而产生法语词汇序列。这种简单的机器翻译方法的表现甚至能与最先进的方法相媲美，同时也引起了人们对理解句子是否需要像使用推理规则操作内部符号表示的质疑。这与日常推理中同时涉及根据合理结论类推的观点是匹配的。

机器学习和深度学习的主要差异

深度学习和机器学习都提供了训练模型和分类数据的方法，那么两者到底有什么区别？

使用标准的机器学习方法，我们需要手动选择图像的相关特征来训练模型。模型在对新对象进行分析和分类时，会引用这些特征。

而通过深度学习的工作流程，可以从图像中自动提取相关特征。另外，深度学习是一种端到端的学习：网络被赋予原始数据和分类任务，它可以自动完成一切。

另一个关键区别在于，深度学习算法随着数据量的提升而持续改进，而浅层学习（传统机器学习）在数据到达一定规模后，性能会达到平台期。浅层学习指的是当用户向网络中添加更多示例和训练数据时，机器学习方式能在特定性能水平上达到平台。

如果需要在深度学习和机器学习之间做出选择，用户需要明确自己是否拥有高性能GPU和大量标记数据。如果没有这些条件，机器学习反而比深度学习更具优势。因为深度学习通常比较复杂，就图像而言可能需要几千张图片才能获得可靠结果。高性能GPU能帮助用户在建模上花更少时间分析所有图像。

如果选择机器学习，用户可以在多种不同的分类器上训练模型，也能知道哪些功能可以提取出最好的结果。此外，通过机器学习，可以灵活选择多种方式的组合，使用不同的分类器和功能来查看哪种排列最适合数据。

所以，总的来说，深度学习的计算量更大，而机器学习技术通常更易于使用。

深度学习，给人工智能以璀璨的未来

深度学习使机器学习得以实现众多应用，并拓展了人工智能的领域范围。深度学习摧枯拉朽般地完成了各种任务，似乎所有机器辅助功能都变得可能。无人驾驶汽车、预防性医疗保健，甚至是更好的电影推荐，都已经近在眼前，或者即将实现。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：深度学习是什么？与机器学习主要差异解析要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题