Machine learning 深度学习涉及哪些算法？

到目前为止，我知道深度学习是机器学习的一个子集。我知道一些算法及其实现，比如机器学习中的KNN、朴素贝叶斯等。是否有任何特定的算法集来表示和实现深度学习？

混合特定ML概念的“算法”、“方法”、“模型”和“实现”是一个常见的错误概念。ML社区中定义的大多数东西都是模型或方法，而不是算法或实现。粗略地说：

• 模型是以数学方程/公式的形式表示实际过程的一种形式。其中一个模型可以是最近邻分类器或线性分类器
• 方法通常是一种处理问题的形式，即使用一些数据（例如，常用于训练ML模型的梯度优化方法）来找到模型的参数
• 算法是一组指令，通常用一些伪代码表示创建给定方法的某些实现所需的确切操作
• 最后，实现是一段实现某种抽象算法的代码

因此，现在，深度学习只是ML中的一个一般概念，它还没有明确的定义，尽管它通常用于涉及数据表示的分层抽象的模型以及训练此类模型的方法

最常见的DL模型是深度神经网络，换句话说神经网络，它具有多个（多少？有人说是5个、其他10个或30个）非线性隐藏层。一些模型包括：

• 深玻耳兹曼机器（DBM）
• 深度自动编码器（DAE）
• 深卷积神经网络（DCNN）
• 递归神经网络（RNN）

一般来说，模型可以是深度，并且可以有用于深度学习的方法、算法或用于深度学习的算法的实现。其中一些算法是

• 对比差异（CD）
• 持续收缩散度（PCD）

---

用于训练DBMs

深度学习是受人脑工作启发的机器学习的一个子集。它涉及到训练大量的神经元，建立一个模型，然后使用这个模型预测一些新的观察结果。 深度学习有两类学习，涉及各种类型的模型（不应称为算法），如下所述：

有监督的深度学习：在监督下学习，即提供大量输入和输出数据集，并训练模型，然后使用此训练模型预测新数据观测的输出。 主要有三种类型的深度学习模型

人工神经网络：用于回归和分类。简单文本数据示例

卷积神经网络：用于图像分类和计算机视觉

递归神经网络：用于时间序列分析和长短期记忆。从一种语言到另一种语言的翻译示例

无监督深度学习：自主学习。主要有三种类型的模型：

自组织映射：用于特征检测

深玻尔兹曼机器：用于推荐系统

---

自动编码器：用于推荐系统

以下算法涉及深度学习：

深度学习可以定义为在四种基本网络结构之一中具有大量参数和层的神经网络

• 无监督预训练网络
• 卷积神经网络
• 递归神经网络
• 递归神经网络