神经网络（Neural Network）是一种模仿生物神经网络（动物的中枢神经系统，特别是大脑）结构和功能的数学模型或计算模型。
分类
卷积神经网络CNN
CNN(Convolutional Neural Network, 卷积神经网络)
- 一般应用在图像识别、检测、分类与检索、超分辨率重构、医学任务、人脸识别、无人驾驶等领域
- 实现架构
输入层(Input Layer)卷积层(Convolutional Layer) 用来提取特征，涉及参数：滑动窗口步长、卷积核尺寸、边缘填充（一般为0），卷积核个数
- RGB图片分为 R、G、B 3层来处理数据，
32*32 的图片 = 32*32*3
- 特征是更小的块（如
5*5*3）与原始图同样大小的块做乘积
池化层(Max Pooling Layer) 用来降采样(downsampling)，却不会损坏识别结果全连接层(Fully Connected Layer) 用来为结果分类
- 参数：
32*32*3的图，使用10个5*5*3的filter进行卷积操作，需要的权重参数：5*5*3*10+10(每个卷积层的偏置参数)=760
- 卷积层和全连接层设计计算，为模型的层数
- 实现如：2012 年提出的 Alexnet
生成对抗网络GAN
GAN(generative Adversarial Nets, 生成对抗网络) 是一种深度学习架构
- GAN 架构训练两个神经网络相互竞争，从而从给定的训练数据集生成更真实的新数据，两个模型相互对抗
- 一个生成模型：通过获取输入数据样本并尽可能对其进行修改来生成新数据
- 另一个判别模型：尝试预测生成的数据输出是否属于原始数据集，即预测生成的数据是假的还是真的
- 通过反复生成更新、改进版本的假数据值，直到预测网络不再能够区分假数据值和原始数据值
- 例如，可以从现有图像数据库生成新图像，也可以从歌曲数据库生成原创音乐
- 实现