深层神经网络通过组合低级特征形成抽象的 高级特征,以表征数据的分布式特征,最典型的 模型有递归神经网络(Recurrent neural networks, RNN)、长短期记忆网络(Long short-term memory, LSTM)/门控递归单元网络(Gated recurrent unit,GRU)、卷积神经网络(CNN)、深度置信网络(Deep belief networks, DBN),这些模型广泛用于各种领 域。深度学习的典型模型 Table 1 The typical models of deep learning 模型应用 RNN 语音识别、手稿识别 LSTM/GRU 自然语言文本压缩、手稿识别、语音识别 CNN 图像识别、视频分析、自然语言处理 DBN 图像识别、信息检索、自然语言理解、故障预测。其中,CNN模型多用于图像识别,通过卷积操作、参数共享、多个卷积核、池化降采样以及多层卷积提取图像的局部特征得到全局特征。