阿里流行音乐趋势预测-深度学习LSTM网络实现代码分享

一、 LSTM网络原理

1. 要点介绍 
   （1）LSTM网络用来处理带“序列”(sequence)性质的数据，比如时间序列的数据，像每天的股价走势情况，机械振动信号的时域波形，以及类似于自然语言这种本身带有顺序性质的由有序单词组合的数据。 
   （2）LSTM本身不是一个独立存在的网络结构，只是整个神经网络的一部分，即由LSTM结构取代原始网络中的隐层单元部分。 
   （3）LSTM网络具有“记忆性”。其原因在于不同“时间点”之间的网络存在连接，而不是单个时间点处的网络存在前馈或者反馈。如下图2中的LSTM单元（隐层单元）所示。图3是不同时刻情况下的网络展开图。图中虚线连接代表时刻，“本身的网络”结构连接用实线表示。 
    
    
    
   2.LSTM单元结构图 
   图4，5是现在比较常用的LSTM单元结构示意图： 
   
   
   其主要结构成分包含如下： 
   （1）输入节点input node：接受上一时刻隐层单元的输出及当前时刻是样本输入； 
   （2）输入门input gate：可以看到输入门会和输入节点的值相乘，组成LSTM中internal state单元值的一部分，当门的输出为1时，输入节点的激活值全部流向internal state，当门的输出为0时，输入节点的值对internal state没有影响。 
   （3）内部状态internal state。 
   （4）遗忘门forget gate：用于刷新internal state的状态，控制internal state的上一状态对当前状态的影响。 
   各节点及门与隐藏单元输出的关系参见图4，图5所示。

   
   

   
   

转自：大数据挖掘DT数据分析

完整内容请点击“阅读原文”