參考：https://www.jianshu.com/p/ecaac3d8296d
所謂的注意力機制，其實就是讓系統學會注意力-即關注重點信息忽略無關信息。帶有注意力機制的系統，不僅可以自主學習注意力，還可以幫助我們更好的理解神經網絡。
提出了兩種注意力方法：使用基本反向傳播訓練的Soft Attetnion方法和使用強化學習訓練的Hard Attention方法。論文關於注意力機制的表述主要在以下幾個方面：
1）強注意力機制
2）軟注意力機制
與強注意力機制不同，軟注意力機制對所有的區域都關注，但關注的重要程度不一樣。