2020百度暑期實習面試（機器學習、數據挖掘、自然語言處理崗位）

百度面試，一面的時候感覺還是不錯的，主要介紹了一下項目經歷，
bert模型的結構
transform的結構
multi-attention 多頭注意力機制的原理
編寫了兩道編程題
①一個鏈表進行兩兩交換位置，編寫程序
②給定一個數組[-1,2,3,4,7,-4,-5,8,0],使用時間複雜度爲O（N）,的算法求解，動態規劃
寫時候有點沒想明白，後來經過面試官提示之後才寫出來最後的結果了，一面通過了
緊接着是二面，但是我等了好久沒人，就先取消了
下午的時候一簽到就開始了面試
1、項目經歷介紹一下
①項目的背景詳細介紹一下
②用到的什麼模型，bert的實現方法
2、因爲我做的東西里面有關於LSTM的，所以問了以下問題
①LSTM和RNN相比的區別有哪些
②LSTM的梯度消失問題怎麼解決的
3、機器學習算法你有了解吧？
①SVM的原理
②決策樹XGBoost 和LightGBDT，GBDT的區別
4、編程解決一個問題，平方損失的時候BP算法，進行學習的過程
5、關於神經網絡的一些問題
①陷入局部最優解如何進行解決，這個問題應該答加入帶有動量的優化器，或者求二階導數
②求解二階導數的時候的時間複雜度變成多少
③計算機矩陣求逆的計算複雜度
6、最後一個問題
①dropout的工作原理，以及在預測的時候他的作用是什麼？怎麼操作的