邊緣計算(Endge computing),同邊緣智能(Edge intelligence,EI),指將人工智能算法從傳統的雲計算中心轉移到網絡邊緣的終端設備。本文搬運自【Edge Intelligence: Paving the Last Mile of ArtificialIntelligence with Edge Computing(Zhi Zhou, Xu Chen, En Li, Liekang Zeng, Ke Luo, Junshan Zhang)】
優勢
- 終端生成的大量數據需要人工智能來有效挖掘數據價值
- 深度學習驅動要素: algorithm, hardware, data and application scenarios,而網絡邊緣爲大量數據源頭,可見終端設備需要與人工智能有效結合,兩者相互促進。
- 邊緣計算減少敏感數據在網絡中的傳輸,提高隱私安全性。
發展
- 邊緣計算六層劃分:
其中Cloud-edge指邊緣設備的部分數據交給雲計算中心處理,In-edge指部分數據交給鄰近的邊緣設備協同處理(數據傳輸距離縮減),On-device指在設備單機處理。
這六層又可以根據模型訓練設備劃分爲三層
邊緣計算模型訓練
- 架構:中心化、去中心化、混合
- 評價指標:訓練損失、一致性(去中心化架構下各個終端模型一致性)、私密性、數據交換代價、延遲、能源效率。
- 目前邊緣計算訓練有如下解決方案:
模型推斷
邊緣計算受限於設備性能及能耗問題,前輩們提出瞭如下解決方案。
挑戰:各種各樣的方案,使得應用場景下模型配置參數十分複雜,龐大的搜索空間難以找到最優應用方案。
現狀及展望
- 工業現狀:亞馬遜、谷歌、微軟等都建立了邊緣計算相關平臺,但目前這些平臺都依賴於雲數據中心。
- 平臺與框架的展望:
- EI平臺建設需要較強的兼容性,以滿足多樣化的模型需求
- 兼容各種深度學習框架的模型
- 當前有多種邊緣設備專用編程框架(tensorflow Lite, Caffe2, MXNet),但沒有哪一種優於其他框架,未來需要一款更優的框架。
- 需要對計算資源更友好的模型