邊緣計算綜述


邊緣計算(Endge computing),同邊緣智能(Edge intelligence,EI),指將人工智能算法從傳統的雲計算中心轉移到網絡邊緣的終端設備。本文搬運自【Edge Intelligence: Paving the Last Mile of ArtificialIntelligence with Edge Computing(Zhi Zhou, Xu Chen, En Li, Liekang Zeng, Ke Luo, Junshan Zhang)】

優勢

  1. 終端生成的大量數據需要人工智能來有效挖掘數據價值
  2. 深度學習驅動要素: algorithm, hardware, data and application scenarios,而網絡邊緣爲大量數據源頭,可見終端設備需要與人工智能有效結合,兩者相互促進。
  3. 邊緣計算減少敏感數據在網絡中的傳輸,提高隱私安全性。

發展

  1. 邊緣計算六層劃分:
    其中Cloud-edge指邊緣設備的部分數據交給雲計算中心處理,In-edge指部分數據交給鄰近的邊緣設備協同處理(數據傳輸距離縮減),On-device指在設備單機處理。
    微軟:邊緣參與程度 這六層又可以根據模型訓練設備劃分爲三層

邊緣計算模型訓練

  1. 架構:中心化、去中心化、混合
  2. 評價指標:訓練損失、一致性(去中心化架構下各個終端模型一致性)、私密性、數據交換代價、延遲、能源效率。
  3. 目前邊緣計算訓練有如下解決方案:
    .

模型推斷

邊緣計算受限於設備性能及能耗問題,前輩們提出瞭如下解決方案。
在這裏插入圖片描述挑戰:各種各樣的方案,使得應用場景下模型配置參數十分複雜,龐大的搜索空間難以找到最優應用方案。

現狀及展望

  • 工業現狀:亞馬遜、谷歌、微軟等都建立了邊緣計算相關平臺,但目前這些平臺都依賴於雲數據中心。
  • 平臺與框架的展望
    1. EI平臺建設需要較強的兼容性,以滿足多樣化的模型需求
    2. 兼容各種深度學習框架的模型
    3. 當前有多種邊緣設備專用編程框架(tensorflow Lite, Caffe2, MXNet),但沒有哪一種優於其他框架,未來需要一款更優的框架。
  • 需要對計算資源更友好的模型
發佈了20 篇原創文章 · 獲贊 7 · 訪問量 5616
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章