深度學習 GPU vs FPGA

人工智能

人工智能(Artificial Intelligence),英文縮寫爲AI。它是研究、開發用於模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學。

人工智能是計算機科學的一個分支,它企圖瞭解智能的實質,並生產出一種新的能以人類智能相似的方式做出反應的智能機器,該領域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統等。人工智能從誕生以來,理論和技術日益成熟,應用領域也不斷擴大,可以設想,未來人工智能帶來的科技產品,將會是人類智慧的“容器”。

人工智能可以對人的意識、思維的信息過程的模擬。人工智能不是人的智能,但能像人那樣思考、也可能超過人的智能。

人工智能是一門極富挑戰性的科學,從事這項工作的人必須懂得計算機知識,心理學和哲學。人工智能是包括十分廣泛的科學,它由不同的領域組成,如機器學習,計算機視覺等等,總的說來,人工智能研究的一個主要目標是使機器能夠勝任一些通常需要人類智能才能完成的複雜工作。但不同的時代、不同的人對這種“複雜工作”的理解是不同的。

GPU優勢

  1. 從峯值性能來說,GPU(10Tflops)遠遠高於FPGA(<1TFlops);

 

2. GPU相對於FPGA還有一個優勢就是內存接口, GPU的內存接口(傳統的GDDR5,最近更是用上了HBM和HBM2)的帶寬遠好於FPGA的傳統DDR接口(大約帶寬高4-5倍);

3. 功耗方面,雖然GPU的功耗遠大於FPGA的功耗,但是如果要比較功耗應該比較在執行效率相同時需要的功耗。如果FPGA的架構優化能做到很好以致於一塊FPGA的平均性能能夠接近一塊GPU,那麼FPGA方案的總功耗遠小於GPU,散熱問題可以大大減輕。反之,如果需要二十塊FPGA才能實現一塊GPU的平均性能,那麼FPGA在功耗方面並沒有優勢。

4. FPGA缺點有三點:

● 基本單元的計算能力有限。爲了實現可重構特性,FPGA 內部有大量極細粒度的基本單元,但是每個單元的計算能力(主要依靠LUT 查找表)都遠遠低於CPU 和GPU 中的ALU模塊。
● 速度和功耗相對專用定製芯片(ASIC)仍然存在不小差距。
● FPGA 價格較爲昂貴,在規模放量的情況下單塊FPGA 的成本要遠高於專用定製芯片。最後誰能勝出, 完全取決於FPGA架構優化能否彌補峯值性能的劣勢。

5. 個人更推薦: CPU+FPGA的組合模式; 其中FPGA用於整形計算,cpu進行浮點計算和調度,此組合的擁有更高的單位功耗性能和更低的時延。最後更想GPU穩定開放,發揮其長處, 達到真正的物美價廉!

FPGA優勢

人工智能目前仍處於早期階段,未來人工智能的主戰場是在推理環節,遠沒有爆發。未來勝負尚未可知,各家技術路線都有機會勝出。目前英偉達的GPU在訓練場景中佔據着絕對領導地位,但是在未來,專注於推理環節的FPGA必將會發揮巨大的價值。

FPGA和GPU內都有大量的計算單元,因此它們的計算能力都很強。在進行神經網絡運算的時候,兩者的速度會比CPU快很多。但是GPU由於架構固定,硬件原生支持的指令也就固定了,而FPGA則是可編程的。其可編程性是關鍵,因爲它讓軟件與終端應用公司能夠提供與其競爭對手不同的解決方案,並且能夠靈活地針對自己所用的算法修改電路。

在平均性能方面,GPU遜於FPGA,FPGA可以根據特定的應用去編程硬件,例如如果應用裏面的加法運算非常多就可以把大量的邏輯資源去實現加法器,而GPU一旦設計完就不能改動了,所以不能根據應用去調整硬件資源。

目前機器學習大多使用SIMD架構,即只需一條指令可以平行處理大量數據,因此用GPU很適合。但是有些應用是MISD,即單一數據需要用許多條指令平行處理,這種情況下用FPGA做一個MISD的架構就會比GPU有優勢。 所以,對於平均性能,看的就是FPGA加速器架構上的優勢是否能彌補運行速度上的劣勢。如果FPGA上的架構優化可以帶來相比GPU架構兩到三個數量級的優勢,那麼FPGA在平均性能上會好於GPU。

在功耗能效比方面,同樣由於FPGA的靈活性,在架構優化到很好時,一塊FPGA的平均性能能夠接近一塊GPU,那麼FPGA方案的總功耗遠小於GPU,散熱問題可以大大減輕。 能效比的比較也是類似,能效指的是完成程序執行消耗的能量,而能量消耗等於功耗乘以程序的執行時間。雖然GPU的功耗遠大於FPGA的功耗,但是如果FPGA執行相同程序需要的時間比GPU長几十倍,那FPGA在能效比上就沒有優勢了;反之如果FPGA上實現的硬件架構優化得很適合特定的機器學習應用,執行算法所需的時間僅僅是GPU的幾倍或甚至於接近GPU,那麼FPGA的能效比就會比GPU強。在峯值性能比方面,雖然GPU的峯值性能(10Tflops)遠大於FPGA的峯值性能(<1Tflops),但針對特定的場景來講吞吐量並不比GPU差。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章