百度飛槳輕量化推理引擎再升級,新增適配國產AI芯片比特大陸算豐

2020年伊始,AI技術持續深入發展,人工智能場景規模化落地與應用不斷創造新的中國速度。隨着AI技術與傳統行業的不斷融合,智能經濟時代的全新產業版圖初步顯現。

 

進入智能時代,AI芯片和深度學習框架二者融合成爲構建我國自主AI生態的關鍵力量。作爲智能時代的操作系統,深度學習框架起到承上啓下的作用——上承應用、下接芯片。作爲智能時代的核心大腦,AI芯片支持框架平臺讓AI技術更加普及易用,爲行業賦能更多應用場景。

近日,百度飛槳深度學習平臺新增適配比特大陸最新算豐系列AI芯片,兩者的成功融合,在芯片利用率、性能功耗比等指標上盡顯優勢,相比傳統GPU更適合深度學習推理,成爲我國構建自主AI生態的典範。

輕量化推理引擎Paddle Lite

再升級

作爲國內功能最完備的端到端開源深度學習平臺,飛槳以其兼具靈活和效率的開發機制、工業級應用效果的模型、超大規模並行深度學習能力、推理引擎一體化設計以及系統化的服務支持,成爲加快產業智能化升級的主力軍。

 

Paddle Lite是飛槳推出的一套功能完善、易用性強且性能卓越的輕量化推理引擎。輕量化體現在使用較少比特數用於表示神經網絡的權重和激活,能夠大大降低模型的體積,解決終端設備存儲空間有限的問題。

推理性能也整體優於其他框架,以ResNet50模型做例,在高通驍龍845上,Paddle Lite相比其他框架,比MNN快10.26%,比NCNN快17.1%。近期已正式上線的V2.3版本更通過支持“無校準數據的訓練後量化”及網絡結構與算子優化,在不犧牲性能的條件下,將模型壓縮率提升至75%,有效將模型體積大幅縮小,進而滿足移動及邊緣端設備的輕量化需求。而搭載了比特大陸AI芯片的V2.4版本即將在近期上線。

百度飛槳與比特大陸兼容性認證書

通過對比特大陸AI芯片的適配,Paddle Lite不僅可實現對多種硬件平臺的兼容,亦能更好地服務用戶實際業務需求、節省模型遷移時間、加快敏捷開發部署,極大豐富了飛槳的硬件生態。

Paddle Lite支持比特大陸算豐BM系列芯片

算豐芯片與飛槳整合效能

與百度同爲國內人工智能企業先行者的比特大陸是世界上少數幾家有能力開發雲端人工智能芯片的公司之一,並已成功推出四代人工智能芯片(雲端芯片算豐BM1680、算豐BM1682、算豐BM1684,終端芯片BM1880)。憑藉多年技術積累與行業實踐,比特大陸AI芯片正在迅速成長爲國產智能芯片陣營的中堅力量,爲中國乃至全球的AI平臺落地提供核心支撐。

比特大陸開發的形態豐富的各種AI硬件產品均基於自主研發AI芯片,擁有完整的國內自主知識產權和專利,同一套SDK和簡單易用的工具鏈支持多形態應用,充分滿足雲+邊的“新基建”算力基礎設施建設需求。

 

最新一代算豐BM1684芯片,聚焦於雲端及邊緣應用的人工智能推理,採用臺積電 12nm 工藝,在典型功耗僅 16 瓦的前提下,INT8 算力可高達 17.6Tops,在 Winograd 卷積加速下,INT8 算力更提升至 35.2Tops,是一顆低功耗、高性能的 SoC 芯片。其算力性能和性能功耗比指標業界領先,超過主流推理GPU,在性能滿足視頻分析業務需求的前提下,可以實現視頻結構化的單路成本最優。

算豐1684在飛槳框架上int8運行Resnet50的性能指標

強強聯手共建AI生態圈

 

與此同時,比特大陸積極參與百度的黃埔學院計劃,進一步深化雙方合作關係,併成功合作開發運行百度“行人車輛”算法的SS-5416C3人工智能一體機,交付於公安部安全與警用電子產品質量檢測中心進行檢測。此外,在接下發布的飛槳開源框架版本,也會完整對比特大陸的編譯工具BM Lang及相關Profiler工具的支持

 

隨着飛槳在穩定性、兼容性和成熟度等方面不斷升級,比特大陸AI芯片也在不斷提升性能、優化指標,助力飛槳加速產業結合,二者聯手幫助產業實現智能轉型,爲我國產業智能化發展貢獻力量。

關於飛槳

百度飛槳(PaddlePaddle)是目前國內自主研發、開源開放、功能最完備的產業級深度學習平臺,集深度學習核心框架、基礎模型庫、端到端開發套件、工具組件和服務平臺於一體。飛槳源於產業實踐,致力於與產業深入融合,提供了領先的深度學習&機器學習任務開發、訓練、部署能力,加速企業從算法研發到產業落地的過程。目前飛槳已廣泛應用於工業、農業、服務業等,服務150多萬開發者,與合作伙伴一起幫助越來越多的行業完成AI賦能。

關於比特大陸

比特大陸科技控股公司是全球領先的科技公司,在各種芯片製程標準下均具備領先的設計能力,是世界上少數有能力開發雲端人工智能芯片的公司之一,並已成功推出四代人工智能芯片。公司的人工智能芯片適用於深度學習領域的專用張量加速計算,可廣泛應用於人臉識別、自動駕駛、城市大腦、智能政務、智能安防、智能推薦、智能醫療等諸多人工智能場景。

瞭解更多

比特大陸算豐SC系列人工智能計算加速卡:

  • SC5+ 加速卡:3倍BM1684算力,標準PICE半高卡,面向雲端AI算力雲中心推理應用

  • SC5H加速卡:1顆BM1684芯片,主動散熱標準半高卡,配置靈活,面向邊緣側

  • SC3  加速卡:1顆BM1682芯片,FP32高精度,主動/被動兩種型號可選,按需部署

 

比特大陸算豐SE系列邊緣計算盒子:

  • SE3 計算盒子:1顆BM1682芯片,可搭配多樣化算法,面向各類邊緣側場景

  • SE5 計算盒子:1顆BM1684芯片,高性能低功耗,16路視頻解析,寬溫多接口


比特大陸算豐SM 系列計算模組:

  • SM5 計算模組:1顆BM1684芯片,體積小接口豐富,滿足定製化需求,定位邊緣計算

如果您加入官方QQ羣,您將遇上大批志同道合的深度學習同學。官方QQ羣:703252161

如果您想詳細瞭解更多飛槳的相關內容,請參閱以下文檔。

官網地址:

https://www.paddlepaddle.org.cn

飛槳開源框架項目地址:

GitHub: https://github.com/PaddlePaddle/Paddle

Gitee:  https://gitee.com/paddlepaddle/Paddle

END

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章