原创 含光800NPU開發指南(二)【芯片與軟件棧系列之----含光十八式】

前言本章節介紹基於HanGuangAI軟件運行時(RunTime)的開發。這些運行時編程接口既可以整合到框架中,也可以用來實現推理引擎,或者直接被AI應用程序使用。現階段,他們是運行時控制使用含光NPU的唯一編程接口。當前AI計算芯片的架構

原创 含光800NPU開發指南(一)【芯片與軟件棧系列之----含光十八式】

作者:一皓,蒙武,君合,心彥,飛木,羽礪等 前言本章節主要是基於框架的量化,編譯,推理的相關的開發模式。把它作爲“含光十八式”的第一式,是因爲這是比較基礎同時也是高層的使用方法。藉助於框架的功能,用戶即使不瞭解含光NPU和底層編程接口的一些

原创 含光800NPU編程模型【芯片與軟件棧系列之----含光劍訣】

前言當我們手拿含光這把神兵利器的時候,首先要了解這把劍的精華。比如楊過用的玄鐵重劍,其劍法要訣是“重劍無鋒,大巧不工”,其中境界,遠勝世上諸般最巧妙的劍招,越是平平無奇的招數,對方越難抗禦,如挺劍直刺,勁力強猛,輕重剛柔隨心所欲,剛勁柔勁混

原创 含光800NPU雲棲PPT回顧【芯片與軟件棧系列之----劍走偏鋒】

作者:一皓,驕暘,心彥,張量,Yiping等雲棲PPT合作同事 古往今來,中外各國,兵器種類繁多。中國有“十八般兵器“,還有不少奇門兵器。這是因爲兵器有長短,利鈍,剛柔,等各種特點,各有利弊,沒有一把兵器能集齊所有優勢。所謂“劍走偏鋒鋒芒露