計算機發展到今天，已經大大改變了我們的生活，我們已經進入了智能化的時代。但要是想實現影視作品中那樣充分互動的人工智能與人機互動系統，就不得不提到深度學習。2015年4月15日，NVIDIA在北京舉行"GPU計算開啓深度學習的大門"主題分享會，與廣大媒體分享了其在GPU研發方面取得的成績和最新的研究成果。藉助3月底在美國GTC(GPU技術大會)發佈的最新信息，本次分享會也圍繞深度學習進行了產品、技術、行業趨勢等多個方面的分析。會後，我們也有幸採訪到了包括NVIDIA全球副總裁、PSG兼雲計算業務中國區總經理Ashok Pandey在內的NVIDIA高層和技術人員，聽聽NVIDIA如何推動深度學習相關研究的發展。
搭建GPU在中國的產業鏈與生態環境
相比之前在遊戲、視覺效果中的應用，GPU正在成爲數據中心、超算中心的標配，並廣泛應用於深度學習、大數據、石油化工、傳媒娛樂、科學研究等行業。NVIDIA全球副總裁、PSG兼雲計算業務中國區總經理Ashok Pandey在大會上就曾表示：“"GPU計算正在加速着深度學習革命，作爲深度學習研究技術平臺領導廠商，NVIDIA將爲中國的深度學習提供更多的技術平臺和解決方案，並繼續與中國的合作伙伴一起積極參加和推動深度學習生態鏈的構建。"事實上在Pandey看來，NVIDIA在GPU計算或者說深度學習領域已經形成了完整的平臺，"並通過這個平臺讓更多的合作伙伴實現了業務交互，形成了產業鏈發展。
▲NVIDIA全球副總裁、PSG兼雲計算業務中國區總經理Ashok Pandey
“客戶最終關心的是一個整體的解決方案。在中國，你要提供整體解決方案，那你離不開像曙光、浪潮、聯想這樣的服務器公司;也肯定需要我們的框架，比如cuDNN、CUDA等等，還有離不開像Caffe、Theano這些基於開源客戶化的一些平臺。”Pandey非常瞭解中國的市場情況，他所負責的PSG業務部門多年來也與曙光、浪潮展開了密切的合作，通過共建實驗室等方式實現了技術上的相互支持。近年來，NVIDIA與聯想的接觸也逐漸增多，特別是在服務器相關的領域也開始了逐步的合作。在談到這個問題的時候，Pandey表示“現在正處於積極的洽談交流階段。”
幾乎所有深度學習的研究者都在使用GPU
熟悉深度學習的人都知道，深度學習是需要訓練的，所謂的訓練就是在成千上萬個變量中尋找最佳值的計算。這需要通過不斷的嘗試實現收斂，而最終獲得的數值並非是人工確定的數字，而是一種常態的公式。通過這種像素級的學習，不斷總結規律，計算機就可以實現像像人一樣思考。如今，幾乎所有的深度學習(機器學習)研究者都在使用GPU進行相關的研究。當然，我說的是“幾乎”。除了GPU之外，包括MIC和FPGA也提供了不同的解決方案。NVIDIA如何看待不同的硬件架構對深度學習的影響，又是如何評價這些技術的呢?
NVIDIA中國區解決方案架構工程總監羅華平認爲：“技術發展和科技的發展，是需要不同的技術一起來參與。無論是GPU也好、FPGA也好或者是專用的神經網芯片也好，它的主要目的都是推動深度學習(機器學習)這個方向的技術發展。那麼我們在初期，確實可以嘗試不同的技術，來探討哪種技術可以更好的適合這項應用。從目前來看，深度學習大量的使用，主要集中在訓練方面。那麼在這個領域，GPU確實是非常適合的，這也體現在所有的這些工業界的大佬如BAT、谷歌，Facebook等等，都在使用GPU在做訓練。”而除了訓練之外，在實際的應用方面，NVIDIA也正在結合中國地區IDC機房普遍具備的功耗、網絡等特點，“考慮是否設計低功耗的GPU，來滿足用戶的需求”。
除了硬件方面的因素之外，英偉達中國區技術經理賴俊傑也從軟件方面解答了GPU對於深度學習應用的價值。首先從深度學習應用的開發工具角度，具備CUDA支持的GPU爲用戶學習Caffe、Theano等研究工具提供了很好的入門平臺。其實GPU不僅僅是指專注於HPC領域的Tesla，包括Geforce在內的GPU都可以支持CUDA計算，這也爲初學者提供了相對更低的應用門檻。除此之外，CUDA在算法和程序設計上相比其他應用更加容易，通過NVIDIA多年的推廣也積累了廣泛的用戶羣，開發難度更小。最後則是部署環節，GPU通過PCI-e接口可以直接部署在服務器中，方便而快速。得益於硬件支持與軟件編程、設計方面的優勢，GPU才成爲了目前應用最廣泛的平臺。
深度學習發展遇到瓶頸了嗎?
我們之所以使用GPU加速深度學習，是因爲深度學習所要計算的數據量異常龐大，用傳統的計算方式需要漫長的時間。但是，如果未來深度學習的數據量有所下降，或者說我們不能提供給深度學習研究所需要的足夠數據量，是否就意味着深度學習也將進入“寒冬”呢?對此，賴俊傑也提出了另外一種看法。“做深度神經網絡訓練需要大量模型，然後才能實現數學上的收斂。深度學習要真正接近成人的智力，它所需要的神經網絡規模非常龐大，它所需要的數據量，會比我們做語言識別、圖像處理要多得多。假設說，我們發現我們沒有辦法提供這樣的數據，很有可能出現寒冬”。
不過他也補充認爲——從今天看到的結果來說，其實深度學習目前還在蓬勃發展往上的階段。比如說我們現階段主要做得比較成熟的語音、圖像方面，整個的數據量還是在不斷的增多的，網絡規模也在不斷的變複雜。現在我沒有辦法預測，將來是不是會有一天數據真不夠用了。
對於NVIDIA來說，深度學習是GPU計算髮展的大好時機，也是繼HPC之後一個全新的業務增長點。正如Pandey所提到的那樣，NVIDIA將世界各地的成功經驗帶到中國，包括國外的成功案例、與合作伙伴的良好關係等等，幫助中國客戶的快速成長。“因爲現在是互聯網的時代，是沒有跨界的時代，大家都是同等一起的。”