WebRTC大會火爆上演,網易雲信談音視頻研發三大突破點

5月19日到20日,以“爲開發者賦能,爲行業加速”爲主題的WebRTC技術盛會WebRTCon在上海盛大開幕。此次大會上,網易雲信CTO趙加雨以聯席主席身份出席了活動,網易雲信多媒體資深技術架構師吳桐則作爲大會講師,進行了題爲“精析網易NRTC的WebRTC網關服務器技術架構”的演講。

在演講中吳桐和大家分享了網易雲信基於WebRTC技術的開發難點、解決方案和應用案例,充分體現網易自研的全功能工業級音視頻框架NRTC(Netease Real-Time Communication),對WebRTC的技術升級和優化,以及對音視頻使用場景的全面思考。

強化瀏覽器兼容性  實現多人音視頻通話

目前,如在線教育、網絡直播等,以Web端爲入口的多人音視頻通話場景已經滲透到人們的生活。而WebRTC技術最主要的優勢就在於它可以幫助用戶在沒有插件和客戶端的情況下,輕鬆實現網頁瀏覽器之間的超低延時的語音通話和視頻通話。

然而作爲一項開源技術,各家瀏覽器在實現WebRTC的同時,技術層面也存在較大的差異,這就導致了不同瀏覽器端的API、SDP等不兼容的情況。面對這一技術難點,網易雲信通過NRTC做了大量的調優工作。NRTC基於JavaScript腳本,把WebRTC原生的API封裝成更通用、更易用的軟件開發包提供給用戶,從而實現不同瀏覽器之間的適配。

此外,點對點單聊模式的WebRTC在多人音視頻會話以及超大型羣聊的場景中沒有進一步的優化操作。爲了解決這一問題並提供更高效的媒體數據傳輸能力,網易雲信在多人會議場景中選擇了SFU拓撲方案,即轉發模型方案。同時,爲了減小用戶側流量的壓力,網易雲信在SFU拓撲方案的技術上配合訂閱系統一起使用。如此一來,這種組合方案不僅降低了用戶端的複雜度,還保證了服務器端的高性能。

 

                                                   (網易雲信全功能工業級音視頻技術框架——NRTC)

接入NRTC網關服務器 實踐豐富音視頻功能

近兩年,直播競答、遊戲直播、短視頻、在線抓娃娃等新的實時音視頻應用快速發展和更迭,隨着用戶對於功能和場景的多方面需求,網易雲信通過在NRTC架構中增加WebRTC的網關服務器,從而賦予WebRTC更多音視頻應用能力。

吳桐將這些能力總結爲六點:第一,基於UDP的網易雲信音視頻通話功能具有流暢、低時延的特點,一般可用於在線教學、多人視頻會議等音視頻交友場景;第二,網易雲信能夠提供基於TCP的高品質直播能力,在秀場直播、遊戲直播、大班教學等場景中優勢明顯;第三,網易雲信也可以將音視頻通話和直播能力相結合,提供互動直播功能,通過上麥下麥控制用戶在連麥和觀衆模式間切換;第四,可提供點播與轉碼功能,通過融合CDN實現海量分發;第五,完整提供短視頻功能,短視頻SDK也一併俱全;第六,更豐富的場景工具,例如提供了互動白板,文檔共享等功能。

通過網易雲信的網關服務器,WebRTC具備了 NRTC全面、成熟且穩定的功能。而NRTC本身也支撐了網易內外部各個客戶的海量應用,譬如網易雲音樂、網易新聞、有道精品課網易雲課堂等。

 

優化服務端QoS  追求高質量音視頻效果

對於所有音視頻應用來說,QoS(Quality of Service,服務質量)策略是非常重要的一部分。

對於WebRTC Web客戶端來說,QoS策略都是內置在瀏覽器內部的,用戶無法直接修改相關算法,只能通過SDP配置來選擇需要開啓的QoS策略。WebRTC網關服務器端,針對不同瀏覽器進行QoS方案的選擇和定製,在服務器端採用智能的NACK和PLI方案來實現丟包的快速重傳,移植WebRTC Native代碼裏面GCC擁塞控制部分到服務端,並進行相關GCC算法的深度優化,讓它更適用於用戶的真實網絡情況。

 

而NRTC的QoS的策略是跟場景模式相關的。網易雲信會根據不同場景對流暢度、清晰度、網絡環境以及智能化的要求調整對應的QoS策略。NRTC具備智能的FECForward Error Correction,向前糾錯)策略,由於WebRTC內置的ULP-FEC方案存在缺陷,NRTC在採用了智能FEC之後,效果相比標準WebRTC會有質的飛躍。此外,NRTC還將FEC與NACK做深度結合,做到了重傳和恢復的最佳效率,做到了帶寬的最佳利用。在NRTC的服務端,網易雲信的工程師還會更多地考慮到用戶上、下行網絡不一致的問題。吳桐分享說:“網易雲信傳輸層採用私有協議的方式,我們在回調網絡情況的時候,NRTC會做更加智能以及更加貼近真實網絡情況的反饋。針對不同用戶下行網絡,NRTC可以選擇不同的策略,針對丟包、低帶寬等弱網進行適配。“


2017年,隨着微軟Edge瀏覽器和蘋果Safari瀏覽器對WebRTC的支持以及WebRTC1.0 標準的落地,WebRTC技術將在2018年迎來更大的發展空間。吳桐對於WebRTC的技術發展進行了展望和預測:首先,去年WebRTC 1.0標準的落地會讓這項技術的標準化做的越來越好,瀏覽器的兼容性問題也將會得到改善;第二,類似AV1等新的視頻編碼器會進入到WebRTC領域,而針對VP9的優化還會繼續,並讓WebRTC技術得到更好的呈現;第三, 2018年標準WebRTC的 QoS方案將得到更進一步優化;第四,WebRTC還不能對移動端瀏覽器進行很好的支持,這依然是需要改進的方面;最後,視頻識別、AI和AR等技術將會和WebRTC進行結合,在實時通訊領域,美顏等一些美化特效將在Web端有更多嘗試。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章