原创 NLP領域預訓練模型發展趨勢解讀

衆所周知,自然語言處理領域在最近兩年發生了天翻地覆的技術變革,進入了技術井噴的快速發展期,而這一鉅變的引發者是由 BERT 爲代表的預訓練模型及新型特徵抽取器 Transformer 的快速發展與普及帶來的。 從 BERT 的應用來看,已經

原创 一文看懂2019年末人工智能發展趨勢

人工智能最近幾年發展得如火如荼,學術界、工業界、投資界各方一起發力,硬件、算法與數據共同發展,不僅僅是大型互聯網公司,包括大量創業公司以及傳統行業的公司都開始涉足人工智能行業。儘管最近一年在資本市場趨冷的大環境下,AI 熱度有所下降,但從長

原创 從FFM到DeepFFM,推薦排序模型到底哪家強?

推薦系統幾乎已經深入到人們生活的方方面面,其背後的算法也在不斷地迭代更新。FM和FFM模型是最近幾年提出的模型,擁有在數據量較大並且特徵稀疏的情況下,仍然能夠得到優秀的性能和效果的特性。 新浪微博AI Lab資深算法專家張俊林,在2018年

原创 效果逆天的通用語言模型GPT 2.0來了,它告訴了我們什麼?

2月15日,OpenAI在官博介紹了一個大規模無監督NLP模型:GPT 2.0,被稱爲“史上最強通用NLP模型”。該模型可以生成連貫的文本段落,刷新了7大數據集基準,並且能在未經預訓練的情況下,完成閱讀理解、問答、機器翻譯等多項不同的語言建