雲HBase發佈全文索引服務,輕鬆應對複雜查詢

雲HBase發佈了“全文索引服務”功能,自2019年01月25日後創建的雲HBase實例,可以在控制檯免費開啓此“全文索引服務”功能。使用此功能可以讓用戶在HBase之上構建功能更豐富的搜索業務,不再侷限於KV簡單查詢,不再苦惱於設計各種rowkey,不再後怕日益變化的HBase複雜查詢業務。“全文索引服務”爲雲HBase增強查詢能力而設計,自動同步數據,用戶只需重點關注如何使用強大的檢索功能來豐富自己的業務架構。

爲什麼要增強HBase的檢索能力
我們在使用HBase的時候都會面臨一個問題,就是設計HBase的rowkey。可儘管我們工程師是多麼的優秀,整理羅列了所有業務檢索需求,並裁剪折中了這樣那樣的業務,缺依然不能設計一個全能的rowkey來滿足各種業務查詢需求。
例如在某物流管理系統中,我們需要對收件人姓名/手機/地址、寄件人姓名/手機/地址、運單編號/開始時間/結束時間、郵遞員姓名/手機等條件,進行任意組合查詢。這種複雜查詢情況下,HBase原先的KV查詢無法滿足,儘管我們如何設計rowkey,都不能滿足查詢條件的任意性。另外,在這些查詢中,可能會涉及到姓名/地址/手機號等條件的模糊查詢,這也是HBase rowkey不能很好滿足的。
又例如在某新零售業務中,需要對商品標題或者描述內容進行關鍵字查詢,在HBase中我們只能使用模糊查詢來實現,但模糊查詢在HBase中是比較低效的。類似這種標題/描述內容中進行關鍵字查詢業務,比較合適使用分詞查詢,這個功能HBase都無法提供滿足。另外,在新零售查詢業務中,爲了提高用戶體驗,經常會提高搜索結果進行分類統計的需求,例如我們在電商網站中,搜索關鍵字“時尚”,在顯示匹配此關鍵字結果的商品中,按照 衣服、電子、日用等類型進行了分類統計匹配結果,這樣用戶就可以選擇對應的大類進行二次查詢,快速查詢到用戶想要的商品,從而提高了用戶體驗。像這個功能,HBase也無法滿足。
最終爲了適應HBase系統的查詢特點,對業務做了折中,只保留部分KV查詢的業務,其他可以提高用戶體驗的各種查詢業務被全部砍掉了。

總結下來,我們列出來了幾個使用HBase進行查詢業務設計時碰到的痛點:

無法滿足任意條件組合查詢
不能高效支持模糊查詢
不支持關鍵字分詞查詢
不能高效支持多維度的排序/分頁
不能對查詢的結果集進行分類統計
雲HBase全文索引服務,增強HBase檢索能力
全文索引服務是爲了增強HBase查詢能力而設計,使得HBase除了強大的KV能力外,更加豐富了它的在複雜條件查詢下的能力,具體抽象出來以下幾個場景:

複雜條件任意查詢
多維度排序
複雜條件分頁
分詞關鍵字查詢
匹配結果集分類統計
常用min/max/avg/sum等stats統計
雲HBase全文索引服務使用簡單,只需要DDL階段建立索引,後續自動進行數據索引同步,架構如下:
雲HBase發佈全文索引服務,輕鬆應對複雜查詢

和自建的區別
雲HBase發佈全文索引服務,輕鬆應對複雜查詢
另外,自建hbase+indexer+solr存在幾個bug,導致很多用戶反饋的自建這種架構丟數據現象;雲HBase對此進行了許多bugfix和改進。

如何使用雲HBase全文索引服務
雲HBase全文索引服務的使用,啓用此服務後,只需要簡單DDL建立索引即可,插入同步無限管理,用戶只需關注後續查詢要使用HBase api/Solr api進行構建豐富的業務查詢即可。下面我們來簡單體驗下整個流程。

開啓服務
“全文索引服務”屬於雲HBase的免費擴展服務,自2019年1月25日後創建的雲HBase實例控制檯,實例左側點擊“全文索引服務”詳情頁進行服務開啓即可,如下:
雲HBase發佈全文索引服務,輕鬆應對複雜查詢
申請後的如下Solr訪問地址以及WebUI連接,如圖:
雲HBase發佈全文索引服務,輕鬆應對複雜查詢
其中solr zk地址即可構造cloud solr client進行訪問,此訪問客戶端自帶負載均衡功能。Solr WebUI訪問方式與雲HBase WebUI訪問一致,第一次訪問是設置好用戶密碼與白名單,然後直接點上面的鏈接即可跳轉到Solr的WebUI。

建立索引
下載索引管理客戶端工具
wget http://public-hbase.oss-cn-hangzhou.aliyuncs.com/installpackage/solr-7.3.1-ali-1.0.tgz
tar zxvf solr-7.3.1-ali-1.0.tgz
修改solr-7.3.1-ali-1.0/bin/solr.in.sh文件的ZK_HOST如下:
ZK_HOST=zk1:2181,zk2:2181,zk3:2181/solr
zk地址即爲上圖控制檯開通全文索引服務後的solr zk訪問地址。

創建HBase表,開啓replication同步機制
create 'solrdemo',{NAME=>'info', REPLICATION_SCOPE=> '1'}
創建Solr表democollection
第一步,修改並上傳solrconfig.xml/schema,如果不需要修改,可使用demo默認config進行上傳,如下:
solr-7.3.1-ali-1.0/bin/solr zk upconfig -d _democonfig -n democollection_config -z zk1:2181/solr
第二步,使用剛上傳的配置創建democollection,如下:

curl "http://hostname:8983/solr/admin/collections?action=CREATE&name=democollection&numShards=1&replicationFactor=1&collection.configName=democollection_config"
其中hostname可以使用master3-1中綴的zk hostname進行替換。

配置HBase solrdemo表到Solr democollection表的字段映射索引關係
第一步,編輯index_conf.xml配置映射關係,例如:
<?xml version="1.0"?>
<indexer table="solrdemo">
<field name="name_s" value="info:q2" type="string"/>
<field name="age_i" value="info:q3" type="int"/>
<param name="update_version_l" value="true"/>
</indexer>
配置描述了hbase表solrdemo的 info:q2 info:3 分別映射成solr democollection裏面的name_s和age_i 字段。並指定以string解析info:q2 列保存到name_s字段中,以int解析info:q3 保存到age_i中。其中solr collection的name_s、age_i是何種類型,是根據solr collection的配置覺得,默認採用動態類型推斷,即根據collection字段的名字後綴判斷類型進行存儲。常見類型_i、_s、_l、_b、_f、_d分別對應int/string/long/boolean/float/double。當然,用戶也可以直接指定字段類型。最後一個update_version_l爲固定寫法,保存document級別的最新更新時間。
第二步,使用工具將 index_conf.xml 設置關聯hbase表solrdemo和solr表democollection的索引映射關係,命令如下:

solr-7.3.1-ali-1.0/bin/solr-indexer add \
-n demoindex \
-f indexer_conf.xml \
-c democollection
到此,我們就完成了索引的關係映射,隨後正常插入hbase即可,就不需要關心索引同步,它會自動同步hbase solrdemo表的對應字段到solr democollection表的對應字段中。如上例映射如下:
雲HBase發佈全文索引服務,輕鬆應對複雜查詢

其中,HBase表的rowkey映射到Solr表裏面的id字段。

查詢檢索
查詢較爲簡單,依然完全兼容開源HBase API和Solr API的操作,根據業務使用solr進行條件查詢,結果集中,id字段就是所有符合條件的hbase rowkey,我們只有這個id轉換爲rowkey,並使用HBase API讀取屬於這個行的原數據即可。流程圖大致如下:
雲HBase發佈全文索引服務,輕鬆應對複雜查詢

展望
索引管理更簡單易用
SQL入口接入全文索引服務
全文引擎新一代更高效副本機制
除了異步索引,同步索引也會後續支持

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章