日前，國際化 VOC SaaS 公司數裏行間（Shulex）將上億數據量的核心業務從開源向量數據庫 Milvus 遷移至全託管的向量數據庫雲服務 Zilliz Cloud。
相比於 Milvus，Zilliz Cloud 實現了 Shulex VOC 評論分析洞察報告生成速度 30% 的提升，VOC 智能客服召回率 98%，且系統穩定，0 宕機，大大降低了企業在向量數據庫的運維成本。
01.從內捲到出海，Shulex 爲電商打造基於大模型的 VOC 服務
近幾年，國內電商市場競爭日益激烈，跨境電商異軍突起，這也無形中增高了中小商家入局的門檻，Shulex 正是在這樣的背景下迅速崛起。Shulex 專注品牌出海，面向海外客戶和中國出海客戶，基於大模型爲企業提供 VOC SaaS 服務，幫助企業通過數智化來引領產品創新、驅動客戶品牌增長。
02.從 Milvus 到 Zilliz Cloud，向量數據庫支撐 Shulex 核心業務場景
隨着業務的高速發展，僅在 VOC 評論分析業務上，Shulex 就訓練了 10,000 條以上電商類目的評論標籤，產生了上億規模的向量數據。以往基於開源向量數據庫 Milvus 自建方案，費時費力，穩定性無法保障，運維成本非常高昂，當出現故障的時候往往需要幾個小時甚至一天才能恢復，運營疲於處理由於系統不穩定導致的客戶吐槽和投訴，客戶滿意度也持續走低。
Shulex 技術專家李辰輝表示：“業務發展到這個階段，對向量數據庫的要求也就更嚴苛了，要能彈性擴容以支撐海量的向量存儲與搜索，向量匹配速度要更快、SLA 足夠高，運維成本一定要夠低。”
在與 Milvus 的背後商業公司 Zilliz 的專家團隊進行充分溝通後，Shulex 技術團隊決定將核心業務的向量數據庫部分搬遷至 Milvus 的全託管雲服務 Zilliz Cloud 上。目前 Zilliz Cloud 主要支持了 Shulex 的 VOC 評論分析及智能客服兩大塊核心業務。
| 文本搜索場景——VOC 評論分析
Shulex 是排名第一的 Amazon ChatGPT 選品工具，而 VOC 評論分析服務核心是通過向量數據庫對海量的 Amazon 評論/社媒數據，進行分類打標和實時分析，爲客戶提供實時的商品評論洞察報告，包括但不限於：用戶畫像、使用場景、購買動機、商品賣點、商品不足點等。
向量數據庫是該業務場景的關鍵組件，基於 Zilliz Cloud 的 VOC 評論分析流程包含建庫、選品、分析樣本、全量打標、報表生成 5 個步驟，具體來看：
-
建立用來判斷評論的標籤庫：在向量數據裏面存儲的表結構包括評論文本、評論的 embedding、評論的正負情感標籤等等；
-
選擇待分析的商品類目：在上萬個類目的商品中選擇感興趣的品類作爲後續進行評論分析的對象；
-
基於大模型的評論分析：選擇上一步中品類的數萬條評論（包含正負評論、意思相近的評論）輸入給大模型，讓 GPT-4 對每個評論進行標籤，將這些標籤而後進行聚類後生成標籤的樣本庫；
-
用向量數據庫做分類打標：將生成的標籤樣本輸出給向量數據庫裏進行該類目商品的全部評論 embedding數據的檢索，結合向量數據庫來進行分類，判斷這些評論的正負情感；
-
生成結構化的統計報表：基於向量數據庫的分類情況，進行用戶對該商品屬性的情感、正負向的分析，然後生成報表。
圖 1 ｜基於 Zilliz Cloud 的 VOC 評論分析流程
Zilliz Cloud 的引入在 Shulex VOC 評論分析業務中取得的收益顯著，總結而言包括以下幾點：
-
報表生成速度提升 30%：Zilliz Cloud 提供更高性能的向量搜索能力，其搜索引擎性能比開源 Milvus 提升超過 5 倍，穩定支持了 1000 QPS 的商品評論的高頻次搜索。同時，相比於 Milvus，搜索時延降低了 50%，這使生成結構化的統計報表速度提升 30%；
-
數據分析成本降低 50%：由於無需將所有的商品評論信息通過大模型進行分析來獲取評論標籤，僅需要基於評論原文與向量數據庫，實時召回評論標籤即可生成高質量標籤，去除了對大模型的依賴，極大的降低了評論數據分析的成本。
-
分鐘級響應大促等突發流量：對於突發的客戶訪問量劇增，如大促週期，以往需要客戶請求排隊半個小時甚至 1 個小時，而 Zilliz Cloud 支持彈性擴縮容，集羣增減分鐘級即可完成，客戶排隊的狀況也順利解決。
| 大模型 RAG 應用——VOC 智能問答系統
Shulex 提供 VOC 企業智能問答系統，通過訓練企業與外部數據，自動解析成 FAQ，2 分鐘生成專業客服機器人，可以顯著提升響應效率，同時降低運營成本。
圖 2 ｜基於 Zilliz Cloud 的 VOC 智能問答系統
當前，Shulex VOC 智能客服業務採用大模型+向量數據庫的標準範式構建了 RAG 應用，除了自動提取公網鏈接，還將企業文件、郵件、工單等多渠道的知識 embedding 後存入 Zilliz Cloud 來構建企業專屬知識庫，爲大模型增加外接記憶體。而 Zilliz Cloud 使得大模型能夠快速有效地檢索和處理大量的向量數據，實時召回知識，穩定支撐 Shulex VOC 智能客服業務每秒 90 次的客戶詢問，穩定召回率在 98% 以上，據統計，Shulex 智能客服機器人已經可以承擔 80% 以上的客服工作。
03.客戶說
Shulex CTO 潘勝一表示：“從開源的向量數據庫 Milvus 切換到託管雲服務 Zilliz Cloud 後，我們的業務收益顯著提升，實現了更低的運維成本、更高的業務速度、更靈活的系統架構以及更穩定的用戶體驗。通過使用 Zilliz Cloud，我們能夠享受到專家團隊的支持，他們能夠高效溝通並快速解決業務中遇到的問題。總的來說，Zilliz Cloud 爲我們帶來了更大的便利和競爭優勢，我們對這一轉變感到非常滿意和樂觀。”
04.關於 Zilliz
Zilliz 作爲向量數據庫技術的開創者，推出的全球最受歡迎的的開源向量數據庫--Milvus，受到了全球 5000 家以上企業用戶的支持與青睞。2023 年，Zilliz推出了基於 Milvus 的全託管雲服務 Zilliz Cloud。
截至目前，Zilliz Cloud 已實現全球 4 大雲 11 個節點的全覆蓋，是全球首個提供海內外多雲服務的向量數據庫企業，其企業註冊用戶已超過 40,000 家，付費用戶遍及全球多個國家和地區，覆蓋 AIGC 領域、電商、在線教育等場景。作爲 AIGC 關鍵基礎設施和 RAG 技術的基本組件提供商，Zilliz 完成了與全球頭部大模型生態的對接，賦能大模型應用落地。
加入 Zilliz AI 初創計劃
Zilliz AI 初創計劃是面向 AI 初創企業推出的一項扶持計劃，預計提供總計 1000 萬元的 Zilliz Cloud 抵扣金，致力於幫助 AI 開發者構建高效的非結構化數據管理系統，助力打造高質量 AI 服務與運用，加速產業落地。點擊 https://zilliz.com.cn/ 瞭解更多。