Zilliz 年度印象:未來獨角獸?RAG 首選?LLM 記憶體?

兔走龍來,不知不覺,又到了一年一度的保留節目—— Zilliz Moment。

AGI 時代的到來,讓 Zilliz 的身上多了很多充滿“時代烙印”的標籤:未來獨角獸、網紅賽道公司、向量數據庫大佬、大模型的長期記憶體、RAG 最強搭檔……與此同時,我們也聽說了一些有趣的標籤:周邊質量好、搶不到紅包封面、公司產品都是鳥的名字……

那麼,大家對於 Zilliz 的印象是不是真的如此標籤化呢?爲此,我們邀請了一些新老朋友,聽聽他們對於 Zilliz 過去一年的印象與看法。

  • Zilliz Cloud 商業用戶

我是一名中臺架構部的小組長,具體公司就不透露了(誰還不是個獨角獸呢)。日常工作內容是爲業務同學提供穩定的數據庫服務,所以經常和數據庫的廠商們打交道。其實在我接觸 Zilliz Cloud 之前,就已經使用過一年的開源向量數據庫 Milvus(對 Milvus 社區提供的幫助表示感謝)。我們業務部門從 2023 年引入深度學習模型,也增加了 LLM 模型業務線,產生了向量的需求,且這個量到現在已經過億級了,當時手頭沒有能做向量檢索能力的數據庫,在和部門同事的對比下選擇了 Milvus,產品和社區也確實沒有讓我們失望,經過一段時間的試用我們向業務交付了向量數據庫。

與 Zilliz 同學的結緣源於去年下半年的一次公司拜訪,在使用 Milvus 的過程中我們遇到了一些運維穩定性上的問題,常常需要修修補補。Zilliz 的技術專家們給了我們一些使用建議,協助重構了表結構,推薦我們用 partitionkey 代替大量的表分 parition 帶來的數據碎片,且對核心監控指標也做了細節指導。當時我們的 Milvus 是供公司內部業務使用,正規劃下一年如何給客戶部署可靠性服務方案,Zilliz 的專家們提出了商業版雲服務的方案,並邀請我們業務上雲做 POC。整個遷移過程還是順利的,代碼也考慮到了兼容性沒做什麼改動,一致性體檢做比較好。最好的一點是性能保障的同時,業務找我協助糾錯的次數少了,或者說有專門的託管服務快速解決了,幫助我們解決了核心的痛點。

在 2024 年我們還會對數據做進一步的放大,表結構也會有新增,希望 Zilliz Cloud 做大做強繼續給我們提供更穩定更快速的服務,當然價格方面能給老用戶回饋就更好了。

  • Zilliz Cloud 商業用戶

我們和 Zilliz 的交集是因爲業務上要做 RAG 的相關探索,同時在文搜圖場景下也有向量化的訴求。在上專業向量數據庫之前,我也做過一些向量檢索插件 OpenSearch、開源向量數據庫方面的測試,最終選型 Zilliz Cloud。背後的主要考慮是後期業務膨脹的穩定性支持,考慮到人手問題需要專注到業務側的快速開發,託管服務更適合我們。測試數據對比下來,比起自己部署的服務,Zilliz Cloud 的性能是能高出一籌的,且功能上的豐富性以及標向量混合檢索的性能都不錯,所以內部評審很順利。

讓我印象深刻的一點是,在線上線下交流過程中,Zilliz 專家們的耐心和專業度。從我自己的角度(可能我還不算專家)會去問很多細節的問題,他們都有做詳細的回答並且以測試報告的形式打消疑慮,也建立了專屬的聯繫渠道方便快速找到他們,並做了相對長時間的 POC 來保證產品確實能滿足業務的訴求。

在我們後續的業務開發過程中,肯定會遇到更多的工程問題、場景問題,希望 Zilliz 從方方面面輸出更多的案例幫助到我們這樣的公司和行業,尤其是在技術研發和行業前瞻這塊要多多輸出。希望在 2024 年,Zilliz Cloud 能更進一步,在保障產品性能高速、穩定發展的同時,還能給大模型相關行業場景做出貢獻。

  • Zilliz Cloud 商業用戶

我們應該是 Zilliz 最早的一批付費用戶,其實在接觸 Zilliz Cloud 之前,我們對於向量數據庫是有自己的理解的,所以在業務上與 Milvus 結合得非常緊密,其使用效果和對業務的提升也非常明顯。後來隨着向量數據的增加,我們的運營工作負擔也開始變大,所以選擇了 Milvus 的商業版本 Zilliz Cloud。後來我們才慢慢發現,Zilliz Cloud 帶來的不僅是運營管理效率的提升和高併發高吞吐的表現,還帶來了諸如 private link、RBAC 等很多企業級功能,像多租戶、混合查詢等功能在業務上也給我們帶來了很多啓發。可以說,一直以來,Zilliz 都在爲我們提供專業的 SaaS 服務,是我們能夠信賴並願意長期合作的夥伴。

  • Milvus 社區 Committer 嵇斌

Milvus 2.3 終於支持 GPU 了,作爲一名最早從 Milvus 0.10.0 GPU 版本用戶一路追隨過來的鐵粉感到非常欣慰。但是突然又覺得向量數據庫在支持 GPU 加速這件事情上不那麼重要了。索引算法、工程優化大大提升了 Milvus 本身的性能,同時 2023 年興起的以 RAG 爲代表的大模型應用卻對向量數據庫在生態和靈活性上有了更多的訴求。或許這正是向量數據庫最好時代的象徵。

  • 關注 Zilliz 的用戶 那時刻

我過去一年對於 Zilliz 的印象,從完全陌生到偶然相識,到現在在應用中使用 Milvus。首先,七月份在一次公開活動中,來自 Zilliz 運營負責人李晨分享的《向量數據庫:大模型的長期記憶體》讓我對於 Zilliz 有了偶然相識的機會,其中印象最深的是 Zilliz 創業這麼多年,只專注於向量數據庫,被 Zilliz 對於技術的執着所折服。其次,通過 Milvus 這個單詞發音以及其含義,知道 Zilliz 所有的產品都是鳥的名字,非常有趣。然後嘗試學習和使用 Milvus 數據庫,把他用於 RAG 架構開發內部 QA 機器人,它完備的 API 以及功能,讓我可以快速開發這個工具。另外,可視化工具 attu 使我對於向量有更加直觀的認識。

從公司層面,Zilliz Cloud 的應用,爲雲平臺用戶使用 Millvus 提供便利。Milvus 也在不停地迭代更新,支持 range search,單個 Collection 中的實體數量不斷增大等等。這些功能很多來自開源社區大家的需求,Millvus 從開源中汲取了很多營養。我的總體感受,Milvus 開源社區的蓬勃發展,通過社區的需求反饋,促進 Milvus 自身的快速成長,從開源中來,到開源中去。

我希望在 2024 年 Zilliz 可以多舉辦些線下活動(希望來北京,因爲我在,哈哈),介紹 Milvus 機制以及應用案例,促使更多的小夥伴參與其中。

  • Milvus 社區用戶 ZZ

我就說一句,Zilliz 每年的紅包封面做得真的挺不錯的,尤其是龍年的限定款。龍行龘龘!還等什麼,開搶吧朋友們!

點擊跳轉領取

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章