HIVE 優化的幾個切入點

原創 aqszhuaihuai 2019-07-28 12:54

HIVE 優化的幾個切入點


一、合理設計schema

1.使用分區，但避免使用大量的分區

2.合理設計臨時表

3.合理設計buckets

4.針對不同的表，合理使用壓縮特性


二、查詢優化

1.使用適當的MAP與REDUCE數

2.使用普通的JOIN時，設計合理的表順序

3.使用MAP JOIN

4.使用BUCKET MAP JOIN或SORT MERGE BUCKET MAP JOIN

5.合理設計索引

發表評論
所有評論
還沒有人評論，想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章

cdh設置hdfs權限

通常會把 root 或者需要的用戶添加到 supergroup組，但Linux下默認是沒有supergroup組。 # Linux下默認是沒有supergroup組的 # hadoop:x:994:hdfs,mapred,yarn cat

原創 2022-12-19 09:37:26

開源80萬行代碼，微衆銀行如何在小團隊規模下煉出一套一站式大數據平臺 | 卓越技術團隊訪談錄

{"type":"doc","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"paragr

Tina 2021-12-21 10:53:51

Uber容器化Apache Hadoop基礎設施的實踐

{"type":"doc","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"typ

Uber 技术团队 2021-11-19 09:03:49

基礎軟件創業 8 年，星環科技如何精準“踩點”？ | C位面對面

在大數據領域創業 12 年，眼見計算引擎經歷了數輪迭代，雲原生興起砸中了一批做容器的，數據雲因爲 Snowflake 上市走入大衆認知，回回都能在風口到來前兩三年做好佈局，這是一種什麼判斷和體驗？ 本期 C 位面對面，我們邀請到了星環科技創

InfoQ 中文站 2021-11-08 14:38:55

基礎軟件創業 8 年，如何精準“踩點”？ ｜ C位面對面

{"type":"doc","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"typ

赵钰莹 2021-11-02 09:28:56

拋棄Hadoop，數據湖才能重獲新生

{"type":"doc","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null}},{"type":"blockq

Tina 2021-10-28 14:23:59

Hadoop 生態裏，爲什麼 Hive 活下來了？

{"type":"doc","content":[{"type":"blockquote","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null

Einat Orr 博士 2021-10-08 19:08:56

成功從 Hadoop 遷移到 Lakehouse 架構的 5 個關鍵步驟

{"type":"doc","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"typ

Harsh Narula 2021-10-08 10:38:57

基於阿里雲部署的CDP產品詳情

雲與AI時代的到來，爲當下的數據存儲，數據分析帶來了一些顛覆性的變革，企業上雲已是大勢所趨。但企業採用雲服務可能會帶來數據管理方面的挑戰，因爲數據可能被存儲在孤島中，從而使企業難以在所有IT環境中發現、獲取、信任和兼容數據。此外，還存在被單

Xuefeng Wang 2021-08-18 15:43:52

伴魚數倉演進

{"type":"doc","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"typ

伴鱼技术团队 2021-08-14 08:03:57

架構師（2021年7月）

卷首語：淺談架構現狀：設計越來越複雜，行業缺乏系統性思考 採訪嘉賓 | 黃浩 從之前單純的高流量到現在高流量、高併發，企業面對的業務場景越來越多，對系統的各項要求也越來越高，這意味着對系統架構的要求也越來越高。 在過去很長的時間裏，集中式單

InfoQ 中文站 2021-07-08 08:03:58

從廣告監測到知識圖譜，明略千億大數據處理能力是如何煉成的？

{"type":"doc","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null,"origin":null},"content":[{"typ

万佳 2021-05-18 11:03:58

11天裏13個Apache開源項目宣佈退休，Hadoop的時代結束了

{"type":"doc","content":[{"type":"blockquote","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null

Andrew Brust 2021-05-18 10:03:54

Hadoop 的“遺產”

{"type":"doc","content":[{"type":"blockquote","content":[{"type":"paragraph","attrs":{"indent":0,"number":0,"align":null

Tony Baer 2021-05-08 09:58:53

presto搭建

1.Presto簡介         Presto是由Facebook開源，完全基於內存的並行計算以及分佈式SQL交互式查詢引擎。它可以共享Hive的元數據，然後直接訪問HDFS中的數據，同時支持Hadoop中常見的文件格式比如文本，ORC

泡海椒 2022-12-19 09:37:36