Mysql避免全表掃描sql查詢優化 .

Explain的type顯示的是訪問類型,是較爲重要的一個指標,結果值從好到壞依次是:

system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range> index > ALL

一般來說,得保證查詢至少達到range級別,最好能達到ref,否則就可能會出現性能問題。

Explain的Extra信息也相當重要,如果此信息顯示Using filesort或者Using temporary的話,噩夢即將開始,不過也不盡然,比如說在一個WHERE ... ORDER BY ... 類型的查詢裏,很多時候我們無法創建一個兼顧WHERE和ORDER BY的索引,此時如果按照WHERE來確定索引,那麼在ORDER BY時,就必然會引起Using filesort,文件排序是好是壞需要仔細判斷,說白了就是看是先過濾再排序划算,還是先排序再過濾划算,正確答案取決與數據分佈的情況,具體的情況可以參考Using index for ORDER BY vs restricting number of rows




對查詢進行優化,應儘量避免全表掃描,首先應考慮在 where 及 order by 涉及的列上建立索引:

 .嘗試下面的技巧以避免優化器錯選了表掃描:

·   使用ANALYZE TABLE tbl_name爲掃描的表更新關鍵字分佈。

·   對掃描的表使用FORCE INDEX告知MySQL,相對於使用給定的索引表掃描將非常耗時。

           SELECT * FROM t1, t2 FORCE INDEX (index_for_column)

            WHERE t1.col_name=t2.col_name

·   用--max-seeks-for-key=1000選項啓動mysqld或使用SET max_seeks_for_key=1000告知優化器假設關鍵字掃描不會超過1,000次關鍵字搜索。

 

 

 1. 應儘量避免在 where 子句中對字段進行 null 值判斷,否則將導致引擎放棄使用索引而進行全表掃描,

      如:

      select id from t where num is null

     NULL對於大多數數據庫都需要特殊處理,MySQL也不例外,它需要更多的代碼,更多的檢查和特殊的索引邏輯,有些開發人員完全沒有意識到,創建表時NULL是默認值,但大多數時候應該使用NOT NULL,或者使用一個特殊的值,如0,-1作爲默  認值。

     不能用null作索引,任何包含null值的列都將不會被包含在索引中。即使索引有多列這樣的情況下,只要這些列中有一列含有null,該列    就會從索引中排除。也就是說如果某列存在空值,即使對該列建索引也不會提高性能。 任何在where子句中使用is null或is not null的語句優化器是不允許使用索引的。

 

      此例可以在num上設置默認值0,確保表中num列沒有null值,然後這樣查詢:

      select id    from t where num=0

 2. 應儘量避免在 where 子句中使用!=或<>操作符,否則將引擎放棄使用索引而進行全表掃描。

 

   MySQL只有對以下操作符才使用索引:<<==>>=BETWEENIN,以及某些時候的LIKE。 可以在LIKE操作中使用索引的情形是指另一個操作數不是以通配符(%或者_)開頭的情形。例如,“SELECT id FROM t WHERE col LIKE 'Mich%';”這個查詢將使用索引,但“SELECT id FROM t WHERE col  LIKE '%ike';”這個查詢不會使用索引。

 

 3. 應儘量避免在 where 子句中使用 or 來連接條件,否則將導致引擎放棄使用索引而進行全表掃描,

    如:

    select id from t where num=10 or num=20

    可以這樣查詢: select id from t where num=10 union all select id from t where num=20

 

 4 .in 和 not in 也要慎用,否則會導致全表掃描,

    如:

   select id from t where num in(1,2,3)

   對於連續的數值,能用 between 就不要用 in 了:

   select id from t where num between 1 and 3

 

  5.下面的查詢也將導致全表掃描:

       select id from t where name like '%abc%' 或者

       select id from t where name like '%abc' 或者

       若要提高效率,可以考慮全文檢索。

      而select id from t where name like 'abc%' 纔用到索引

 

 7. 如果在 where 子句中使用參數,也會導致全表掃描。因爲SQL只有在運行時纔會解析局部變量,但優化程序不能將訪問計劃的選擇推 遲到運行時;它必須在編譯時進行選擇。然而,如果在編譯時建立訪問計劃,變量的值還是未知的,因而無法作爲索引選擇的輸入項。如下面語句將進行全表掃描:

    select id from t where num=@num

   可以改爲強制查詢使用索引: select id from t with(index(索引名)) where num=@num

 

 8.應儘量避免在 where 子句中對字段進行表達式操作,這將導致引擎放棄使用索引而進行全表掃描。

 如:

  select id from t where num/2=100

應改爲:

 select id from t where num=100*2

 

9. 應儘量避免在where子句中對字段進行函數操作,這將導致引擎放棄使用索引而進行全表掃描。

如:

select id from t where substring(name,1,3)='abc'--name

select id from t where datediff(day,createdate,'2005-11-30')=0--‘2005-11-30’生成的id 應改爲:

 

select id from t where name like 'abc%'

select id from t where createdate>='2005-11-30' and createdate<'2005-12-1'

 

10.不要在 where 子句中的“=”左邊進行函數、算術運算或其他表達式運算,否則系統將可能無法正確使用索引。

 

11.在使用索引字段作爲條件時,如果該索引是複合索引,那麼必須使用到該索引中的第一個字段作爲條件時才能保證系統使用該索引,否則該索引將不會被使用,並且應儘可能的讓字段順序與索引順序相一致。

 

12.不要寫一些沒有意義的查詢,

如需要生成一個空表結構:

 select col1,col2 into #t from t where 1=0

這類代碼不會返回任何結果集,但是會消耗系統資源的,應改成這樣: create table #t(...)

 

13.很多時候用 exists 代替 in 是一個好的選擇:

select num from a where num in(select num from b)

用下面的語句替換:

select num from a where exists(select 1 from b where num=a.num)

 

14.並不是所有索引對查詢都有效,SQL是根據表中數據來進行查詢優化的,當索引列有大量數據重複時,SQL查詢可能不會去利用索引,如一表中有字段sex,male、female幾乎各一半,那麼即使在sex上建了索引也對查詢效率起不了作用。

 

15.索引並不是越多越好,索引固然可以提高相應的 select 的效率,但同時也降低了 insert 及 update 的效率,因爲 insert 或 update 時有可能會重建索引,所以怎樣建索引需要慎重考慮,視具體情況而定。一個表的索引數最好不要超過6個,若太多則應考慮一些不常使用到的列上建的索引是否有必要。

 

16.應儘可能的避免更新 clustered 索引數據列,因爲 clustered 索引數據列的順序就是表記錄的物理存儲順序,一旦該列值改變將導致整個表記錄的順序的調整,會耗費相當大的資源。若應用系統需要頻繁更新 clustered 索引數據列,那麼需要考慮是否應將該索引建爲 clustered 索引。

 

17.儘量使用數字型字段,若只含數值信息的字段儘量不要設計爲字符型,這會降低查詢和連接的性能,並會增加存儲開銷。這是因爲引擎在處理查詢和連接時會逐個比較字符串中每一個字符,而對於數字型而言只需要比較一次就夠了。

 

18.儘可能的使用 varchar/nvarchar 代替 char/nchar ,因爲首先變長字段存儲空間小,可以節省存儲空間,其次對於查詢來說,在一個相對較小的字段內搜索效率顯然要高些。

 

19.任何地方都不要使用 select * from t ,用具體的字段列表代替“*”,不要返回用不到的任何字段。

 

20.儘量使用表變量來代替臨時表。如果表變量包含大量數據,請注意索引非常有限(只有主鍵索引)。 21.避免頻繁創建和刪除臨時表,以減少系統表資源的消耗。

 

22.臨時表並不是不可使用,適當地使用它們可以使某些例程更有效,例如,當需要重複引用大型表或常用表中的某個數據集時。但是,對於一次性事件,最好使用導出表。

 

23.在新建臨時表時,如果一次性插入數據量很大,那麼可以使用 select into 代替 create table,避免造成大量 log ,以提高速度;如果數據量不大,爲了緩和系統表的資源,應先create table,然後insert。

 

24.如果使用到了臨時表,在存儲過程的最後務必將所有的臨時表顯式刪除,先 truncate table ,然後 drop table ,這樣可以避免系統表的較長時間鎖定。

 

25.儘量避免使用遊標,因爲遊標的效率較差,如果遊標操作的數據超過1萬行,那麼就應該考慮改寫。 26.使用基於遊標的方法或臨時表方法之前,應先尋找基於集的解決方案來解決問題,基於集的方法通常更有效。

 

27.與臨時表一樣,遊標並不是不可使用。對小型數據集使用 FAST_FORWARD 遊標通常要優於其他逐行處理方法,尤其是在必須引用幾個表才能獲得所需的數據時。在結果集中包括“合計”的例程通常要比使用遊標執行的速度快。如果開發時間允許,基於遊標的方法和基於集的方法都可以嘗試一下,看哪一種方法的效果更好。

 

28.在所有的存儲過程和觸發器的開始處設置 SET NOCOUNT ON ,在結束時設置 SET NOCOUNT OFF 。無需在執行存儲過程和觸發器的每個語句後向客戶端發送 DONE_IN_PROC 消息。

 

29.儘量避免大事務操作,提高系統併發能力。

 

30.儘量避免向客戶端返回大數據量,若數據量過大,應該考慮相應需求是否合理。

==============================================================================

    今天把 centos上的mysql從5.0.95升級到5.6.12後,應用訪問數據庫偶爾出現異常:

Caused by: java.sql.BatchUpdateException: Statement cancelled due to timeout or client request
	at com.mysql.jdbc.PreparedStatement.executeBatchSerially(PreparedStatement.java:2011)
	at com.mysql.jdbc.PreparedStatement.executeBatch(PreparedStatement.java:1451)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
	at java.lang.reflect.Method.invoke(Method.java:601)
	at org.apache.ibatis.logging.jdbc.PreparedStatementLogger.invoke(PreparedStatementLogger.java:77)
	at com.sun.proxy.$Proxy55.executeBatch(Unknown Source)
	at org.apache.ibatis.executor.BatchExecutor.doFlushStatements(BatchExecutor.java:99)
	... 80 more
後來嘗試找出原因後很多次後均無果,試着換了一下jar包,從mysql-connector-java  5.1.13換到3.1.14版本再無異常出現

==============================================================================

            因爲數據庫出現了死鎖,要把bin log打開,升級後在etc目錄下沒有發現my.cnf,然後就把rpm備份以前的拿來用(my.cnf.rpmnew);按照網上的樣子配置,用 show variables like "log%"看log_error配置已經生效,但是log_bin一直是OFF,死人的不生效,一度懷疑是mysql的bug。鬼使神差的下了一個同版本號的windows程序在自己電腦上配置,居然成功了。想到在windows上配置是利用起附帶的my.cnf.default, 和比較了一下linux,發現內容有一些不同。然後就把linux上隨機附帶的my-default.cnf文件拷貝到了etc目錄下配置,ok了。my-default.cnf 是 /usr/share/mysql/my-default.cnf 。還有一點要注意的是,在不同地方傳入參數時,要注意參數的格式,比如Command-Line Format--general-log;而Option-File Formatgeneral-log,但在System Variable Name又是general_log了。所以當你在控制檯下看到log_error時,對應到my.cnf就是log-error了。


結論:有些東西真不能偷懶用以前的,建議使用隨發行版本一起的文件;


另外查看發生死鎖時,查看死鎖情況的命令 show engine innodb status;需要在console環境下執行,不能在navicate的查詢窗口裏面執行。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章