SQL Server索引自動優化工具

　　前段接手了個優化項目，大概要求是對公司現有的1W多張表進行索引優化，完善現有的，剔除無效的索引。鑒於人手嚴重不足(當時算兩個半人的資源)，打消了逐個庫手動去改的念頭。當前的程序結構不允許搞革命的做法，只能搞搞改良，所以准備搞個自動化工具去處理。原型剛開發完，開會的時候以拿出來就遭到運維DBA團隊強烈抵制，具體原因不詳。最後無限延期。這裡把思路分享下。歡迎拍磚。

　　整個思路是這樣的，索引都是為查詢和更新服務的，但是不合適的索引又會對插入和更新帶來負面影響。面對表上現有的索引想識別那些是有效的不太可能。那麼根據現有的數據使用情況重建所有的新索引不就解決了嘛。根據查詢生成全新索引，然後和現有對比，不吻合的全部刪除，原來沒有的創建。雖然說對於正在運行的系統來說風險還是蠻大的。但是可以做臨界測試嘛。

　　具體解決方案如下：

　　首先在熱備的數據庫服務器上定期抓取緩存的執行計劃(原本想抓取SQL發現有些SQL實在摻不忍睹，沒有自動化解析的可能性)，然後連同該執行的執行次數即表的統計信息一起down到一個備用服務器的數據表中。

　　執行計劃積累幾次後，開始解析。由於執行計劃是格式良好的XML文件，加上微軟提供執行計劃的XSD文件。我們可以反向推出各節點對應的SQL謂詞(這個XSD到現在都沒找到官方的說明，只能反向推出關聯)。例如建立索引我們比較關心三類謂詞，分別為：Select,Join,Where. 只要拿到這些我們就能建立良好的索引。原理很簡單，Join和Where都是索引鍵的依據，而Select可以斟請添加到Index的Include中。

　　解析的時候也不是針對單個執行計劃，而是將所有執行計劃全分解後進行統計處理。好處就是能夠知道那些表字段被引用的最多，那些是外鍵列。那些數據被反復查詢。例如可以得出TableA的Col1列在一天的業務過程中被Join了10W次，被Where2W次。而Col2則被Select了10W次，僅僅被Where了100次。這樣我們建立索引的基礎就是基於表的而不是基於單個查詢的。最終生成的Index將權衡查詢頻率和查詢的重要性，如果某個業務查詢特別重要，但執行頻率不高我們可以提供權重，優先建立索引。當然創建Index還要參考表的數據分布以決定Index中字段的順序。

　　好了，准備工作完成，開始建索引。當前擁有的條件，表數據分布，表字段分別被查詢引用次數(Select,Join,Where)，以及這些SQL謂詞出現的次數。根據這些如何創建索引開始的想法是逐個分析，考慮所有可能性然後創建。發現這種方式只適合人腦，讓電腦做得先讓電腦的智商增長到120以上才有可行性。發現逆向思維這裡同樣大有用處，既然不能一下子創建最合適的，那我們就根據執行計劃得出的組合創建所有的Index組合。凡是Join和Where都放到Index的Key裡。例如：

　　select t1.A, t1.B, t1.C, t2.J, t2.k from Table1 t1 Join Table1 t2 on t1.A = t2.j Where t1.A = 'param'

　　草創的索引就是：

　　Index(A,B)includ(C) 和 Index(j)include(j,k)

　　關於Select如果是小數據類型且Alter的執行計劃中該數據修改頻率很小的都放到Include裡去進去。大數據類型和修改比較頻繁的就算了。這樣我們剔除相互覆蓋的。部分重疊的，部分重疊到底保留那一個參考執行頻率和查詢重要性。差異很小的就合並並為一個，如：

　　1、Index (A,B,C)Include(D)

　　2、Index(A,B,D)Include(C)

　　直接合並為：

　　Index(A,B)Include(C,D)

　　當然如果Alert的特別少也可以合並成Index(A,B,C,D)這個要參考C,D字段的修改頻率。和主鍵重疊的剔除。這樣留下的基本上就是我們需要的索引了。

　　對比現有索引進行甄別覆蓋的過程就略過。簡單的拉出來Create Index 進行解析處理就好了。發布的時候很簡單。寫個腳本在業務比較少的時候做Drop和Create就完成了。項目源代碼因為設計到公司的保密問題就不上傳了。一個注意的地方對於簡單查詢的SQL執行計劃緩存的時候會比較短且一旦緩存不夠就會被清理掉。要注意這些SQL的執行頻率的誤差。

　　SqlserverR2 XSD:schemas.microsoft./sqlserver/2004/07/showplan/sql2008/showplanxml.xsd

　　總結的節點映射列舉如下：

　　查詢sql執行計劃都包含在節點"StmtSimple"中，如果沒有這個節點一般就是其它類型的SQL的執行計劃。

　　Join關聯的節點和自身類型有關一般包含在Hash,Marger中，如何Join同時又是Where條件的話則會出現在SeekKey和Compare節點中，因為Join的列都是成對出現，這裡很容易識別，有一個是參數(@開頭)或常量(type="Const")則必定是Where條件。

　　Select最終輸出字段比較容易找到，第一個OutputList節點就是。

　　需要注意的是有因為一般列每個ColumnReference都包含庫名，表名，列信息，但是系統表則不會。注意剔除。