百萬級訪問網站設計(轉)

對互聯網有了解的人都有自己的想法,有人就把想法付諸實現,做個網站然後開始運營。其實從純網站技術上來說,因爲開源模式的發展,現在建一個小網站已經很簡單也很便宜。當訪問量到達一定數量級的時候成本就開始飆升了,問題也開始顯現了。因爲帶寬的增加、硬件的擴展、人員的擴張所帶來的成本提高是顯而易見的,而還有相當大的一部分成本是因爲代碼重構、架構重構,甚至底層開發語言更換引起的,最慘的就是數據丟失,辛辛苦苦好幾年,一夜回到創業前。

減少成本就是增加利潤。很多事情,我們在一開始就可以避免,先打好基礎,往後可以省很多精力,少操很多心。

假設你是一個參與創業的技術人員,當前一窮二白,什麼都要自己做,自己出錢,初期幾十萬的資金,做一個應用不是特別複雜的網站,那麼就要注意以下幾點:

一、開發語言

一般來說,技術人員(程序員)創業都是根據自己技術背景選擇自己最熟悉的語言,不過考慮到不可能永遠是您一個人寫程序,這點還得仔細想想。無論用什麼語言,最終代碼質量是看管理,所以我們還是從純語言層面來說實際一點。現在流行的javaphp.netpythonruby都有自己的優劣,python和ruby,現在人員還是相對難招一些,性能優化也會費些力氣,.net平臺買不起windows server。java、php用的還是最多。對於初期,應用幾乎都是靠前端支撐的網站來說,php的優勢稍大一些,入門簡單、設計模式簡單、寫起來快、性能足夠等,不過不注重設計模式也是它的劣勢,容易變得鬆散,隱藏bug稍多、難以維護。java的優勢在於整套管理流程已經有很多成熟工具來輔助,強類型也能避免一些弱智BUG,大多數JAVA程序員比較注重設計模式,別管實不實際,代碼格式看起來還是不錯的。這也是個劣勢,初學者可能太注重模式而很難解決實際需求。

前端不只是html、css這類。整個負責跟用戶交互的部分都是前端,包括處理程序。這類程序還是建議用php,主要原因就是開發迅速、從業人員廣泛。至於後端例如行爲分析、銀行接口、異步消息處理等,隨便用什麼程序,那個只能是根據不同業務需求來選擇不同語言了。

二、代碼版本管理

如果開發人員之間的網絡速度差不多,就SVN;比較分散例如跨國,就hg。大多數人還是svn的.

假設選了svn,那麼有幾點考慮。一是採用什麼樹結構。初期可能只有一條主幹,往後就需要建立分支,例如一條開發分支,一條上線分支,再往後,可能要每個小組一個分支。建議一開始人少時選擇兩條分支,開發和線上,每個功能本地測試無誤後提交到開發分支,最後統一測試,可以上線時合併到上線分支。如果喜歡把svn當做移動硬盤用,寫一點就commit一次也無所謂,就是合併的時候頭大一些,這些人可以自己建個分支甚至建立個本地代碼倉庫,隨便往自己的分支提交,測試完畢後再提交到開發分支上。

部署,可以手工部署也可以自動部署。手工部署相對簡單,一般是直接在服務器上svn update,或者找個新目錄svn checkout,再把web root給ln -s過去。應用越複雜,部署越複雜,沒有什麼統一標準,只要別再用ftp上傳那種形式就好,一是上傳時文件引用不一致錯誤率增加,二是很容易出現開發人員的版本跟線上版本不一致,導致本來想改個錯字結果變成回滾的杯具。如果有多臺服務器還是建議自動部署,更換代碼的機器從當前服務池中臨時撤出,更新完畢後再重新加入。

不管項目多小,養成使用版本管理的好習慣,最起碼還可以當做你的備份,我的http://zhiyi.us 雖然就是一個wordpress,可還是svn了,只改動一兩句css那也是勞動成果。

三、服務器硬件

別羨慕大客戶和有錢人,看看機房散戶區,一臺服務器孤獨的支撐的網站數不清。如果資金稍微充足,建議至少三臺的標準配置,分別用作web處理、數據庫、備份。web服務器至少要8G內存,雙sata raid1,如果經濟稍微寬鬆,或靜態文件或圖片多,則15k sas raid1+0。數據庫至少16G內存,15k sas raid 1+0。備份服務器最好跟數據庫服務器同等配置。硬件可以自己買品牌的底板,也就是機箱配主板和硬盤盒,CPU內存硬盤都自己配,也可以上整套品牌,也可以兼容機。三臺機器,市場行情6、7萬也就配齊了。

web服務器可以既跑程序又當內存緩存,數據庫服務器則只跑主數據庫(假如是MySQL的話),備份服務器乾的活就相對多一些,web配置、緩存配置、數據庫配置都要跟前兩臺一致,這樣WEB和數據庫任意一臺出問題,把備份服務器換個ip就切換上去了。備份策略,可以drbd,可以rsync,或者其他的很多很多的開源備份方案可選擇。rsync最簡單,放cron裏自己跑就行。備份和切換,建議多做測試,選最安全最適合業務的,並且儘可能異地備份。

四、機房

三種機房儘量不要選:聯通訪問特別慢的電信機房、電信訪問特別慢的聯通機房、電信聯通訪問特別慢的移動或鐵通機房。那網通機房呢?親,網通聯通N久以前合併改叫聯通了。多多尋找,實地參觀,多多測試,多方打探,北京、上海、廣州等各個主節點城市,還是有很多優質機房的,找個網絡質量好,管理嚴格的機房,特別是管理要嚴格,千萬別網站無法訪問了,打個電話過去才知道別人維護時把你網線碰掉了,這比DOS都頭疼。自己扯了幾根光纖就稱爲機房的,看您抗風險程度和心理素質了。機房可以說是非常重要,直接關係到網站訪問速度,網站訪問速度直接關係到用戶體驗,我可以翻牆看風景,但買個網遊vpn才能打開你這個還不怎麼知名的網站就有難度了。或許您網站的ajax很出色,可是document怎麼也不ready,一些代碼永遠絕緣於用戶。

五、架構

初期架構一般比較簡單,web負載均衡+數據庫主從+緩存+分佈式存儲+隊列。大方向上也確實就這幾樣東西,細節上也無數文章都重複過了,按照將來會有N多WEB,N多主從關係,N多緩存,N多xxx設計就行,基本方案都是現成的,只是您比其他人厲害之處就在於設計上考慮到緩存失效時的雪崩效應、主從同步的數據一致性和時間差、隊列的穩定性和失敗後的重試策略、文件存儲的效率和備份方式等等意外情況。緩存總有一天會失效,數據庫複製總有一天會斷掉,隊列總有一天會寫不進去,電源總有一天會燒壞。根據墨菲定律,如果不考慮這些,網站早晚會成爲茶几。

六、服務器軟件

Linux、nginx、php、mysql,幾乎是標配,我們除了看名字,還得選版本。Linux發行版衆多,只要沒特殊要求,就選個用的人最多的,社區最活躍的,配置最方便的,軟件包最全最新的,例如debianubuntu。至於RHEL之類的嘛,你用只能在RHEL上才能運行的軟件麼?剩下的nginx、php、mysql、activemq、其他的等等,除非你改過這些軟件或你的程序真的不兼容新版本,否則儘量版本越新越好,版本新,意味着新特性增多、BUG減少、性能增加。總有些道聽途說的人跟你說老的版本穩定。所謂穩定,是相對於特殊業務來說的,而就一個php寫的網站,大多數人都沒改過任何服務器軟件源代碼,絕大多數情況是能平穩的升級到新版本的。類似於jdk5到jdk6,python2到python3這類變動比較大的升級還是比較少見的。看看ChangeLog,看看升級說明,結合自己情況評估一下,越早升級越好,別人家都用php6寫程序了這邊還php4的逛遊呢。優秀的開源程序升級還是很負責任的,看好文檔,別怕。

以上這六點準備完畢,現在我們有了運行環境,有了基本架構骨架,有了備份和切換方案,應該開始着手設計開發方面的事情了。開發方面的事情無數,下一篇會先說一些重點。

七、數據庫

幾乎所有操作最後都要落到數據庫身上,它又最難擴展(存儲也挺難)。對於mysql,什麼樣的表用myisam,什麼樣的表用innodb,在開發之前要確定。複製策略、分片策略,也要確定。表引擎方面,一般,更新不多、不需要事務的表可以用myisam,需要行鎖定、事務支持的,用innodb。myisam的鎖表不一定是性能低下的根源,innodb也不一定全是行鎖,具體細節要多看相關的文檔,熟悉了引擎特性才能用的更好。現代WEB應用越來越複雜了,我們設計表結構時常常設計很多冗餘,雖然不符合傳統範式,但爲了速度考慮還是值得的,要求高的情況下甚至要杜絕聯合查詢。編程時得多注意數據一致性。

複製策略方面,多主多從結構也最好一開始就設計好,代碼直接按照多主多從來編寫,用一些小技巧來避免複製延時問題,並且還要解決多數據庫數據是否一致,可以自己寫或者找現成的運維工具。

分片策略。總會有那麼幾個表數據量超大,這時分片必不可免。分片有很多策略,從簡單的分區到根據熱度自動調整,依照具體業務選擇一個適合自己的。避免自增ID作爲主鍵,不利於分片。

用存儲過程是比較難擴展的,這種情形多發生於傳統C/S,特別是OA系統轉換過來的開發人員。低成本網站不是一兩臺小型機跑一個數據庫處理所有業務的模式,是機海作戰。方便水平擴展比那點預分析時間和網絡傳輸流量要重要的多的多。

NoSQL。這只是一個概念。實際應用中,網站有着越來越多的密集寫操作、上億的簡單關係數據讀取、熱備等,這都不是傳統關係數據庫所擅長的,於是就產生了很多非關係型數據庫,比如Redis/TC&TT/MongoDB/Memcachedb等,在測試中,這些幾乎都達到了每秒至少一萬次的寫操作,內存型的甚至5萬以上。例如MongoDB,幾句配置就可以組建一個複製+自動分片+failover的環境,文檔化的存儲也簡化了傳統設計庫結構再開發的模式。很多業務是可以用這類數據庫來替代mysql的。

八、緩存。

數據庫很脆弱,一定要有緩存在前面擋着,其實我們優化速度,幾乎就是優化緩存,能用緩存的地方,就不要再跑到後端數據庫那折騰。緩存有持久化緩存、內存緩存,生成靜態頁面是最容易理解的持久化緩存了,還有很多比如varnish的分塊緩存、前面提到的memcachedb等,內存緩存,memcached首當其衝。緩存更新可用被動更新和主動更新。被動更新的好處是設計簡單,緩存空了就自動去數據庫取數據再把緩存填上,但容易引發雪崩效應,一旦緩存大面積失效,數據庫的壓力直線上升很可能掛掉。主動緩存可避免這點但是可能引發程序取不到數據的問題。這兩者之間如何配合,程序設計要多動腦筋。

九、隊列。

用戶一個操作很可能引發一系列資源和功能的調動,這些調動如果同時發生,壓力無法控制,用戶體驗也不好,可以把這樣一些操作放入隊列,由另幾個模塊去異步執行,例如發送郵件,發送手機短信。開源隊列服務器很多,性能要求不高用數據庫當做隊列也可以,只要保證程序讀寫隊列的接口不變,底層隊列服務可隨時更換就可以,類似Zend Framework裏的Zend_Queue類,java.util.Queue接口等。

十、文件存儲。

除了結構化數據,我們經常要存放其他的數據,像圖片之類的。這類數據數量繁多、訪問量大。典型的就是圖片,從用戶頭像到用戶上傳的照片,還要生成不同的縮略圖尺寸。存儲的分佈幾乎跟數據庫擴展一樣艱難。不使用專業存儲的情況下,基本都是靠自己的NAS。這就涉及到結構。拿圖片存儲舉例,圖片是非常容易產生熱點的,有些圖片上傳後就不再有人看,有些可能每天被訪問數十萬次,而且大量小文件的異步備份也很耗費時間。

爲了將來圖片走cdn做準備,一開始最好就將圖片的域名分開,且不用主域名。很多網站都將cookie設置到了.domain.ltd,如果圖片也在這個域名下,很可能因爲cookie而造成緩存失效,並且佔多餘流量,還可能因爲瀏覽器併發線程限製造成訪問緩慢。

如果用普通的文件系統存儲圖片,有一個簡單的方法。計算文件的hash值,比如md5,以結果第一位作爲第一級目錄,這樣第一級有16個目錄。從0到F,可以把這個字母作爲域名,0.yourimg.com到f.yourimg.com(客戶端dns壓力會增大),還可以擴展到最多16個NAS集羣上。第二級可用年月例如,201011,第三級用日,第四級可選,根據上傳量,比如am/pm,甚至小時。最終的目錄結構可能會是 e/201008/25/am/e43ae391c839d82801920cf.jpg。rsync備份時可以用腳本只同步某年某日某時的文件,避免計算大量文件帶來的開銷。當然最好是能用專門的分佈式文件系統或更專業點的存儲解決方案。

下面,我們要談談代碼了。

這一系列的最後一篇寫給普通編程人員,如果不感興趣可直接看本文最後幾段。

開始設計代碼結構之前,先回顧一下之前準備過的事情:我們有負載均衡的WEB服務器,有主從DB服務器並可能分片,有緩存,有可擴展的存儲。在組織代碼的各個方面,跟這些準備息息相關,我一二三的列出來分別說,並且每一條都以“前面講到”這個經典句式開頭,爲了方便對照。

彆着急看經典句式,我思維跳躍了,插一段。實際開發中,我們總會在性能和代碼優雅性上作折中。對於當今的計算機和語言解釋器,多幾層少幾層對象調用、聲明變量爲Map還是HashMap這種問題是最後才需要考慮的問題,永遠要考慮系統最慢的部分,從最慢的部分解決。例如看看你用的ORM是不是做了很多你用不到的事情,是不是有重複的數據調用。我們做的是web應用開發,不是底層框架API,代碼易讀易懂是保證質量很重要的一方面,你的程序是爲了什麼而設計,有不同的方法……算了,這個話題另起一篇文章來說,扯遠了,想交流可關注我的微博 http://t.sina.com.cn/liuzhiyi,咱繼續……

前面講到,WEB服務器是要做負載均衡的,圖片服務器是要分開的。對於這點,代碼在處理客戶端狀態時,不要把狀態放到單機上,舉例,不要用文件session,嗯,常識。如果有可能,最好在一開始就做好用戶單點認證的統一接口,包括跨域如何判斷狀態、靜態頁面如何判斷狀態,需要登錄時的跳轉和返回參數定義,底層給好接口,應用層直接就用(可參考GAE的user服務)。登錄方面的設計要考慮移動設備的特性,比如電腦可以用浮動層窗口,但NOKIA自帶的瀏覽器或UCWEB就無法處理這種表現形式,程序一定既能處理AJAX請求又能直接通過URL來處理請求。圖片服務器分開,資源文件最好也佈局到圖片服務器,也就是WEB服務器只服務動態程序。雖然開發測試時稍微複雜(因爲需要絕對URI才能訪問),但將來頁面前端優化上會輕鬆許多,並且你的WEB服務器IO優化也輕鬆許多。程序引用資源文件時,要有一個統一的處理方法,在方法內部可以自動完成很多事情,例如將css/js根據組合,拼成一個文件,或者自動在生成的URI後面加上QUERYSTRING,如果將來前端用了緩存服務,那生成QUERYSTRING是最簡單的刷新服務端緩存和客戶端緩存的辦法。

前面講到,數據庫會有複製,可能會多主多從,可能會分片。我們程序在處理數據的過程中,最好能抽象出來單獨放做一層。拿現在流行的MVC模式來說,就是在M層下方再放一個數據層,這個數據層不是通常所說的JDBC/PDO/ActiveRecord等,而是你自己的存取數據層,僅對外暴露方法,隱藏數據存取細節。這個數據層內部不要怕寫的難看,但一定要提供所有的數據存儲功能,其他任何層次不要看到跟數據庫打交道的字眼。之所以這樣做,是因爲在單關係數據庫的情況下,可能會SELECT…JOIN…或直接INSERT…INTO…,可你可能會將一些表放到key-value數據庫裏存儲,或者分片,這麼做之後原來的語句和方式要全部改變,如果過於分散,則移植時會耗費很大精力,或得到一個很大的Model。在數據層面的設計上,儘量避免JOIN查詢,我們可以多做冗餘,多做緩存,每種數據儘量只需要一次查詢,然後在你的程序裏面進行組合。對於比較複雜的數據組合,在實時性要求不高的情況下,可採用異步處理,用戶訪問時只取處理後的結果。在對於主鍵的處理上,避免使用自增ID,可以用一定規則生成的唯一值當做主鍵,這種主鍵是最簡單的分片分佈策略。即使用自增ID,也最好用一個自增ID發生器,否則從數據庫不小心被寫了一下,那主鍵很容易衝突。

前面講到,咱數據庫前面還有某些緩存擋着。別把mysql的query cache當緩存,應用稍複雜的時候QUERY CACHE反而會成爲累贅。緩存跟數據庫和業務結合的很緊密,正因爲跟業務關係緊密,所以這點沒有放之四海而皆準的方法。但我們還是有一些規則可參照。規則一:越接近前端,緩存的顆粒度越大。例如在WEB最前端緩存整個頁面,再往後一層緩存部分頁面區域,再往後緩存區域內的單條記錄。因爲越靠近後端,我們的可操作性越靈活,並且變化最多的前端代碼也比較方便編寫。在實踐中,因爲產品需求變化速度非常快,迭代週期越來越短,有時很難將Controller和Model分的那麼清楚,Controller層面處理部分緩存必不可免,但要保證如果出現這種情況,Controller所操作的緩存一定不要影響其他數據需求方,也就是要保證這個緩存數據只有這一個Controller在用。規則二:沒有緩存時程序不能出錯。在不考慮緩存失效引發的雪崩效應時,你的程序要有緩存跟沒緩存一個樣,不能像新浪微博一樣,緩存一失效,粉絲微博全空,整個應用都亂套了。在緩存必不可少的情況下,給用戶出錯信息都比給一個讓人誤解的信息強。規則三,緩存更新要保證原子性或稱作線程安全,特別是採用被動緩存的方式時,很可能兩個用戶訪問時導致同一個緩存被更新,通常情況這不是大問題,可緩存失效後重建時很可能是引發連鎖反應的原因之一。規則四:緩存也是有成本的。不只是技術成本,還有人工時間成本。如果一個功能使用緩存和不使用,在可預見的訪問量情況下區別微小,但使用緩存會使複雜度增加,那就不用,我們可以加個TODO標註,在下次迭代的時候加上緩存處理。

前面講到,文件存儲是獨立的,那麼所有的文件操作就都是遠程調用。可以在文件服務器上提供一個很簡單的RESTful接口,也可以提供xmlrpc或json serveice,WEB服務器端所生成和處理的文件,全部通過接口通知文件服務器去處理,WEB服務器本身不要提供任何文件存儲。你會發現很多大網站的上傳圖片跟保存文章是分兩步完成的,就是基於這個原因。

以上幾條“前面講到”,其實無數人都講過,我也只是結合前幾篇文章用自己的話重複了一遍,真正分析起來精髓很簡單——除了良好的功能邏輯分層,我們還要爲數據庫存儲、緩存、隊列、文件服務等程序外層資源調用單獨設計接口,你可以把你的程序想象成是運行在 Amazon EC2 上並用他的所有web service服務,你的數據庫就是它的SimpleDB,你的隊列就是他的SQS,你的存儲就是他的S3,唯一不同是amazon的接口是遠程調用,你的是內部調用。

將支撐服務接口化,意味着將MySQL更換到PostgreSQL不需要更改業務處理程序,移植團隊甚至不需要跟業務開發團隊過多溝通;意味着業務開發團隊是對接口編程而不是對數據庫編程;意味着不會因爲某個業務開發人員的失誤而拖垮性能。

對程序掃盲不感興趣的直接看這裏——

產品設計完了,程序框架搭完了,可能有矛盾在這個節骨眼兒產生了。不斷有產品設計抱怨說他的創意沒實現到預期效果,有程序員抱怨說產品設計不切實際。這種抱怨多緣於產品人員不懂技術,技術人員不理解產品。從廣義上來講,產品包含市場策略、營銷手段、功能設計,產品和技術在爭論時往往把焦點放在功能上,而實際重點是,實現這個功能所消耗的成本跟能這個功能帶來的利益能否換算,能否取其輕重。若可以,爭議解決。若不能,則拋硬幣看運氣。因爲一個功能的加強而引發指標井噴,或因項目拖延而導致貽誤戰機的例子比比皆是。激進的決策者注重利益,保守的決策者注重損失,聰明的決策者會考慮這個問題是否真的那麼嚴重。

關係到未來的事情誰都說不準,要不怎麼說創業一半靠運氣呢。不過總有能說的準的事情,那就得靠數據說話。

沒有100%也有99.9%的網站安裝了訪問統計代碼,連我的 http://zhiyi.us 也不例外,新聞聯播也總說科學決策科學發展的。有了統計,能確定的事情就很多了。例如,可以根據來源-目標轉化率來分析哪類渠道的人均獲取成本低,根據來源-內容訪問猜測用戶跳出率原因,根據用戶點擊行爲判斷鏈接位置是否合理等。將數據以不同方式組合起來,找到內在聯繫,分析內因外因,制定對應策略,減少拍腦門決策。靠數據支撐運營是個非常專業的事情,雖然不懂深奧的數學模型不會複雜的公式計算,漸漸學會因爲A所以B,因爲A和B所以C還是相對簡單的。

全系列完畢。老話,大半夜連抽菸帶碼字的挺傷身,轉載請註明出處http://zhiyi.us/internet/thinking-twice-before-building-your-site-final.html


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章