Nginx+tomcat配置集羣

開發的應用採用F5負載均衡交換機，F5將請求轉發給5臺hp unix服務器，每臺服務器有多個webserver實例，對外提供web服務和socket等接口服務。之初，曾有個小小的疑問爲何不採用開源的apache、Nginx軟件負載，F5設備動輒幾十萬，價格昂貴？自己一個比較幼稚的問題，後續明白：F5是操作於IOS網絡模型的傳輸層，Nginx、apache是基於http反向代理方式，位於ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別，Nginx不能爲基於TCP協議的應用提供負載均衡。

瞭解了二者之間的區別於應用場景，對Nginx產生濃厚的興趣，閱讀張宴的<實戰Nginx>（這個85年的小夥子年輕有爲羨慕+妒忌），搞明白了大致原理和配置，Ubuntu10.10，window下對Nginx+tomcat負載均衡做了配置嘗試，將全部請求轉發到tomcat，並未做靜態，動態分開，圖片防盜鏈等配置。

Nginx 介紹

Nginx （發音同 engine x）是一款輕量級的Web 服務器/反向代理服務器及電子郵件（IMAP/POP3）代理服務器，並在一個BSD-like 協議下發行。  其特點是佔有內存少，併發能力強，事實上nginx的併發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有：新浪、網易、 騰訊,另外知名的微網誌Plurk也使用nginx。
上面的全是Nginx介紹基本上是廢話，下面轉入正題，圖文結合展示基本配置，首先是window環境、其次是Ubuntu環境（Vbox虛擬）。

Window xp環境：Nginx+Tomcat6
1、下載地址
 http://nginx.org/en/download.html ，這裏我們推薦下載穩定版（stable versions），本文采用nginx-0.8.20。

2、目錄結構
      Nginx-

               |_  conf   配置目錄

               |_  contrib

               |_  docs 文檔目錄

               |_  logs  日誌目錄

               |_  temp 臨時文件目錄

               |_  html 靜態頁面目錄

               |_  nginx.exe 主程序

window下安裝Nginx極其簡單，解壓縮到一個無空格的英文目錄即可（個人習慣，擔心中文出問題），雙擊nginx啓動，這裏我安裝到：D:\server目錄，下面涉及到的tomcat也安裝在此目錄。
DOS環境啓動
若果想停止nginx，dos環境運行命令：nginx -s stop

3、nginx.conf配置
Nginx配置文件默認在conf目錄，主要配置文件爲nginx.conf，我們安裝在D:\server\nginx-0.8.20、默認主配置文件爲D:\server\nginx-0.8.20\nginx.conf。下面是nginx作爲前端反向代理服務器的配置。

Nginx.conf代碼

#Nginx所用用戶和組，window下不指定
#user  niumd niumd;

#工作的子進程數量（通常等於CPU數量或者2倍於CPU）
worker_processes  2;

#錯誤日誌存放路徑
#error_log  logs/error.log;
#error_log  logs/error.log  notice;
error_log  logs/error.log  info;

#指定pid存放文件
pid        logs/nginx.pid;

events {
    #使用網絡IO模型linux建議epoll，FreeBSD建議採用kqueue，window下不指定。
    #use epoll;

    #允許最大連接數
    worker_connections  2048;
}

http {
    include       mime.types;
    default_type  application/octet-stream;

        #定義日誌格式
    #log_format  main  '$remote_addr - $remote_user [$time_local] $request '
    #                  '"$status" $body_bytes_sent "$http_referer" '
    #                  '"$http_user_agent" "$http_x_forwarded_for"';

    #access_log  off;
    access_log  logs/access.log;

    client_header_timeout  3m;
    client_body_timeout    3m;
    send_timeout           3m;

    client_header_buffer_size    1k;
    large_client_header_buffers  4 4k;

    sendfile        on;
    tcp_nopush      on;
    tcp_nodelay     on;

    #keepalive_timeout  75 20;

    include    gzip.conf;
    upstream localhost {
      #根據ip計算將請求分配各那個後端tomcat，許多人誤認爲可以解決session問題，其實並不能。
      #同一機器在多網情況下，路由切換，ip可能不同
      #ip_hash;
      server localhost:18081;
      server localhost:18080;
     }

    server {
            listen       80;
            server_name  localhost;

            location / {
                    proxy_connect_timeout   3;
                    proxy_send_timeout      30;
                    proxy_read_timeout      30;
                        proxy_pass http://localhost;
            }

   }
}

代理設置如下：

Proxy.conf代碼：

proxy_redirect          off;
proxy_set_header        Host $host;
proxy_set_header        X-Real-IP $remote_addr;
proxy_set_header        X-Forwarded-For $proxy_add_x_forwarded_for;
client_max_body_size    10m;
client_body_buffer_size 128k;
proxy_connect_timeout   300;
proxy_send_timeout      300;
proxy_read_timeout      300;
proxy_buffer_size       4k;
proxy_buffers           4 32k;
proxy_busy_buffers_size 64k;
proxy_temp_file_write_size 64k;

gzip壓縮相關配置如下：

Gzip.conf代碼：

gzip              on;
gzip_min_length      1000;
gzip_types         text/plain text/css application/x-javascript;

4、Tomcat配置

對於tomcat大家都很熟悉，只需要修改server.xml配置文件即可，這裏我們以apache-tomcat-6.0.14爲例，分別在 server目錄，解壓縮並命名爲：apache-tomcat-6.0.14_1、apache-tomcat-6.0.14_2。

第一處端口修改：Xml代碼

<!--  修改port端口：18006 倆個tomcat不能重複，端口隨意，別太小-->
<Server port="18006" shutdown="SHUTDOWN">

第二處端口修改：Xml代碼

<!-- port="18081" tomcat監聽端口，隨意設置，別太小 -->
<Connector port="18081" protocol="HTTP/1.1"
               connectionTimeout="20000"
               redirectPort="8443" />

第三處端口修改：Java代碼

<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

Engine元素增加jvmRoute屬性：Xml代碼

<Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1"> 

兩個tomcat的端口別重複，保證能啓動起來，另一個tomcat配置希捷省略，監聽端口爲18080，附件中我們將上傳所有的配置信息。

5、驗證配置與測試負載均衡

首先測試nginx配置是否正確，測試命令：nginx -t  (默認驗證:conf\nginx.conf),也可以指定配置文件路徑。

其次驗證tomcat，啓動兩個tomcat，不出現端口衝突即爲成功（tomcat依賴的java等搞“挨踢”的就廢話不說了）；

最後驗證配置負載均衡設置，http://localhost/ 或http://localhost/index.jsp 。我修改了index.jsp頁面，增加日誌輸出信息，便於觀察。注意：左上角小貓頭上的：access tomcat2、access tomcat1。說明訪問了不同的tomcat。

至此window下nginx+tomcat負載均衡配置結束，關於tomcat Session的問題通常是採用memcached，或者採用nginx_upstream_jvm_route ，他是一個 Nginx 的擴展模塊，用來實現基於 Cookie 的 Session Sticky 的功能。如果tomcat過多不建議session同步，server間相互同步session很耗資源，高併發環境容易引起Session風暴。請根據 自己應用情況合理採納session解決方案。

Ubuntu10.10環境：Nginx+Tomcat6

我們下面簡單說下ubuntu10.10下如何安裝配置

1、下載Nginx

地址：http://nginx.org/en/download.html ，linux版本：nginx-0.8.20.tar.。解壓縮命令：

tar -zxvf nginx-0.8.20.tar.gz

2、編譯安裝Nginx

Nginx依賴一些其他PCRE、openssl（依賴libssl-dev），本人筆記本Ubuntu環境已經安裝PCRE，僅需安裝依賴的openssl，下面我們簡單說下如何安裝PCRE和openssl等

PCRE下載地址：ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/

Shell代碼

tar zxvf  pcre-8.01.tar.gz
cd pcre-8.01
sudo ./configure
sodu make
sodu make install

openssl通過apt-get install安裝

sudo apt-get install openssl
sudo apt-get install libssl-dev
//如缺少其他包，請採用此方法安裝，ubuntu有依賴提示

依賴的軟件包安裝完畢，下面來編譯Nginx：

Shell代碼

#將window共享目錄軟件拷貝到當前工作目錄
cp /mnt/fileshare/nginx-0.8.20.tar.gz ./

#解壓縮軟件包
tar zxvf nginx-0.8.20.tar.gz

 cd nginx-0.8.20
//編譯源碼,默認使用nobody，指定本機已存在的用戶，組，啓用nginx-status功能，監控nginx狀態。啓動debug
 sudo ./configure  --user=niumd --group=niumd --with-debug --with-http_stub_status_module


sudo make
sudo make install

編譯安裝正確結束，按照上述window下方法檢查默認配置，然後在默認配置下啓動nginx，訪問http://127.0.0.1

Nginx配置成功後我們對window下nginx.conf少做修改，如下：

Ubuntu nginx.conf代碼

#Nginx所用用戶和組
user  niumd niumd;

#工作的子進程數量（通常等於CPU數量或者2倍於CPU）
worker_processes  2;

#錯誤日誌存放路徑
#error_log  logs/error.log;
#error_log  logs/error.log  notice;
error_log  logs/error.log  info;

#指定pid存放文件
pid        logs/nginx.pid;

events {
  #使用網絡IO模型linux建議epoll，FreeBSD建議採用kqueue
    use epoll;

    #允許最大連接數
    worker_connections  2048;
}

http {
    include       mime.types;
    default_type  application/octet-stream;

  #定義日誌格式
    #log_format  main  '$remote_addr - $remote_user [$time_local] $request '
    #                  '"$status" $body_bytes_sent "$http_referer" '
    #                  '"$http_user_agent" "$http_x_forwarded_for"';

    #access_log  off;
    access_log  logs/access.log;

    client_header_timeout  3m;
    client_body_timeout    3m;
    send_timeout           3m;

    client_header_buffer_size    1k;
    large_client_header_buffers  4 4k;

    sendfile        on;
    tcp_nopush      on;
    tcp_nodelay     on;

    #keepalive_timeout  75 20;

    include    gzip.conf;
    upstream localhost {
     #ip_hash
      #ip_hash;
      server localhost:18081;
      server localhost:18080;
     }

    server {
            listen       80;
            server_name  localhost;

            location / {
              proxy_connect_timeout   3;
              proxy_send_timeout      30;
              proxy_read_timeout      30;
                proxy_pass http://localhost;
            }

   }
}

對於上面關於ubuntu下Nginx配置和window下基本相同，區別在使用的IO網絡模型，linux下建議使用epoll，另外就是運行所用的用戶和組；

3、配置tomcat

請參考window下配置，完全相同。

4、啓動停止nginx

ubuntu下啓動nginx與window稍有不同，大致啓動停止方法如下。

Java代碼

#nginx目錄執行
sbin/nginx
或通過-c 指定配置文件
sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf

Shell代碼

niumd@niumd-laptop:/usr/local/nginx$ pwd
/usr/local/nginx
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t
the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
configuration file /usr/local/nginx/conf/nginx.conf test is successful
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v
nginx version: nginx/0.8.20
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V
nginx version: nginx/0.8.20
built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5)
configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx
niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx
root      5158     1  0 22:32 ?        00:00:00 nginx: master process sbin/nginx
niumd     5159  5158  0 22:32 ?        00:00:00 nginx: worker process
niumd     5161  1577  0 22:32 pts/0    00:00:00 grep --color=auto nginx
niumd@niumd-laptop:/usr/local/nginx$

我們通過ps  -ef|grep nginx,看到如下結果:

注意：在啓動時linux提示一句警告【warn】……，是因爲我們設置的 #允許最大連接數 worker_connections  2048，超過linux默認1024的限制。

停止：kill -信號類型 pid

nginx/logs目錄下有個nginx。pid的文件，此文件記錄了每次運行的pid，也可以通過ps命令查詢。

信號類型如下：

信號類型	描述
RERM.INT	快速關閉
HUP	平滑重啓，加載配置
USR1	重新加載日誌
USER2	平滑升級執行程序
WINCH	從容關閉工作進程
QUIT	從容關閉