nginx+tomcat負載均衡緩存服務器集羣

根據公司的需求，以及以後的訪問量，決定用nginx做負載均衡服務器和cache緩存服務器，後端用2臺tomcat提供web服務，用戶信息數據用oracle來存儲，音頻文件用一臺單獨的應用服務器來存儲。下面是nginx和tomcat的配置信息，關於oracle的安裝和配置請參考本博客的centos+oracle10g的安裝文件說明來配置。

1、環境描述

nginx和tomcat1服務器地址：192.168.81.131

tomcat2服務器地址：192.168.81.128

tomcat3服務器地址：192.168.81.132

2、

Nginx從0.7.48版本開始，支持了類似Squid的緩存功能。這個緩存是把URL及相關組合當作Key，用md5編碼哈希後保存在硬盤上，所以它可以支持任意URL鏈接，同時也支持404/301/302這樣的非200狀態碼。雖然目前官方的Nginx Web緩存服務只能爲指定URL或狀態碼設置過期時間，不支持類似Squid的PURGE指令，手動清除指定緩存頁面，但是，通過一個第三方的Nginx模塊，可以清除指定URL的緩存。

　　Nginx的Web緩存服務主要由proxy_cache相關指令集和fastcgi_cache相關指令集構成，前者用於反向代理時，對後端內容源服務器進行緩存，後者主要用於對FastCGI的動態程序進行緩存。兩者的功能基本上一樣。

　　最新的Nginx 0.8.32版本，proxy_cache和fastcgi_cache已經比較完善，加上第三方的ngx_cache_purge模塊（用於清除指定URL的緩存），已經可以完全取代Squid。我們已經在生產環境使用了 Nginx 的 proxy_cache 緩存功能超過兩個月，十分穩定，速度不遜於 Squid。

　　在功能上，Nginx已經具備Squid所擁有的Web緩存加速功能、清除指定URL緩存的功能。而在性能上，Nginx對多核CPU的利用，勝過Squid不少。另外，在反向代理、負載均衡、健康檢查、後端服務器故障轉移、Rewrite重寫、易用性上，Nginx也比Squid強大得多。這使得一臺Nginx可以同時作爲“負載均衡服務器”與“Web緩存服務器”來使用。

<如果想多瞭解nginx的文件可以參考張宴的博客：http://blog.s135.com/nginx_cache/，或是nginx中文網站：http://www.nginxcn.com/doc/toc.html ，本文部分選自張宴博客的文章>

(1)、Nginx 負載均衡與緩存服務器在 Linux 下的編譯安裝：

ulimit -SHn 65535

echo "ulimit -SHn 65535" >>/etc/rc.local ##使下次重啓配置生效
wget ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/pcre-8.00.tar.gz
tar zxvf pcre-8.00.tar.gz
cd pcre-8.00/
./configure
make && make install
cd ../

wget http://labs.frickle.com/files/ngx_cache_purge-1.0.tar.gz
tar zxvf ngx_cache_purge-1.0.tar.gz

wget http://nginx.org/download/nginx-0.8.32.tar.gz
tar zxvf nginx-0.8.32.tar.gz
cd nginx-0.8.32/
./configure --user=www --group=www --add-module=../ngx_cache_purge-1.0 --prefix=/usr/local/webserver/nginx --with-http_stub_status_module --with-http_ssl_module
make && make install
cd ../

(2)、nginx完整的配置文件如下：

user www www;

worker_processes 10;

error_log /usr/local/webserver/nginx/logs/nginx_error.log crit;

pid /usr/local/webserver/nginx/nginx.pid;

#最大文件描述符
worker_rlimit_nofile 51200;

events
{
use epoll;

worker_connections 51200;
}

http
{
include mime.types;
default_type application/octet-stream;

keepalive_timeout 60;

tcp_nodelay on;
sendfile on;

      server_names_hash_bucket_size 128;
      client_header_buffer_size 32k;
      large_client_header_buffers 4 32k;
      client_max_body_size 300m;

      gzip on;
      gzip_min_length 1k;
      gzip_buffers     4 16k;
      gzip_http_version 1.1;
      gzip_comp_level 2;
      gzip_types       text/plain application/x-javascript text/css application/xml;
      gzip_vary on;

      proxy_connect_timeout    5;
      proxy_read_timeout       60;
      proxy_send_timeout       5;
      proxy_buffer_size        16k;
      proxy_buffers            4 64k;
      proxy_busy_buffers_size 128k;
      proxy_temp_file_write_size 128k;

      upstream tomcat
      {
      server 192.168.81.131:8080;
      server 192.168.81.128:8080;

      server 192.168.81.132:8080;
      }

      #注：proxy_temp_path和proxy_cache_path指定的路徑必須在同一分區
      proxy_temp_path /data0/proxy_temp_dir;
      #設置Web緩存區名稱爲cache_one，內存緩存空間大小爲50MB，1天沒有被訪問的內容自動清除，硬盤緩存空間大小爲10GB。
      proxy_cache_path /data0/proxy_cache_dir levels=1:2 keys_zone=cache_one:50m inactive=1d max_size=10g;

server
     {
         listen       80;
         server_name tomcat.hxqm.com;
         #自動補全"/"
        if (-d $request_filename)
       {
        rewrite ^/(.*)([^/])$ http://$host/$1$2/ last;
        }

        #實現網頁動靜態分離
         location /
        {
         root /data0/htdocs/tomcat;
          index index.html index.htm;

                        if (!-f $request_filename)
                       {
                         rewrite ^/([a-zA-Z]+).html /$1.jsp last;
                         proxy_pass http://tomcat;
                         break;
                        }
           }

       #對網站的圖片、Flash、JavaScript、CSS、靜態HTML、進行web緩存
       location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|js|css|html|shtml)$
       {
      #如果後端的服務器返回502、504、執行超時等錯誤，自動將請求轉發到 upstream負載均衡池中的另一臺服務器，實現故障轉移。
      proxy_next_upstream http_502 http_504 error timeout invalid_header;
      proxy_cache cache_one;
       #對不同的HTTP狀態碼設置不同的緩存時間
      proxy_cache_valid 200 10m;
      proxy_cache_valid 304 1m;
     proxy_cache_valid 301 302 1h;
       proxy_cache_valid any 1m;
      #以域名、URI、參數組合成Web緩存的Key值，Nginx根據Key值哈希，存儲緩存內容到二級緩存目錄內
     proxy_cache_key $host$uri$is_args$args;
      proxy_set_header Host $host;
    proxy_set_header X-Forwarded-For $remote_addr;
      proxy_pass http://tomcat;
     }
#用於清除緩存，假設一個URL爲http://tomcat.hxqm.com/docs/appdev/index.html，通過訪問http://tomcat.hxqm.com/purge/docs/appdev/index.html就可以清除該URL的緩存。
location ~ /purge(/.*)
{
allow 127.0.0.1;
allow 192.168.81.0/24;
deny all;
proxy_cache_purge cache_one $host$1$is_args$args;
}

#擴展名以.php、.jsp、.cgi結尾的動態應用程序不緩存。
location ~ .*\.(php|jsp|cgi)?$
{
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_pass http://tomcat;
}

location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$
{
expires 30d;
}

location ~ .*\.(js|css)?$
{
expires 1h;
}

log_format tomcatlogs '$remote_addr - $remote_user [$time_local] "$request" '
  '$status $body_bytes_sent "$http_referer" '
  '"$http_user_agent" $http_x_forwarded_for';
access_log /data1/logs/tomcatlogs.log tomcatlogs;

       }

}

(3)、啓動nginx服務，先測試nginx配置文件是否正確,用

/usr/local/webserver/nginx/sbin/nginx -t 測試

如果提示如下就說明配置文件沒有問題可以啓動nginx服務器了：

[root@hxqm-tomcat local]# /usr/local/webserver/nginx/sbin/nginx -t
the configuration file /usr/local/webserver/nginx/conf/nginx.conf syntax is ok
configuration file /usr/local/webserver/nginx/conf/nginx.conf test is successful

如果啓動報錯，你可以根據報錯其實的行數來查看你的配置文件

3、tomcat的配置

把jdk文件和tomcat文件放在/usr/local/src目錄下(各位習慣，可以自己定義)

(1)、安裝jdk(本人裝的jdk用的是jdk-6u17-linux-i586.bin)

cd /usr/local/src;chmod+x jdk-6u17-linux-i586.bin;./jdk-6u17-linux-i586.bin

在安裝過程中敲幾下空格，然後輸入"yes"，然後中途中再按回車jdk就裝好了。

做軟連接：

ln -s /usr/local/jdk1.6.0_17/ /usr/local/jdk

(2)、java環境變量的配置

vi /etc/profile，把以下內容寫到文件的尾部

          JAVA_HOME="/usr/local/jdk"
         CLASS_PATH="$JAVA_HOME/lib:$JAVA_HOME/jre/lib"
         PATH=".:$PATH:$JAVA_HOME/bin"
         CATALINA_HOME="/usr/local/tomcat"
         export JAVA_HOME CATALINA_HOME

然後保存退出，執行 source /etc/profile 使剛纔配置的環境變量生效或者也可以重啓機器，自己選擇適合自己的方式。

(3)、tomcat的配置

編輯tomcat的配置文件server.xml

在Hosts文件裏面加上如下字段：

解釋：tomcat默認回去"appBase"目錄去查找要訪問的文件，如果沒有找到就去"docBase"目錄去尋找。這個這段也可以不加，自己隨意。

這是一臺tomcat服務器的配置信息，其他兩臺一樣，此處就不多說了。

(4)、啓動tomcat服務

/usr/local/tomcat/bin/startup.sh

4、在本地的hosts文件裏添加一條記錄：

192.168.81.131 tomcat.hxqm.com

5、測試訪問http://tomcat.hxqm.com,如果頁面可以正常訪問，說明nginx的代理和tomcat的服務都沒有問題。

6、清除指定的URL緩存測試示例：

如果你訪問的地址出現這樣的提示說明你的nginx可以清除指定的url，如果你訪問說出現404頁面錯誤和其他提示，原因可能是你們捕捉到緩存，請查看你的nginx配置文件。

如果本文檔有什麼錯誤地方請指出，謝謝！

分享技術快樂自我

nginx+tomcat負載均衡緩存服務器集羣

探究職業發展的關鍵：能力模型解讀

如何在低代碼平臺中引用 JavaScript ？

高效率使用windows

智能決策新時代：可視化大屏是否能夠超越傳統白板？

解密Prompt系列28. LLM Agent之金融領域摸索：FinMem & FinAgent

分享幾個.NET開源的AI和LLM相關項目框架

linux服務器不得不注意的安全問題--ssh暴力破解--denyhosts解決

Rsync安裝與配置

linux應用之文件實時同步（sersync）

nginx負載均衡和lvs負載均衡的比較分析

我的友情鏈接

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結