nginx高併發優化

1. linux 句柄調節

大家知道在linux服務器大併發調優時，往往需要預先調優linux參數，其中修改linux最大文件句柄數是最常修改的參數之一。

[root@mongodb11 ~]# ulimit -a
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 256324
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 1024
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 10240
cpu time               (seconds, -t) unlimited
max user processes              (-u) 256324
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

open files 1024
默認情況下，linux最大文件句柄數爲1024個。當你的服務器在大並發達到極限時，就會報出“too many open files”。
修改linux最大文件句柄數:

1	ulimit -n 65535

這種方法退出登陸後失效

1	echo "ulimit -n 65535" > /etc/profile

添加到登陸環境文件

或者修改文件

1
2
3

vi /etc/security/limits.conf 
*　　soft　　nofile　　65536
*　　hard　　nofile　　65536

退出後重新登陸，執行ulimit -a 可觀察生效

2. 高併發linux 網絡性能優化

cat >> /etc/sysctl.conf  << EOF
net.ipv4.tcp_max_tw_buckets = 6000
net.ipv4.ip_local_port_range = 1024 65000
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_syncookies = 1
net.core.somaxconn = 262144
net.core.netdev_max_backlog = 262144
net.ipv4.tcp_max_orphans = 262144
net.ipv4.tcp_max_syn_backlog = 262144
net.ipv4.tcp_synack_retries = 1
net.ipv4.tcp_syn_retries = 1
net.ipv4.tcp_fin_timeout = 1
net.ipv4.tcp_keepalive_time = 30
EOF
/sbin/sysctl -p

參數解釋：

net.ipv4.tcp_max_tw_buckets       #用來設定timewait的數量，默認是180 000，這裏設爲6000。
net.ipv4.ip_local_port_range      #用來設定允許系統打開的端口範圍。
net.ipv4.tcp_tw_recycle           #用於設置啓用timewait快速回收
net.ipv4.tcp_tw_reuse             #用於設置開啓重用，允許將TIME-WAIT sockets重新用於新的TCP連接
net.ipv4.tcp_syncookies           #用於設置開啓SYN Cookies，當出現SYN等待隊列溢出時，啓用cookies進行處理。
net.core.somaxconn                #默認值是128， 這個參數用於調節系統同時發起的tcp連接數，在高併發的請求中，默認的值可能會導致鏈接超時或者重傳，因此，需要結合併發請求數來調節此值。
net.core.netdev_max_backlog       #表示當每個網絡接口接收數據包的速率比內核處理這些包的速率快時，允許發送到隊列的數據包的最大數目。
net.ipv4.tcp_max_orphans          #用於設定系統中最多有多少個TCP套接字不被關聯到任何一個用戶文件句柄上。如果超過這個數字，孤立連接將立即被複位並打印出警告信息。這個限制只是爲了 防止簡單的DoS***。不能過分依靠這個限制甚至人爲減小這個值，更多的情況下應該增加這個值。
net.ipv4.tcp_max_syn_backlog      #用於記錄那些尚未收到客戶端確認信息的連接請求的最大值。對於有128MB內存的系統而言，此參數的默認值是1024，對小內存的系統則是128。
net.ipv4.tcp_synack_retries       #參數的值決定了內核放棄連接之前發送SYN+ACK包的數量。
net.ipv4.tcp_syn_retries          #表示在內核放棄建立連接之前發送SYN包的數量。
net.ipv4.tcp_fin_timeout          #決定了套接字保持在FIN-WAIT-2狀態的時間。默認值是60秒。正確設置這個值非常重要，有時即使一個負載很小的Web服務器，也會出現大量的死套接字而產生內存溢出的風險。
net.ipv4.tcp_syn_retries          #表示在內核放棄建立連接之前發送SYN包的數量。
#如果發送端要求關閉套接字，net.ipv4.tcp_fin_timeout 決定了套接字保持在FIN-WAIT-2狀態的時間。接收端可以出錯並永遠不關閉連接，甚至意外宕機。
net.ipv4.tcp_fin_timeout          #的默認值是60秒。需要注意的是，即使一個負載很小的Web服務器，也會出現因爲大量的死套接字 而產生內存溢出的風險。FIN-WAIT-2的危險性比FIN-WAIT-1要小，因爲它最多隻能消耗1.5KB的內存，但是其生存期長些。

3. nginx 優化

基本的 (優化過的)配置

我們將修改的唯一文件是nginx.conf，其中包含Nginx不同模塊的所有設置。你應該能夠在服務器的/etc/nginx目錄中找到nginx.conf。首先，我們將談論一些全局設置，然後按文件中的模塊挨個來，談一下哪些設置能夠讓你在大量客戶端訪問時擁有良好的性能，爲什麼它們會提高性能。本文的結尾有一個完整的配置文件。

高層的配置

nginx.conf文件中，Nginx中有少數的幾個高級配置在模塊部分之上。

HTTP 模塊

HTTP模塊控制着nginx http處理的所有核心特性。因爲這裏只有很少的配置，所以我們只節選配置的一小部分。所有這些設置都應該在http模塊中，甚至你不會特別的注意到這段設置。

http { 
server_tokens off; 
sendfile on; 
tcp_nopush on; 
tcp_nodelay on; 
... 
}

server_tokens 並不會讓nginx執行的速度更快，但它可以關閉在錯誤頁面中的nginx版本數字，這樣對於安全性是有好處的。

sendfile 可以讓sendfile()發揮作用。sendfile()可以在磁盤和TCP socket之間互相拷貝數據(或任意兩個文件描述符)。Pre-sendfile是傳送數據之前在用戶空間申請數據緩衝區。之後用read()將數據從文件拷貝到這個緩衝區，write()將緩衝區數據寫入網絡。sendfile()是立即將數據從磁盤讀到OS緩存。因爲這種拷貝是在內核完成的，sendfile()要比組合read()和write()以及打開關閉丟棄緩衝更加有效(更多有關於sendfile)。

tcp_nopush 告訴nginx在一個數據包裏發送所有頭文件，而不一個接一個的發送。

tcp_nodelay 告訴nginx不要緩存數據，而是一段一段的發送—當需要及時發送數據時，就應該給應用設置這個屬性，這樣發送一小塊數據信息時就不能立即得到返回值。

1 2	access_log off; error_log /var/log/nginx/error.log crit;

access_log 設置nginx是否將存儲訪問日誌。關閉這個選項可以讓讀取磁盤IO操作更快(aka,YOLO)

error_log 告訴nginx只能記錄嚴重的錯誤：

keepalive_timeout 10; 
client_header_timeout 10; 
client_body_timeout 10; 
reset_timedout_connection on; 
send_timeout 10;

keepalive_timeout 給客戶端分配keep-alive鏈接超時時間。服務器將在這個超時時間過後關閉鏈接。我們將它設置低些可以讓ngnix持續工作的時間更長。

client_header_timeout 和client_body_timeout 設置請求頭和請求體(各自)的超時時間。我們也可以把這個設置低些。

reset_timeout_connection 告訴nginx關閉不響應的客戶端連接。這將會釋放那個客戶端所佔有的內存空間。

send_timeout 指定客戶端的響應超時時間。這個設置不會用於整個轉發器，而是在兩次客戶端讀取操作之間。如果在這段時間內，客戶端沒有讀取任何數據，nginx就會關閉連接。

1 2	limit_conn_zone $binary_remote_addr zone=addr:5m; limit_conn addr 100;

limit_conn_zone 設置用於保存各種key（比如當前連接數）的共享內存的參數。5m就是5兆字節，這個值應該被設置的足夠大以存儲（32K5）32byte狀態或者（16K5）64byte狀態。

limit_conn 爲給定的key設置最大連接數。這裏key是addr，我們設置的值是100，也就是說我們允許每一個IP地址最多同時打開有100個連接。

1
2
3

include /etc/nginx/mime.types; 
default_type text/html; 
charset UTF-8;

include 只是一個在當前文件中包含另一個文件內容的指令。這裏我們使用它來加載稍後會用到的一系列的MIME類型。

default_type 設置文件使用的默認的MIME-type。

charset 設置我們的頭文件中的默認的字符集

以下兩點對於性能的提升在偉大的WebMasters StackExchange中有解釋。

gzip on; 
gzip_disable "msie6"; 
# gzip_static on; 
gzip_proxied any; 
gzip_min_length 1000; 
gzip_comp_level 4; 
gzip_types text/plain text/css application/json application/x-javascript text/xml application/xml application/xml+rss text/javascript;

gzip 是告訴nginx採用gzip壓縮的形式發送數據。這將會減少我們發送的數據量。

gzip_disable 爲指定的客戶端禁用gzip功能。我們設置成IE6或者更低版本以使我們的方案能夠廣泛兼容。

gzip_static 告訴nginx在壓縮資源之前，先查找是否有預先gzip處理過的資源。這要求你預先壓縮你的文件（在這個例子中被註釋掉了），從而允許你使用最高壓縮比，這樣nginx就不用再壓縮這些文件了（想要更詳盡的gzip_static的信息，請點擊這裏）。

gzip_proxied 允許或者禁止壓縮基於請求和響應的響應流。我們設置爲any，意味着將會壓縮所有的請求。

gzip_min_length 設置對數據啓用壓縮的最少字節數。如果一個請求小於1000字節，我們最好不要壓縮它，因爲壓縮這些小的數據會降低處理此請求的所有進程的速度。

gzip_comp_level 設置數據的壓縮等級。這個等級可以是1-9之間的任意數值，9是最慢但是壓縮比最大的。我們設置爲4，這是一個比較折中的設置。

gzip_type 設置需要壓縮的數據格式。上面例子中已經有一些了，你也可以再添加更多的格式。

# cache informations about file descriptors, frequently accessed files 
# can boost performance, but you need to test those values 
open_file_cache max=100000 inactive=20s; 
open_file_cache_valid 30s; 
open_file_cache_min_uses 2; 
open_file_cache_errors on; 
## 
# Virtual Host Configs 
# aka our settings for specific servers 
## 
include /etc/nginx/conf.d/*.conf; 
include /etc/nginx/sites-enabled/*;

open_file_cache 打開緩存的同時也指定了緩存最大數目，以及緩存的時間。我們可以設置一個相對高的最大時間，這樣我們可以在它們不活動超過20秒後清除掉。

open_file_cache_valid 在open_file_cache中指定檢測正確信息的間隔時間。

open_file_cache_min_uses 定義了open_file_cache中指令參數不活動時間期間裏最小的文件數。

open_file_cache_errors 指定了當搜索一個文件時是否緩存錯誤信息，也包括再次給配置中添加文件。我們也包括了服務器模塊，這些是在不同文件中定義的。如果你的服務器模塊不在這些位置，你就得修改這一行來指定正確的位置。

一個完整的配置

user www-data; 
pid /var/run/nginx.pid; 
worker_processes auto; 
worker_rlimit_nofile 100000; 
events { 
worker_connections 2048; 
multi_accept on; 
use epoll; 
} 
http { 
server_tokens off; 
sendfile on; 
tcp_nopush on; 
tcp_nodelay on; 
access_log off; 
error_log /var/log/nginx/error.log crit; 
keepalive_timeout 10; 
client_header_timeout 10; 
client_body_timeout 10; 
reset_timedout_connection on; 
send_timeout 10; 
limit_conn_zone $binary_remote_addr zone=addr:5m; 
limit_conn addr 100; 
include /etc/nginx/mime.types; 
default_type text/html; 
charset UTF-8; 
gzip on; 
gzip_disable "msie6"; 
gzip_proxied any; 
gzip_min_length 1000; 
gzip_comp_level 6; 
gzip_types text/plain text/css application/json application/x-javascript text/xml application/xml application/xml+rss text/javascript; 
open_file_cache max=100000 inactive=20s; 
open_file_cache_valid 30s; 
open_file_cache_min_uses 2; 
open_file_cache_errors on; 
include /etc/nginx/conf.d/*.conf; 
include /etc/nginx/sites-enabled/*; 
}

重啓

1	sudo service nginx restart

nginx高併發優化

1. linux 句柄調節

2. 高併發linux 網絡性能優化

3. nginx 優化

基本的 (優化過的)配置

高層的配置

HTTP 模塊

24-5-18 X

nginx高併發優化

varnish 日誌

Ubuntu kvm的安裝

kvm虛擬日常管理

mysql集羣方案

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結