出現(xiàn)問題的原因是請求壓力大，服務器listen后不能及時接受socket，新來的connection就建立不起來，而這背后可能是由于部分api處理慢，影響了整體組件的可用性，也可能是程序的并發(fā)性不高。
可以從三個方面來優(yōu)化：
修改配置參數(shù)來優(yōu)化性能
（1）修改系統(tǒng)配置參數(shù)：
vi /etc/sysctl.conf
在文件末尾添加：
net.core.somaxconn = 65535 #服務端所能接受處理數(shù)據(jù)的連接上限，此時TCP三次握手已完成，該數(shù)值不能超過65536
net.ipv4.tcp_max_syn_backlog = 8192 #服務端能容納半連接的上限，此時服務端處于TCP三次握手中的SYN_REVD狀態(tài)
net.core.netdev_max_backlog = 65535 # 網(wǎng)卡設(shè)備將請求放入隊列的長度，數(shù)據(jù)包的接收速度大于內(nèi)核tcp處理速度時，會進入該隊列
然后執(zhí)行以下命令重新load參數(shù)，會立即生效，之后重啟機器也會生效
sysctl -p
（2）修改nginx 的配置參數(shù)
worker_processes 2; #設(shè)置為cpu的個數(shù)
events {
worker_connections 65535; # 最大連接數(shù)，這個值依賴系統(tǒng)的配置
}
（3）修改uwsgi.ini的配置參數(shù)
增加uwsgi listen 隊列長度和工作進程的數(shù)量，在uwsgi的配置文件中添加以下配置：
listen = 1024
processes = 8
采用UNIX Domain Socket 來替代網(wǎng)絡(luò)Socket
首先介紹一下UNIX Domain Socket 和 網(wǎng)絡(luò)Socket的聯(lián)系與區(qū)別：
聯(lián)系：都是進程間通信的機制
區(qū)別：
（1）UNIX Domain Socket只能用于同一臺機器上不同進程之間的通信，而網(wǎng)絡(luò)Socket還可以用于不同機器上進程之間的通信；
（2）通過UNIX Domain Socket進行進程間通信時，不需要經(jīng)過網(wǎng)絡(luò)協(xié)議棧、不需要數(shù)據(jù)的打包和拆包、計算校驗和、維護序列號和應答等，只是將應用層數(shù)據(jù)從一個進程拷貝到另一個進程；通過UNIX Domain Socket通信在同一臺機器上傳輸速度是網(wǎng)絡(luò)Socket的兩倍；
（3）UNIX Domain Socket是可靠的，消息不會丟失、不會亂序，而使用UDP的網(wǎng)絡(luò)Socket通信是不可靠的；
（4）網(wǎng)絡(luò)socket地址是IP地址加端口號，而UNIX Domain Socket的地址是一個socket類型的文件在文件系統(tǒng)中的路徑，這個socket文件由bind()調(diào)用創(chuàng)建，如果調(diào)用bind()時該文件已存在，則bind()錯誤返回。
那么我們應該如何修改我們的配置參數(shù)呢？
（1）修改uwsgi.ini的配置參數(shù)
增加uwsgi listen 隊列長度和工作進程的數(shù)量，在uwsgi的配置文件中添加以下配置：
socket = /tmp/uwsgi.sock # 變?yōu)閁NIX Domain Socket 而127.0.0.1:5000 為網(wǎng)絡(luò)Socket
（2）修改nginx 的server中的配置參數(shù)
uwsgi_pass unix:///tmp/uwsgi.sock; #之前是127.0.0.1:5000
增加機器 利用nginx的負載均衡
修改nginx的配置參數(shù)：
在http{}中添加以下內(nèi)容
upstream backend {
server 192.168.102.133:8077 ; #換成自己的生產(chǎn)機器Socket，與nginx配置在同一臺機器的server可寫UNIX Domain Socket
server 192.168.102.134:8077 ;
server 192.168.102.135:8077;
#ip_hash; 如果有session一致性問題
}
在server{}中添加以下內(nèi)容：
location / {
include uwsgi_params;
uwsgi_pass backend;
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Host $server_name;
}
最后別忘記重新啟動nginx。
