国产在线观看精品免费,亚洲日本VA久久一区二区,香蕉久久99综合一区二区三区,久久精品99国产精品蜜桃小说

Nginx為什么快到根本停不下來(lái)？

2021-11-04 09:31:23 shuai.chang


Nginx 是一個(gè)免費的，開(kāi)源的，高性能的 HTTP 服務(wù)器和反向代理，以及 IMAP / POP3 代理服務(wù)器。

睿智創(chuàng )新RAIZ，一體化IT服務(wù)提供商

Nginx 以其高性能，穩定性，豐富的功能，簡(jiǎn)單的配置和低資源消耗而聞名。本文從底層原理分析 Nginx 為什么這么快！

Nginx 的進(jìn)程模型

睿智創(chuàng )新RAIZ，一體化IT服務(wù)提供商


Nginx 服務(wù)器，正常運行過(guò)程中：

  • 多進(jìn)程：一個(gè) Master 進(jìn)程、多個(gè) Worker 進(jìn)程。
  • Master 進(jìn)程：管理 Worker 進(jìn)程。對外接口：接收外部的操作（信號）；對內轉發(fā)：根據外部的操作的不同，通過(guò)信號管理 Worker；監控：監控 Worker 進(jìn)程的運行狀態(tài)，Worker 進(jìn)程異常終止后，自動(dòng)重啟 Worker 進(jìn)程。
  • Worker 進(jìn)程：所有 Worker 進(jìn)程都是平等的。實(shí)際處理：網(wǎng)絡(luò )請求，由 Worker 進(jìn)程處理。Worker 進(jìn)程數量：在 nginx.conf 中配置，一般設置為核心數，充分利用 CPU 資源，同時(shí)，避免進(jìn)程數量過(guò)多，避免進(jìn)程競爭 CPU 資源，增加上下文切換的損耗。

思考：
  • 請求是連接到 Nginx，Master 進(jìn)程負責處理和轉發(fā)？
  • 如何選定哪個(gè) Worker 進(jìn)程處理請求？請求的處理結果，是否還要經(jīng)過(guò) Master 進(jìn)程？


睿智創(chuàng )新RAIZ，一體化IT服務(wù)提供商

HTTP 連接建立和請求處理過(guò)程

HTTP 連接建立和請求處理過(guò)程如下：

  • Nginx 啟動(dòng)時(shí)，Master 進(jìn)程，加載配置文件。

  • Master 進(jìn)程，初始化監聽(tīng)的 Socket。

  • Master 進(jìn)程，Fork 出多個(gè) Worker 進(jìn)程。

  • Worker 進(jìn)程，競爭新的連接，獲勝方通過(guò)三次握手，建立 Socket 連接，并處理請求。


Nginx 高性能、高并發(fā)

Nginx 為什么擁有高性能并且能夠支撐高并發(fā)？
  • Nginx 采用多進(jìn)程+異步非阻塞方式（IO 多路復用 Epoll）。
  • 請求的完整過(guò)程：建立連接→讀取請求→解析請求→處理請求→響應請求。
  • 請求的完整過(guò)程對應到底層就是：讀寫(xiě) Socket 事件。


Nginx 的事件處理模型

Request：Nginx 中 HTTP 請求。

基本的 HTTP Web Server 工作模式：
  • 接收請求：逐行讀取請求行和請求頭，判斷段有請求體后，讀取請求體。
  • 處理請求。
  • 返回響應：根據處理結果，生成相應的 HTTP 請求（響應行、響應頭、響應體）。

Nginx 也是這個(gè)套路，整體流程一致：


睿智創(chuàng )新RAIZ，一體化IT服務(wù)提供商

模塊化體系結構

Nginx 的模塊根據其功能基本上可以分為以下幾種類(lèi)型：

  • event module：搭建了獨立于操作系統的事件處理機制的框架，及提供了各具體事件的處理。包括 ngx_events_module，ngx_event_core_module 和 ngx_epoll_module 等。Nginx 具體使用何種事件處理模塊，這依賴(lài)于具體的操作系統和編譯選項。
  • phase handler：此類(lèi)型的模塊也被直接稱(chēng)為 handler 模塊。主要負責處理客戶(hù)端請求并產(chǎn)生待響應內容，比如 ngx_http_static_module 模塊，負責客戶(hù)端的靜態(tài)頁(yè)面請求處理并將對應的磁盤(pán)文件準備為響應內容輸出。
  • output filter：也稱(chēng)為 filter 模塊，主要是負責對輸出的內容進(jìn)行處理，可以對輸出進(jìn)行修改。例如，可以實(shí)現對輸出的所有 html 頁(yè)面增加預定義的 footbar 一類(lèi)的工作，或者對輸出的圖片的 URL 進(jìn)行替換之類(lèi)的工作。
  • upstream：upstream 模塊實(shí)現反向代理的功能，將真正的請求轉發(fā)到后端服務(wù)器上，并從后端服務(wù)器上讀取響應，發(fā)回客戶(hù)端。upstream 模塊是一種特殊的 handler，只不過(guò)響應內容不是真正由自己產(chǎn)生的，而是從后端服務(wù)器上讀取的。
  • load-balancer：負載均衡模塊，實(shí)現特定的算法，在眾多的后端服務(wù)器中，選擇一個(gè)服務(wù)器出來(lái)作為某個(gè)請求的轉發(fā)服務(wù)器。

常見(jiàn)問(wèn)題剖析

Nginx vs Apache

Nginx：
  • IO 多路復用，Epoll（freebsd 上是 kqueue）
  • 高性能
  • 高并發(fā)
  • 占用系統資源少

Apache：
  • 阻塞+多進(jìn)程/多線(xiàn)程
  • 更穩定，Bug 少
  • 模塊更豐富

參考文章：
  • http://www.oschina.net/translate/nginx-vs-apache
  • https://www.zhihu.com/question/19571087


Nginx 最大連接數

基礎背景：
  • Nginx 是多進(jìn)程模型，Worker 進(jìn)程用于處理請求。
  • 單個(gè)進(jìn)程的連接數（文件描述符 fd），有上限（nofile）：ulimit -n。
  • Nginx 上配置單個(gè) Worker 進(jìn)程的最大連接數：worker_connections 上限為 nofile。
  • Nginx 上配置 Worker 進(jìn)程的數量：worker_processes。

因此，Nginx 的最大連接數：
  • Nginx 的最大連接數：Worker 進(jìn)程數量 x 單個(gè) Worker 進(jìn)程的最大連接數。
  • 上面是 Nginx 作為通用服務(wù)器時(shí)，最大的連接數。
  • Nginx 作為反向代理服務(wù)器時(shí)，能夠服務(wù)的最大連接數：（Worker 進(jìn)程數量 x 單個(gè) Worker 進(jìn)程的最大連接數）/ 2。
  • Nginx 反向代理時(shí)，會(huì )建立 Client 的連接和后端 Web Server 的連接，占用 2 個(gè)連接。

思考：
  • 每打開(kāi)一個(gè) Socket 占用一個(gè) fd？
  • 為什么，一個(gè)進(jìn)程能夠打開(kāi)的 fd 數量有限制？

HTTP 請求和響應

HTTP 請求：
  • 請求行：method、uri、http version
  • 請求頭
  • 請求體

HTTP 響應：
  • 響應行：http version、status code
  • 響應頭
  • 響應體

IO 模型

處理多個(gè)請求時(shí)，可以采用：IO 多路復用或者阻塞 IO+多線(xiàn)程：
  • IO 多路復用：一個(gè)線(xiàn)程，跟蹤多個(gè) Socket 狀態(tài)，哪個(gè)就緒，就讀寫(xiě)哪個(gè)。
  • 阻塞 IO+多線(xiàn)程：每一個(gè)請求，新建一個(gè)服務(wù)線(xiàn)程。

IO 多路復用和多線(xiàn)程的適用場(chǎng)景？
  • IO 多路復用：?jiǎn)蝹€(gè)連接的請求處理速度沒(méi)有優(yōu)勢。
  • 大并發(fā)量：只使用一個(gè)線(xiàn)程，處理大量的并發(fā)請求，降低上下文環(huán)境切換損耗，也不需要考慮并發(fā)問(wèn)題，相對可以處理更多的請求。
  • 消耗更少的系統資源（不需要線(xiàn)程調度開(kāi)銷(xiāo)）。
  • 適用于長(cháng)連接的情況（多線(xiàn)程模式長(cháng)連接容易造成線(xiàn)程過(guò)多，造成頻繁調度）。
  • 阻塞 IO +多線(xiàn)程：實(shí)現簡(jiǎn)單，可以不依賴(lài)系統調用。
  • 每個(gè)線(xiàn)程，都需要時(shí)間和空間。
  • 線(xiàn)程數量增長(cháng)時(shí)，線(xiàn)程調度開(kāi)銷(xiāo)指數增長(cháng)。

select/poll 和 epoll 比較如下：

詳細內容，參考：https://www.cnblogs.com/wiessh ... .html

select/poll 系統調用：
// select 系統調用
int select(int maxfdp,fd_set *readfds,fd_set *writefds,fd_set *errorfds,struct timeval *timeout); 
// poll 系統調用
int poll(struct pollfd fds[], nfds_t nfds, int timeout)；
select：
  • 查詢(xún) fd_set 中，是否有就緒的 fd，可以設定一個(gè)超時(shí)時(shí)間，當有 fd（File descripter）就緒或超時(shí)返回。
  • fd_set 是一個(gè)位集合，大小是在編譯內核時(shí)的常量，默認大小為 1024。
  • 特點(diǎn)：連接數限制，fd_set 可表示的 fd 數量太小了；線(xiàn)性?huà)呙瑁号袛?fd 是否就緒，需要遍歷一邊 fd_set；數據復制：用戶(hù)空間和內核空間，復制連接就緒狀態(tài)信息。

poll：
  • 解決了連接數限制：poll 中將 select 中的 fd_set 替換成了一個(gè) pollfd 數組，解決 fd 數量過(guò)小的問(wèn)題。
  • 數據復制：用戶(hù)空間和內核空間，復制連接就緒狀態(tài)信息。

epoll，event 事件驅動(dòng)：
  • 事件機制：避免線(xiàn)性?huà)呙?，為每個(gè) fd，注冊一個(gè)監聽(tīng)事件，fd 變更為就緒時(shí)，將 fd 添加到就緒鏈表。
  • fd 數量：無(wú)限制（OS 級別的限制，單個(gè)進(jìn)程能打開(kāi)多少個(gè) fd）。

select，poll，epoll：
  • I/O 多路復用的機制。
  • I/O 多路復用就通過(guò)一種機制，可以監視多個(gè)描述符，一旦某個(gè)描述符就緒（一般是讀就緒或者寫(xiě)就緒），能夠通知程序進(jìn)行相應的讀寫(xiě)操作；監視多個(gè)文件描述符。
  • 但 select，poll，epoll 本質(zhì)上都是同步 I/O：用戶(hù)進(jìn)程負責讀寫(xiě)（從內核空間拷貝到用戶(hù)空間），讀寫(xiě)過(guò)程中，用戶(hù)進(jìn)程是阻塞的；異步 IO，無(wú)需用戶(hù)進(jìn)程負責讀寫(xiě)，異步 IO，會(huì )負責從內核空間拷貝到用戶(hù)空間。


Nginx 的并發(fā)處理能力

關(guān)于 Nginx 的并發(fā)處理能力：并發(fā)連接數，一般優(yōu)化后，峰值能保持在 1~3w 左右。（內存和 CPU 核心數不同，會(huì )有進(jìn)一步優(yōu)化空間）




我要咨詢(xún)
服務(wù)熱線(xiàn)

（86）130-4243-1809
周一至周五:9:00~17:00

沈陽(yáng)睿智創(chuàng )新科技有限公司
">