池的概念
由于服務(wù)器的硬件資源“充裕”，那么提高服務(wù)器性能的一個(gè)很直接的方法就是以空間換時(shí)間，即“浪費(fèi)”服務(wù)器的硬件資源，以換取其運(yùn)行效率。這就是池的概念。池是一組資源的集合，這組資源在服務(wù)器啟動(dòng)之初就完全被創(chuàng)建并初始化，這稱為靜態(tài)資源分配。當(dāng)服務(wù)器進(jìn)入正式運(yùn)行階段，即開始處理客戶請(qǐng)求的時(shí)候，如果它需要相關(guān)的資源，就可以直接從池中獲取，無(wú)需動(dòng)態(tài)分配。很顯然，直接從池中取得所需資源比動(dòng)態(tài)分配資源的速度要快得多，因?yàn)榉峙湎到y(tǒng)資源的系統(tǒng)調(diào)用都是很耗時(shí)的。當(dāng)服務(wù)器處理完一個(gè)客戶連接后，可以把相關(guān)的資源放回池中，無(wú)需執(zhí)行系統(tǒng)調(diào)用來(lái)釋放資源。從最終效果來(lái)看，池相當(dāng)于服務(wù)器管理系統(tǒng)資源的應(yīng)用設(shè)施，它避免了服務(wù)器對(duì)內(nèi)核的頻繁訪問(wèn)。
池可以分為多種，常見的有內(nèi)存池、進(jìn)程池、線程池和連接池。
內(nèi)存池
內(nèi)存池是一種內(nèi)存分配方式。通常我們習(xí)慣直接使用new、malloc等系統(tǒng)調(diào)用申請(qǐng)分配內(nèi)存，這樣做的缺點(diǎn)在于：由于所申請(qǐng)內(nèi)存塊的大小不定，當(dāng)頻繁使用時(shí)會(huì)造成大量的內(nèi)存碎片并進(jìn)而降低性能。
內(nèi)存池則是在真正使用內(nèi)存之前，先申請(qǐng)分配一定數(shù)量的、大小相等(一般情況下)的內(nèi)存塊留作備用。當(dāng)有新的內(nèi)存需求時(shí)，就從內(nèi)存池中分出一部分內(nèi)存塊，若內(nèi)存塊不夠再繼續(xù)申請(qǐng)新的內(nèi)存。這樣做的一個(gè)顯著優(yōu)點(diǎn)是，使得內(nèi)存分配效率得到提升。
進(jìn)程池和線程池
進(jìn)程池和線程池相似，所以這里我們以進(jìn)程池為例進(jìn)行介紹。如沒(méi)有特殊聲明，下面對(duì)進(jìn)程池的描述也適用于線程池。
進(jìn)程池是由服務(wù)器預(yù)先創(chuàng)建的一組子進(jìn)程，這些子進(jìn)程的數(shù)目在 3~10 個(gè)之間（當(dāng)然這只是典型情況）。線程池中的線程數(shù)量應(yīng)該和 CPU 數(shù)量差不多。
進(jìn)程池中的所有子進(jìn)程都運(yùn)行著相同的代碼，并具有相同的屬性，比如優(yōu)先級(jí)、 PGID 等。
當(dāng)有新的任務(wù)來(lái)到時(shí)，主進(jìn)程將通過(guò)某種方式選擇進(jìn)程池中的某一個(gè)子進(jìn)程來(lái)為之服務(wù)。相比于動(dòng)態(tài)創(chuàng)建子進(jìn)程，選擇一個(gè)已經(jīng)存在的子進(jìn)程的代價(jià)顯得小得多。至于主進(jìn)程選擇哪個(gè)子進(jìn)程來(lái)為新任務(wù)服務(wù)，則有兩種方法：
1）主進(jìn)程使用某種算法來(lái)主動(dòng)選擇子進(jìn)程。最簡(jiǎn)單、最常用的算法是隨機(jī)算法和 Round Robin （輪流算法）。
2）主進(jìn)程和所有子進(jìn)程通過(guò)一個(gè)共享的工作隊(duì)列來(lái)同步，子進(jìn)程都睡眠在該工作隊(duì)列上。當(dāng)有新的任務(wù)到來(lái)時(shí)，主進(jìn)程將任務(wù)添加到工作隊(duì)列中。這將喚醒正在等待任務(wù)的子進(jìn)程，不過(guò)只有一個(gè)子進(jìn)程將獲得新任務(wù)的“接管權(quán)”，它可以從工作隊(duì)列中取出任務(wù)并執(zhí)行之，而其他子進(jìn)程將繼續(xù)睡眠在工作隊(duì)列上。
當(dāng)選擇好子進(jìn)程后，主進(jìn)程還需要使用某種通知機(jī)制來(lái)告訴目標(biāo)子進(jìn)程有新任務(wù)需要處理，并傳遞必要的數(shù)據(jù)。最簡(jiǎn)單的方式是，在父進(jìn)程和子進(jìn)程之間預(yù)先建立好一條管道，然后通過(guò)管道來(lái)實(shí)現(xiàn)所有的進(jìn)程間通信。在父線程和子線程之間傳遞數(shù)據(jù)就要簡(jiǎn)單得多，因?yàn)槲覀兛梢园堰@些數(shù)據(jù)定義為全局，那么它們本身就是被所有線程共享的。
線程池主要用于：
1）需要大量的線程來(lái)完成任務(wù)，且完成任務(wù)的時(shí)間比較短。 比如WEB服務(wù)器完成網(wǎng)頁(yè)請(qǐng)求這樣的任務(wù)，使用線程池技術(shù)是非常合適的。因?yàn)閱蝹€(gè)任務(wù)小，而任務(wù)數(shù)量巨大。但對(duì)于長(zhǎng)時(shí)間的任務(wù)，比如一個(gè)Telnet連接請(qǐng)求，線程池的優(yōu)點(diǎn)就不明顯了。因?yàn)門elnet會(huì)話時(shí)間比線程的創(chuàng)建時(shí)間大多了。
2）對(duì)性能要求苛刻的應(yīng)用，比如要求服務(wù)器迅速響應(yīng)客戶請(qǐng)求。
3）接受突發(fā)性的大量請(qǐng)求，但不至于使服務(wù)器因此產(chǎn)生大量線程的應(yīng)用。
