1.使用內(nèi)存數(shù)據(jù)庫(kù)
內(nèi)存數(shù)據(jù)庫(kù)，其實(shí)就是將數(shù)據(jù)放在內(nèi)存中直接操作的數(shù)據(jù)庫(kù)。相對(duì)于磁盤，內(nèi)存的數(shù)據(jù)讀寫速度要高出幾個(gè)數(shù)量級(jí)，將數(shù)據(jù)保存在內(nèi)存中相比從磁盤上訪問(wèn)能夠極大地提高應(yīng)用的性能。內(nèi)存數(shù)據(jù)庫(kù)拋棄了磁盤數(shù)據(jù)管理的傳統(tǒng)方式，基于全部數(shù)據(jù)都在內(nèi)存中重新設(shè)計(jì)了體系結(jié)構(gòu)，并且在數(shù)據(jù)緩存、快速算法、并行操作方面也進(jìn)行了相應(yīng)的改進(jìn)，所以數(shù)據(jù)處理速度比傳統(tǒng)數(shù)據(jù)庫(kù)的數(shù)據(jù)處理速度要快很多。
但是安全性的問(wèn)題可以說(shuō)是內(nèi)存數(shù)據(jù)庫(kù)最大的硬傷。因?yàn)閮?nèi)存本身有掉電丟失的天然缺陷，因此我們?cè)谑褂脙?nèi)存數(shù)據(jù)庫(kù)的時(shí)候，通常需要，提前對(duì)內(nèi)存上的數(shù)據(jù)采取一些保護(hù)機(jī)制，比如備份，記錄日志，熱備或集群，與磁盤數(shù)據(jù)庫(kù)同步等方式。對(duì)于一些重要性不高但是又想要快速響應(yīng)用戶請(qǐng)求的部分?jǐn)?shù)據(jù)可以考慮內(nèi)存數(shù)據(jù)庫(kù)來(lái)存儲(chǔ)，同時(shí)可以定期把數(shù)據(jù)固化到磁盤。
2.使用rdd
在大數(shù)據(jù)云計(jì)算相關(guān)領(lǐng)域的一些應(yīng)用中，spark可以用來(lái)加快數(shù)據(jù)處理速度。spark的核心是rdd，rdd最早來(lái)源與berkeley實(shí)驗(yàn)室的一篇論文《resilient distributed datasets: a fault-tolerant abstraction for in-memory cluster computing》?，F(xiàn)有的數(shù)據(jù)流系統(tǒng)對(duì)兩種應(yīng)用的處理并不高效：一是迭代式算法，這在圖應(yīng)用和機(jī)器學(xué)習(xí)領(lǐng)域很常見；二是交互式數(shù)據(jù)挖掘工具。這兩種情況下，將數(shù)據(jù)保存在內(nèi)存中能夠極大地提高性能。
3.增加緩存
很多web應(yīng)用是有大量的靜態(tài)內(nèi)容，這些靜態(tài)內(nèi)容主要都是一些小文件，并且會(huì)被頻繁的讀，采用apache以及nginx作為web服務(wù)器。在web訪問(wèn)量不大的時(shí)候，這兩個(gè)http服務(wù)器可以說(shuō)是非常的迅速和高效，如果負(fù)載量很大的時(shí)候，我們可以采用在前端搭建cache服務(wù)器，將服務(wù)器中的靜態(tài)資源文件緩存到操作系統(tǒng)內(nèi)存中直接進(jìn)行讀操作，因?yàn)橹苯訌膬?nèi)存讀取數(shù)據(jù)的速度要遠(yuǎn)大于從硬盤讀取。這個(gè)其實(shí)也是增加內(nèi)存的成本來(lái)降低訪問(wèn)磁盤帶來(lái)的時(shí)間消耗。
4.使用ssd
除了對(duì)內(nèi)存方面的優(yōu)化，還可以對(duì)磁盤這邊進(jìn)行優(yōu)化。跟傳統(tǒng)機(jī)械硬盤相比，固態(tài)硬盤具有快速讀寫、質(zhì)量輕、能耗低以及體積小等特點(diǎn)。但是ssd的價(jià)格相比傳統(tǒng)機(jī)械硬盤要貴，有條件的可以使用ssd來(lái)代替機(jī)械硬盤。
5.優(yōu)化數(shù)據(jù)庫(kù)
大部分的服務(wù)器請(qǐng)求最終都是要落到數(shù)據(jù)庫(kù)中，隨著數(shù)據(jù)量的增加，數(shù)據(jù)庫(kù)的訪問(wèn)速度也會(huì)越來(lái)越慢。想要提升請(qǐng)求處理速度，必須要對(duì)原來(lái)的單表進(jìn)行動(dòng)刀了。目前主流的linux服務(wù)器使用的數(shù)據(jù)庫(kù)要屬mysql了，如果我們使用mysql存儲(chǔ)的數(shù)據(jù)單個(gè)表的記錄達(dá)到千萬(wàn)級(jí)別的話，查詢速度會(huì)很慢的。根據(jù)業(yè)務(wù)上合適的規(guī)則對(duì)數(shù)據(jù)庫(kù)進(jìn)行分區(qū)分表，可以有效提高數(shù)據(jù)庫(kù)的訪問(wèn)速度，提升服務(wù)器的整體性能。另外對(duì)于業(yè)務(wù)上查詢請(qǐng)求，在建表的時(shí)候可以根據(jù)相關(guān)需求設(shè)置索引等，以提高查詢速度。
6.選擇合適的io模型
io模型又分為：
(1).阻塞i/o模型：數(shù)據(jù)沒到達(dá)之前，i/o一直阻塞，如果數(shù)據(jù)到達(dá)，則會(huì)返回。典型的是recvfrom，一般的默認(rèn)都是阻塞的。
(2).非阻塞的i/o模型：和阻塞相反，只要不能得到結(jié)果的時(shí)候，i/o立刻返回。不會(huì)阻塞當(dāng)前線程。
io復(fù)用模型：也就是自己要學(xué)習(xí)的部分。多路復(fù)用的意思是，將多路信號(hào)合并到一路上進(jìn)行處理，類似多個(gè)管道匯集到一個(gè)管道，與之相反的是多路分解。
io復(fù)用模型主要是select，poll，epoll；對(duì)一個(gè)io端口，兩次調(diào)用，兩次返回，比阻塞io并沒有什么優(yōu)越性；關(guān)鍵是能實(shí)現(xiàn)同時(shí)對(duì)多個(gè)io端口進(jìn)行監(jiān)聽；函數(shù)也會(huì)使進(jìn)程阻塞，但是和阻塞i/o所不同的的，這兩個(gè)函數(shù)可以同時(shí)阻塞多個(gè)i/o操作。而且可以同時(shí)對(duì)多個(gè)讀操作，多個(gè)寫操作的i/o函數(shù)進(jìn)行檢測(cè)，直到有數(shù)據(jù)可讀或可寫時(shí)，才真正調(diào)用i/o操作函數(shù)。
信號(hào)驅(qū)動(dòng)：首先開啟套接口信號(hào)驅(qū)動(dòng)i/o功能,并通過(guò)系統(tǒng)調(diào)用sigaction安裝一個(gè)信號(hào)處理函數(shù)。當(dāng)數(shù)據(jù)報(bào)準(zhǔn)備好被讀時(shí)，就為該進(jìn)程生成一個(gè)sigio信號(hào)。隨即可以在信號(hào)處理程序中調(diào)用recvfrom來(lái)讀數(shù)據(jù)報(bào)，井通知主循環(huán)數(shù)據(jù)已準(zhǔn)備好被處理中。也可以通知主循環(huán)，讓它來(lái)讀數(shù)據(jù)報(bào)。
異步的io模型：告知內(nèi)核啟動(dòng)某個(gè)操作，并讓內(nèi)核在整個(gè)操作完成后(包括將數(shù)據(jù)從內(nèi)核拷貝到用戶自己的緩沖區(qū))通知我們。這里并不是說(shuō)一定要用某個(gè)模型，epoll也并不是在所有情況下都比select性能要好的，在選擇的時(shí)候還是要結(jié)合業(yè)務(wù)需求來(lái)。
7.使用多核處理策略
現(xiàn)在運(yùn)行服務(wù)器的主流機(jī)器配置都是多核cpu的，我們?cè)谠O(shè)計(jì)服務(wù)器的時(shí)候可以利用多核心的特點(diǎn)，采用多進(jìn)程或者多線程的框架。關(guān)于選擇多線程還是多進(jìn)程可以根據(jù)實(shí)際的需求，結(jié)合各自的優(yōu)缺點(diǎn)進(jìn)行選擇。對(duì)于多線程的使用，特別是使用線程池的時(shí)候可以通過(guò)測(cè)試不同線程池服務(wù)器的性能來(lái)設(shè)置合適的線程池。
8.分布式部署程序
當(dāng)單機(jī)服務(wù)器已經(jīng)找不到合適的優(yōu)化點(diǎn)時(shí)，我們可以通過(guò)分布式部署來(lái)提高服務(wù)器的響應(yīng)能力。優(yōu)秀的服務(wù)器開發(fā)都會(huì)為自己的服務(wù)器的擴(kuò)容，容災(zāi)提出一些解決方案。個(gè)人覺得服務(wù)器設(shè)計(jì)的時(shí)候簡(jiǎn)單點(diǎn)比較好，這樣后期擴(kuò)容的時(shí)候會(huì)很方便。