對于即將到來的雙11，高并發(fā)簡直成為了一個魔咒。盡管在大促活動前加班加點做測試，到了活動當(dāng)天仍然是危機頻發(fā)，高并發(fā)的關(guān)鍵時刻又出亂子了，緊急排查故障，一個漏洞沒注意到就讓競爭對手鉆了個空子，平臺損失嚴重，還有被媒體曝光的風(fēng)險。
相信這個場景在雙十一階段并不少見。在超高并發(fā)量下，IT 系統(tǒng)如何才能挺住不崩？有沒有辦法可以提前預(yù)測到，并加筑好“防御堡壘”？
大多數(shù)同學(xué)被問到這個問題壓根兒沒什么思路去回答，不知道從什么地方說起，其實本質(zhì)就是沒經(jīng)歷過一些真正有高并發(fā)系統(tǒng)的錘煉罷了。
一、什么是高并發(fā)？
高并發(fā)（High Concurrency）是互聯(lián)網(wǎng)分布式系統(tǒng)架構(gòu)設(shè)計中必須考慮的因素之一，它通常是指，通過設(shè)計保證系統(tǒng)能夠同時并行處理很多請求。高并發(fā)意味著大流量，需要運用技術(shù)手段抵抗流量的沖擊，這些手段好比操作流量，能讓流量更平穩(wěn)地被系統(tǒng)所處理，帶給用戶更好的體驗。
高并發(fā)相關(guān)常用的一些指標(biāo)有響應(yīng)時間（Response Time），吞吐量（Throughput），每秒查詢率QPS（Query Per Second），每秒事務(wù)處理量TPS(Transaction Per Second)，并發(fā)用戶數(shù)等。
響應(yīng)時間：系統(tǒng)對請求做出響應(yīng)的時間。
吞吐量：單位時間內(nèi)處理的請求數(shù)量。
QPS：每秒響應(yīng)查詢請求數(shù)。
TPS：每秒響應(yīng)事務(wù)請求數(shù)。
并發(fā)用戶數(shù)：同時承載正常使用系統(tǒng)功能的用戶數(shù)量。
我們常見的高并發(fā)場景有：淘寶的雙 11、春運時的搶票、微博大 V 的熱點新聞等。
二、多大并發(fā)才算高并發(fā)呢？
很顯然，上面談到的高并發(fā)場景，并發(fā)量各不相同，那到底多大并發(fā)才算高并發(fā)呢？
首先，不能只看數(shù)字，要看具體的業(yè)務(wù)場景。信息流場景涉及復(fù)雜的推薦模型和各種人工策略，它的業(yè)務(wù)邏輯可能比秒殺場景復(fù)雜 10 倍不止。因此，不在同一個維度，沒有任何比較意義。
此外，各個高并發(fā)場景的業(yè)務(wù)特點完全不同：有讀多寫少的信息流場景、有讀多寫多的交易場景，那是否有通用的技術(shù)方案解決不同場景的高并發(fā)問題呢？
三、如何應(yīng)對高并發(fā)？
由于軟硬件環(huán)境、技術(shù)棧、以及產(chǎn)品邏輯都沒法做到完全一致，這些都會導(dǎo)致同樣的業(yè)務(wù)場景，就算用相同的技術(shù)方案也會面臨不同的問題。大的思路可以借鑒，別人的方案也可以參考，但是真正落地過程中，細節(jié)上還會有無數(shù)的坑。
下面給大家兩個小建議：
其一，購買服務(wù)器。當(dāng)一個網(wǎng)站面對突發(fā)流量，不可能臨時改造架構(gòu)，最快的方式就是增加機器來線性提高系統(tǒng)的處理能力。
一支筷子容易斷，一把筷子就十分堅固。既然一臺服務(wù)器搞不定，我們就多上幾臺服務(wù)器。這里的原理就是分流，把以前集中的壓力分散開來。
其二，設(shè)置負載平衡。負載平衡可以通過多種負載算法將請求轉(zhuǎn)發(fā)到不同云服務(wù)器上。在后端云服務(wù)器宕機時，會自動將對應(yīng)節(jié)點從負載均衡的轉(zhuǎn)發(fā)列表中移出保證服務(wù)的高可用。
總之，面對高并發(fā)、大流量需要新購服務(wù)器或設(shè)置負載平衡的朋友們，新網(wǎng)云將是您的不二選擇！
設(shè)置負載平衡，點擊進入新網(wǎng)云：http://www.xinnet.com/cs/slb.html