作者簡(jiǎn)介

肖力，天翼云科技有限公司彈性網(wǎng)絡(luò)產(chǎn)品線架構(gòu)師。從事網(wǎng)絡(luò)方面的工作，對(duì)MPLS、3GGP協(xié)議和IAAS網(wǎng)絡(luò)架構(gòu)有深入的研究，對(duì)IAAS網(wǎng)絡(luò)產(chǎn)品都有深入的理解，支撐了100+公有云/混合云項(xiàng)目網(wǎng)絡(luò)方案的設(shè)計(jì)和落地。

負(fù)載均衡介紹

負(fù)載均衡（Load Balancing）是一種優(yōu)化資源分配的技術(shù)，主要用于在網(wǎng)絡(luò)環(huán)境中分散工作負(fù)載，以提高系統(tǒng)的響應(yīng)速度、吞吐量以及可靠性。在互聯(lián)網(wǎng)服務(wù)中，當(dāng)單臺(tái)服務(wù)器無(wú)法處理大量并發(fā)請(qǐng)求時(shí)，就需要采用負(fù)載均衡策略，將請(qǐng)求分發(fā)至多臺(tái)服務(wù)器上進(jìn)行處理。負(fù)載均衡在現(xiàn)代IT架構(gòu)中扮演著至關(guān)重要的角色，尤其是在大型分布式系統(tǒng)和云計(jì)算環(huán)境中。

天翼云彈性負(fù)載均衡介紹

天翼云彈性負(fù)載均衡（CT-ELB ，Elastic Load Balancing）是一種分發(fā)控制網(wǎng)絡(luò)流量的服務(wù)，通過(guò)預(yù)先設(shè)定的算法將訪問流量自動(dòng)分發(fā)到多臺(tái)云主機(jī)，擴(kuò)展應(yīng)用系統(tǒng)對(duì)外的服務(wù)能力，實(shí)現(xiàn)更高水平的應(yīng)用系統(tǒng)容錯(cuò)性能。

如上圖所示，大量用戶可同時(shí)通過(guò)互聯(lián)網(wǎng)訪問客戶業(yè)務(wù)，彈性負(fù)載均衡將這些用戶請(qǐng)求按照配置的負(fù)載算法分發(fā)到不同的業(yè)務(wù)云主機(jī)，為大量用戶同時(shí)提供服務(wù)。

彈性負(fù)載均衡的產(chǎn)品架構(gòu)主要包含以下組件：

負(fù)載均衡器：即負(fù)載均衡實(shí)例，可以接收來(lái)自客戶端的請(qǐng)求流量，并經(jīng)流量分配到一個(gè)或多個(gè)可用的后端服務(wù)器。

監(jiān)聽器：監(jiān)聽器是彈性負(fù)載均衡的核心組件，監(jiān)聽器指定要監(jiān)聽的協(xié)議和端口號(hào)，并根據(jù)配置的負(fù)載均衡算法將請(qǐng)求轉(zhuǎn)發(fā)到后端主機(jī)。監(jiān)聽器也會(huì)對(duì)后端服務(wù)器進(jìn)行健康檢查。

后端服務(wù)器組：每個(gè)監(jiān)聽器關(guān)聯(lián)一個(gè)后端服務(wù)器組，后端服務(wù)器組包含多個(gè)后端服務(wù)器。當(dāng)監(jiān)聽器接收到客戶端請(qǐng)求時(shí)，它將請(qǐng)求轉(zhuǎn)發(fā)給后端服務(wù)器組中的一個(gè)或多個(gè)后端服務(wù)器。后端服務(wù)器組負(fù)責(zé)將請(qǐng)求傳遞給相應(yīng)的后端服務(wù)器，實(shí)現(xiàn)負(fù)載均衡和高可用性。

后端服務(wù)器：處理前端請(qǐng)求的云服務(wù)器實(shí)例。例如云主機(jī)、裸金屬等。

健康檢查：健康檢查用于檢查后端服務(wù)器的狀態(tài)。用戶可自定義健康檢查方式和頻率，負(fù)載均衡根據(jù)預(yù)設(shè)的健康檢查規(guī)則定時(shí)檢查后端服務(wù)器是否正常運(yùn)行，一旦檢測(cè)到服務(wù)器為非健康狀態(tài)，則不會(huì)將訪問流量分派到這些非健康服務(wù)器實(shí)例。

主要組件的關(guān)系如下：

下面介紹下彈性負(fù)載均衡的4個(gè)常見的應(yīng)用場(chǎng)景和3個(gè)實(shí)用的高階能力。

彈性負(fù)載均衡應(yīng)用場(chǎng)景

分發(fā)流量應(yīng)對(duì)高訪問流量

針對(duì)高訪問量的業(yè)務(wù)，單機(jī)難以支撐。可以使用負(fù)載均衡來(lái)實(shí)現(xiàn)流量分發(fā)，通過(guò)設(shè)置適當(dāng)?shù)霓D(zhuǎn)發(fā)策略，將訪問量均衡地分配到多個(gè)后端云主機(jī)，從而有效提高業(yè)務(wù)處理的效率和性能，支撐大流量、大并發(fā)業(yè)務(wù)。

適用于各種高訪問量的業(yè)務(wù)場(chǎng)景，如大型門戶網(wǎng)站、移動(dòng)應(yīng)用市場(chǎng)、電商平臺(tái)等，從而幫助企業(yè)應(yīng)對(duì)高訪問量的業(yè)務(wù)挑戰(zhàn)，提高業(yè)務(wù)的可用性和性能，降低運(yùn)維成本和風(fēng)險(xiǎn)。

分發(fā)流量是彈性負(fù)載均衡的基礎(chǔ)場(chǎng)景，還可以結(jié)合健康檢查保障業(yè)務(wù)高可用。下面介紹下健康檢查保障業(yè)務(wù)高可用場(chǎng)景。

健康檢查保障業(yè)務(wù)高可用

為了提高業(yè)務(wù)的可靠性，可以使用負(fù)載均衡來(lái)消除單點(diǎn)故障。在負(fù)載均衡器上添加多個(gè)后端云主機(jī)，并將它們部署在不同的可用區(qū)內(nèi)，從而實(shí)現(xiàn)負(fù)載均衡的高可用性和容錯(cuò)能力。當(dāng)某個(gè)云主機(jī)發(fā)生故障時(shí)，負(fù)載均衡器會(huì)通過(guò)健康檢查及時(shí)發(fā)現(xiàn)并屏蔽有故障的云主機(jī)，并將流量轉(zhuǎn)發(fā)到其他正常運(yùn)行的后端云主機(jī)，保證業(yè)務(wù)的連續(xù)性和穩(wěn)定性。

適用于官網(wǎng)，計(jì)費(fèi)業(yè)務(wù)，Web業(yè)務(wù)等使用場(chǎng)景。通過(guò)將請(qǐng)求分發(fā)到多臺(tái)云主機(jī)上，即使某個(gè)云主機(jī)出現(xiàn)故障，也不會(huì)對(duì)整個(gè)系統(tǒng)造成影響，從而保證了系統(tǒng)的高可靠性。同時(shí)，彈性負(fù)載均衡還支持自動(dòng)檢測(cè)和剔除故障云主機(jī)，可以有效地提高系統(tǒng)的容錯(cuò)能力。

彈性負(fù)載均衡通過(guò)健康檢查保證了業(yè)務(wù)的高可用。還可以通過(guò)跨可用區(qū)部署提升業(yè)務(wù)容災(zāi)能力。

跨可用區(qū)部署提升業(yè)務(wù)容災(zāi)能力

彈性負(fù)載均衡可通過(guò)跨可用區(qū)的部署來(lái)實(shí)現(xiàn)業(yè)務(wù)容災(zāi)。可用區(qū)是天翼云在不同地理位置提供的獨(dú)立數(shù)據(jù)中心，具有獨(dú)立的供電、網(wǎng)絡(luò)和硬件設(shè)施，因此在某個(gè)可用區(qū)發(fā)生故障時(shí)，其他可用區(qū)仍然能夠正常運(yùn)行。通過(guò)在不同可用區(qū)中部署彈性負(fù)載均衡器和后端資源，系統(tǒng)可以在某個(gè)可用區(qū)故障時(shí)繼續(xù)提供穩(wěn)定可靠的服務(wù)，并自動(dòng)將流量切換到其他可用區(qū)。從而提高容錯(cuò)性、故障恢復(fù)能力和用戶體驗(yàn)。

適用于包括Web應(yīng)用程序、銀行業(yè)務(wù)、數(shù)據(jù)庫(kù)集群和大型應(yīng)用系統(tǒng)等。通過(guò)將實(shí)例部署在多個(gè)可用區(qū)，并使用負(fù)載均衡將流量分發(fā)到這些實(shí)例，可以實(shí)現(xiàn)高可用性和負(fù)載均衡。如果一個(gè)可用區(qū)出現(xiàn)故障，流量將自動(dòng)路由到其他可用區(qū)的實(shí)例，確保應(yīng)用的可用性。

結(jié)合彈性伸縮應(yīng)對(duì)潮汐業(yè)務(wù)

針對(duì)在某些特定時(shí)間段內(nèi)，業(yè)務(wù)流量出現(xiàn)大幅度波動(dòng)，可以使用負(fù)載均衡集成彈性伸縮服務(wù)來(lái)實(shí)現(xiàn)自動(dòng)化的資源調(diào)整。彈性伸縮服務(wù)可以根據(jù)業(yè)務(wù)流量的變化自動(dòng)調(diào)整后端云主機(jī)數(shù)量，從而保證業(yè)務(wù)處理能力的充足和穩(wěn)定，提高業(yè)務(wù)的可用性和性能。同時(shí)，結(jié)合負(fù)載均衡技術(shù)，可以將流量合理地分配到多個(gè)云主機(jī)上進(jìn)行處理，進(jìn)一步提高業(yè)務(wù)的處理效率和吞吐量。

適用于業(yè)務(wù)流量通常呈現(xiàn)出大幅波動(dòng)的場(chǎng)景中，例如電商的“雙11”、“雙12”、“618”等大型促銷活動(dòng)。使用負(fù)載均衡及彈性伸縮能根據(jù)業(yè)務(wù)的實(shí)際情況及時(shí)調(diào)整資源數(shù)量，以滿足業(yè)務(wù)的處理需求，最大限度的節(jié)省IT成本。

以上是彈性負(fù)載均衡的4種常見應(yīng)用場(chǎng)景，在這4種場(chǎng)景中，彈性負(fù)載均衡構(gòu)建了高并發(fā)業(yè)務(wù)穩(wěn)定運(yùn)行的基石。彈性負(fù)載均衡還提供了一些高階能力，下面再介紹3種實(shí)用的高階能力。

彈性負(fù)載均衡高階能力

平滑升級(jí)后端業(yè)務(wù)

針對(duì)由于客戶業(yè)務(wù)需求，需要升級(jí)后端業(yè)務(wù)，可以使用修改權(quán)重為0和批量修改后端權(quán)重能力來(lái)對(duì)后端業(yè)務(wù)進(jìn)行分批次滾動(dòng)升級(jí)，可保證后端業(yè)務(wù)升級(jí)過(guò)程中業(yè)務(wù)不中斷，從而實(shí)現(xiàn)平滑升級(jí)后端業(yè)務(wù)。

對(duì)后端業(yè)務(wù)做調(diào)整/升級(jí)時(shí)，可先將部分后端服務(wù)器的權(quán)重批量調(diào)整為0，此時(shí)彈性負(fù)載均衡會(huì)將權(quán)重為0的后端服務(wù)器流量切換到其它后端；然后對(duì)后端服務(wù)做調(diào)整/升級(jí)。后端服務(wù)調(diào)整/升級(jí)完成后，再逐步將后端權(quán)重調(diào)整為原值，此時(shí)彈性負(fù)載均衡會(huì)根據(jù)后端權(quán)重，把流量分發(fā)到權(quán)重不為0的后端上。重復(fù)這個(gè)過(guò)程，進(jìn)行后端業(yè)務(wù)的滾動(dòng)式調(diào)整/升級(jí)，即可實(shí)現(xiàn)后端業(yè)務(wù)平滑調(diào)整/升級(jí)。

TLS復(fù)用降低帶寬消耗

HTTPS（Hyper Text Transfer Protocol over SecureSocket Layer，超文本傳輸安全協(xié)議）在 TCP 和 HTTP 之間加入了 SSL/TLS 安全協(xié)議，使得報(bào)文能夠加密傳輸，提升了HTTP連接的安全性。HTTPS在 TCP 三次握手之后，還需進(jìn)行 SSL/TLS 的握手過(guò)程，才可進(jìn)行加密報(bào)文傳輸。在TLS建立連接的過(guò)程中，客戶端和服務(wù)端需要交換TLS版本、加密套件列表、隨機(jī)數(shù)、證書等信息，導(dǎo)致TLS建立連接的消耗很大。

所以如果連續(xù)兩次短連接通信的話，完全可以復(fù)用上一次的會(huì)話。這樣可以壓縮通信消息，節(jié)省計(jì)算，減小連接建立耗費(fèi)的時(shí)延。TLS提供了session ticket（會(huì)話票證）機(jī)制來(lái)實(shí)現(xiàn)TLS連接復(fù)用。

Session ticket可以重用之前創(chuàng)建的會(huì)話，這個(gè)會(huì)話是之前和服務(wù)器進(jìn)行握手成功的，這樣可以降低TLS握手的消耗。在session ticket機(jī)制中，服務(wù)端不用為每個(gè)會(huì)話保存狀態(tài)，它用一個(gè)blob數(shù)據(jù)保存狀態(tài)，然后將它發(fā)給客戶端用來(lái)維護(hù)后來(lái)連接，session ticket允許服務(wù)器將其存儲(chǔ)狀態(tài)委托給客戶端，類似HTTP cookie一樣。在初始握手中服務(wù)端發(fā)送一個(gè)會(huì)話ticket到客戶端，存儲(chǔ)到客戶端本地，當(dāng)重用會(huì)話時(shí)，客戶端發(fā)送session ticket到服務(wù)端，服務(wù)端解密然后重用會(huì)話。

天翼云彈性負(fù)載均衡支持session ticket機(jī)制，通過(guò)TLS連接復(fù)用縮短連接建立時(shí)間提升連接建立成功率，進(jìn)而提升廣告商業(yè)務(wù)收入。同時(shí)降低公網(wǎng)帶寬消耗，降低客戶運(yùn)營(yíng)成本。

IPv6能力

IPv6的發(fā)展已經(jīng)取得了顯著進(jìn)展。截至2024年5月底，我國(guó)IPv6活躍用戶數(shù)達(dá)到7.94億，移動(dòng)網(wǎng)絡(luò)IPv6流量占比達(dá)64.56%。?此外，我國(guó)在IPv6規(guī)模部署和應(yīng)用方面也取得了重要進(jìn)展，IPv6網(wǎng)絡(luò)“高速公路”已經(jīng)全面建成，信息基礎(chǔ)設(shè)施IPv6服務(wù)能力已基本具備。作為?IPv4的替代者，IPv6具有豐富的地址資源和高效的處理模式，能夠支持更多的設(shè)備連接和網(wǎng)絡(luò)應(yīng)用。

天翼云彈性負(fù)載均衡支持IPv4、IPv6雙棧協(xié)議，滿足業(yè)務(wù)對(duì)IPv6的需求。將業(yè)務(wù)子網(wǎng)開啟IPv6后，在負(fù)載均衡創(chuàng)建時(shí)會(huì)自動(dòng)分配IPv6地址，支持IPv6業(yè)務(wù)。

上面介紹了天翼云彈性負(fù)載均衡的4種應(yīng)用場(chǎng)景和3種高階能力，下面結(jié)合一個(gè)廣告商的業(yè)務(wù)介紹下彈性負(fù)載均衡的具體使用案例。

程序化廣告系統(tǒng)用云實(shí)踐

廣告平臺(tái)商是一家科技創(chuàng)新型服務(wù)商。公司致力于移動(dòng)端數(shù)字營(yíng)銷領(lǐng)域，專注于廣告位管理、多渠道變現(xiàn)與收益優(yōu)化，通過(guò)自研智能廣告算法，幫助移動(dòng)端中小媒體實(shí)現(xiàn)整體收益最大化的新媒體技術(shù)和解決方案服務(wù)商。

廣告平臺(tái)商的運(yùn)營(yíng)管理系統(tǒng)和程序化廣告應(yīng)用系統(tǒng)都部署在天翼云上。終端用戶使用移動(dòng)端APP時(shí)，移動(dòng)端APP會(huì)調(diào)用廣告平臺(tái)上的業(yè)務(wù)API，獲取廣告信息，推送給終端用戶。廣告平臺(tái)商的業(yè)務(wù)系統(tǒng)會(huì)將APP請(qǐng)求的廣告數(shù)據(jù)、日志分別存入分布式緩存數(shù)據(jù)庫(kù)REDIS和分析型數(shù)據(jù)庫(kù)。運(yùn)營(yíng)管理系統(tǒng)對(duì)REDIS、數(shù)據(jù)庫(kù)中的數(shù)據(jù)進(jìn)行處理分析，輸出廣告投放有效轉(zhuǎn)化率、廣告變現(xiàn)率分析，為后續(xù)業(yè)務(wù)拓展提供數(shù)據(jù)依據(jù)。

廣告平臺(tái)商的業(yè)務(wù)架構(gòu)如下：

廣告平臺(tái)商的業(yè)務(wù)特點(diǎn)是：連接低時(shí)延，連接超時(shí)即影響客戶收入；瞬時(shí)高并發(fā)，業(yè)務(wù)峰值一般在晚上22點(diǎn)、凌晨0點(diǎn)，業(yè)務(wù)峰值是平時(shí)的2~3倍；對(duì)穩(wěn)定性的要求很高，公網(wǎng)抖動(dòng)導(dǎo)致連接中斷或超時(shí)會(huì)影響客戶收入。

針對(duì)廣告平臺(tái)商的業(yè)務(wù)架構(gòu)和業(yè)務(wù)特點(diǎn)，推薦客戶使用天翼云彈性負(fù)載均衡構(gòu)建廣告業(yè)務(wù)穩(wěn)定運(yùn)行的基石，配合彈性伸縮支撐客戶潮汐業(yè)務(wù)訪問，通過(guò)了618業(yè)務(wù)高峰考驗(yàn)，并對(duì)廣告投放的有效轉(zhuǎn)化率進(jìn)行智能分析，為后續(xù)業(yè)務(wù)的發(fā)展和增長(zhǎng)提供了有力的決策依據(jù)。同時(shí)通過(guò)TLS復(fù)用降低了客戶公網(wǎng)帶寬消耗，通過(guò)平滑業(yè)務(wù)升級(jí)方案，降低了廣告平臺(tái)上的運(yùn)營(yíng)成本。通過(guò)負(fù)載均衡的IPv6能力，擴(kuò)大了廣告業(yè)務(wù)的受眾，拓展了廣告業(yè)務(wù)，帶來(lái)了業(yè)務(wù)的進(jìn)一步增加。