[[413454]]

1.什么是SLI/SLO

SLI，全名Service Level Indicator，是服務(wù)等級指標(biāo)的簡稱，它是衡定系統(tǒng)穩(wěn)定性的指標(biāo)。

SLO，全名Sevice Level Objective，是服務(wù)等級目標(biāo)的簡稱，也就是我們設(shè)定的穩(wěn)定性目標(biāo)。

簡單一句話：SLI 就是我們要監(jiān)控的指標(biāo)，SLO 就是這個指標(biāo)對應(yīng)的目標(biāo)。

如何選擇SLI

在系統(tǒng)中，常見的指標(biāo)有很多種，比如：

• 系統(tǒng)層面：CPU使用率、內(nèi)存使用率、磁盤使用率等
• 應(yīng)用服務(wù)器層面：端口存活狀態(tài)、JVM的狀態(tài)等
• 應(yīng)用運(yùn)行層面：狀態(tài)碼、時延、QPS、TPS以及連接數(shù)等
• PASS層面：mysql、redis、kafka、mq和分布式文件儲存等組件的QPS、TPS、時延等。

這么多指標(biāo)，應(yīng)該如何選擇呢?只要遵從兩個原則就可以：

• 選擇能夠標(biāo)識一個主體是否穩(wěn)定的指標(biāo)，如果不是這個主體本身的指標(biāo)，或者不能標(biāo)識主體穩(wěn)定性的，就要排除在外。
• 優(yōu)先選擇與用戶體驗(yàn)強(qiáng)相關(guān)或用戶可以明顯感知的指標(biāo)。

我們可以直接套用 Google 的方法：VALET。VALET 是 5 個單詞的首字母，分別是 Volume、Availability、Latency、Error 和 Ticket。這 5 個單詞就是我們選擇 SLI 指標(biāo)的 5 個維度。

Volume 容量(流量)

就是常說的QPS,TPS等。下圖是性能測試的拐點(diǎn)模型。

從圖中你可以發(fā)現(xiàn)，并發(fā)用戶數(shù)處于輕壓力區(qū)時，響應(yīng)時間平穩(wěn)，吞吐量和并發(fā)用戶數(shù)線性相關(guān)。而當(dāng)并發(fā)用戶數(shù)處于重壓力區(qū)時，系統(tǒng)資源利用率到達(dá)極限，吞吐量開始有下降的趨勢，響應(yīng)時間也會略有上升。這個時候，再對系統(tǒng)增加壓力，系統(tǒng)就進(jìn)入拐點(diǎn)區(qū)，處于超負(fù)荷狀態(tài)，吞吐量下降，響應(yīng)時間大幅度上升。 所以我們在評估系統(tǒng)性能時通常需要做壓力測試，目的就是找到系統(tǒng)的“拐點(diǎn)”，從而知道系統(tǒng)的承載能力，也便于找到系統(tǒng)的瓶頸，持續(xù)優(yōu)化系統(tǒng)性能。

Availability 可用性

可用性是一個抽象的概念，你需要知道要如何來度量它，與之相關(guān)的概念是：MTBF 和 MTTR。

• MTBF(Mean Time Between Failure)是平均故障間隔的意思，代表兩次故障的間隔時間，也就是系統(tǒng)正常運(yùn)轉(zhuǎn)的平均時間。這個時間越長，系統(tǒng)穩(wěn)定性越高。
• MTTR(Mean Time To Repair)表示故障的平均恢復(fù)時間，也可以理解為平均故障時間。這個值越小，故障對于用戶的影響越小。
• 可用性與 MTBF 和 MTTR 的值息息相關(guān)，我們可以用下面的公式表示它們之間的關(guān)系：

Availability = MTBF / (MTBF + MTTR) 

Latency 延遲

是說響應(yīng)是否足夠快，這是一個會直接影響用戶訪問體驗(yàn)的指標(biāo)。但是這個還對系統(tǒng)資源有影響。這里區(qū)分成功請求和失敗請求很重要。

• 復(fù)雜的高并發(fā)系統(tǒng)通常會有很多的系統(tǒng)模塊組成，同時也會依賴很多的組件和服務(wù)，比如說緩存組件，隊(duì)列服務(wù)等等。它們之間的調(diào)用最怕的就是延遲而非失敗，因?yàn)镠TTP 500錯誤通常是瞬時的，可以通過重試的方式解決。
• 調(diào)用某一個模塊或者服務(wù)發(fā)生比較大的延遲，調(diào)用方就會阻塞在這次調(diào)用上，它已經(jīng)占用的資源得不到釋放。當(dāng)存在大量這種阻塞請求時，調(diào)用方就會因?yàn)橛帽M資源而掛掉。如果把HTTP 500回復(fù)的延遲也計算在內(nèi)，可能會產(chǎn)生誤導(dǎo)性的結(jié)果。因此，監(jiān)控錯誤恢復(fù)的延遲是很重要的。

Error 錯誤

錯誤率有多少?這里除了 5xx 之外，我們還可以把 4xx 列進(jìn)來，因?yàn)榍懊嫖覀兊姆?wù)可用性不錯，但是從業(yè)務(wù)和體驗(yàn)角度，4xx 太多，用戶也是不能接受的。有時候還有隱式的失敗。比如http 200恢復(fù)中包含了錯誤內(nèi)容，或者策略導(dǎo)致的失敗。比如我們要求超過一秒的請求就返回失敗，這樣超過一秒的請求都是失敗請求。當(dāng)協(xié)議內(nèi)部的錯誤碼不能表達(dá)全部的失敗情況時，可以利用其它信息，如內(nèi)部協(xié)議，來跟蹤一部分特定故障情況。

Ticket 故障單

是否需要人工介入?如果一項(xiàng)工作或任務(wù)需要人工介入，那說明一定是低效或有問題的。舉一個我們常見的場景，數(shù)據(jù)任務(wù)跑失敗了，但是無法自動恢復(fù)，這時就要人工介入恢復(fù);或者超時了，也需要人工介入，來中斷任務(wù)、重啟拉起來跑等等。

Tickets 的 SLO 可以想象成它的中文含義：門票。一個周期內(nèi)，門票數(shù)量是固定的，比如每月 20 張，每次人工介入，就消耗一張，如果消耗完了，還需要人工介入，那就是不達(dá)標(biāo)了。好，VALET 我們就講完了，怎么選 SLI 指標(biāo)，你是不是一下子就清楚了?？梢哉f，這是一個我們可以直接復(fù)用的工具。

SLO 方式計算

我們可以將多個SLO的百分?jǐn)?shù)相乘，得到最后的SLO值。

• SLO1：99.95% 狀態(tài)碼成功率
• SLO2：90% Latency <= 80ms
• SLO3：99% Latency <= 200ms
• 直接用公式表示：

Availability = SLO1 & SLO2 & SLO3 

2.案例：

本案例源自《SRE工作手冊》英文版第三章，講述的是家得寶(THD)公司在SRE轉(zhuǎn)型中如何使用VALET來定義SLO：家得寶又創(chuàng)建一個 VALET 應(yīng)用程序，以存儲和報告 SLO 數(shù)據(jù)。由于 SLO 可以最好地用作趨勢工具，因此該服務(wù)每天、每周和每月對 SLO 進(jìn)行跟蹤。請注意，我 SLO 是一種趨勢分析工具，可用于錯誤預(yù)算，但未直接連接到監(jiān)控系統(tǒng)。相反，家得寶仍舊有各種不同的監(jiān)控平臺，每個監(jiān)控平臺都有自己的報警。這些監(jiān)控系統(tǒng)每天匯總其 SLO ，并發(fā)布到 VALET 服務(wù)以進(jìn)行趨勢分析。這種設(shè)置的缺點(diǎn)是，監(jiān)控系統(tǒng)中設(shè)置的警報閾值未與 SLO 集成在一起。但是，可以根據(jù)需要靈活地更改監(jiān)控系統(tǒng)。TPS 報告是第一個與 VALET 服務(wù)集成的系統(tǒng)，到目前為止，家得寶的 VALET 與其各種本地應(yīng)用程序平臺(在 VALET 中注冊的服務(wù)的一半以上)集成。

VALET 儀表板

VALET 儀表板如上圖所示，用于可視化和報告此數(shù)據(jù)，并且相對簡單。它允許用戶：

• 注冊新服務(wù)。這通常意味著將服務(wù)分配給一個或多個URL，這些URL可能已經(jīng)收集了VALET數(shù)據(jù)。
• 為五個 VALET 類別中的任何一個設(shè)定 SLO 目標(biāo)。
• 在每個 VALET 類別下添加新的指標(biāo)類型。例如，一項(xiàng)服務(wù)可以跟蹤 P99 的延遲，而另一項(xiàng)服務(wù)可以跟蹤 P90 (或兩者)的延遲。后端處理系統(tǒng)可以跟蹤每天的交易量(一天創(chuàng)建的購買訂單)，而客戶服務(wù)前端可以跟蹤每秒的高峰交易。

VALET 儀表板使用戶可以立即報告許多服務(wù)的 SLO ，并以多種方式對數(shù)據(jù)進(jìn)行切片和切塊。例如，一個團(tuán)隊(duì)可以查看過去一周不滿足 SLO 的所有服務(wù)的統(tǒng)計信息。尋求查看服務(wù)性能的團(tuán)隊(duì)可以查看所有服務(wù)及其所依賴服務(wù)的延遲。VALET 儀表板將數(shù)據(jù)存儲在簡單的Cloud SQL數(shù)據(jù)庫中，開發(fā)人員使用流行的 BI 工具來構(gòu)建報告。這些報告成為開發(fā)人員采取新的最佳實(shí)踐的基礎(chǔ)：定期對其服務(wù)進(jìn)行 SLO 審核(通常是每周或每月)?；谶@些審查，開發(fā)人員可以創(chuàng)建操作項(xiàng)以將服務(wù)返回到其 SLO ，或者可以決定需要調(diào)整不切實(shí)際的 SLO。

將VALET應(yīng)用于批處理應(yīng)用

當(dāng)圍繞 SLO 開發(fā)可靠的報告時，家得寶還發(fā)現(xiàn)，只要對 VALET 稍作調(diào)整，就可以用在批處理應(yīng)用程序上，如下所示:

• 容量：處理的記錄量
• 可用性：在一定時間內(nèi)完成工作的頻率(以百分比為單位)
• 延遲：作業(yè)運(yùn)行所需的時間
• 錯誤：無法處理的記錄
• 故障單：操作員必須手動修復(fù)數(shù)據(jù)并重新處理作業(yè)的次數(shù)

3.總結(jié)：

根據(jù)上面的 SLI 和 SLO 設(shè)定標(biāo)準(zhǔn)示例，內(nèi)容很直觀，需要你認(rèn)真研上面的內(nèi)容。請你嘗試按照上面的格式，制定一個自己所負(fù)責(zé)系統(tǒng)的 SLO。

本文轉(zhuǎn)載自微信公眾號「運(yùn)維開發(fā)故事」，可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請聯(lián)系運(yùn)維開發(fā)故事公眾號。