可觀測（Observability）作為現(xiàn)代運維理念，相較于監(jiān)控，不僅僅是問題的發(fā)現(xiàn)，更加強調(diào)系統(tǒng)在運行時應具備全面的、深入的、可理解的狀態(tài)獲取能力。通過收集和分析系統(tǒng)的各種可觀測數(shù)據(jù)（涉及指標、日志、Traces、事件、告警等數(shù)據(jù)），構建一個全方位監(jiān)控與分析體系，讓運維團隊能夠在復雜多變的 IT 環(huán)境中實時了解系統(tǒng)內(nèi)部的健康狀況、性能表現(xiàn)以及故障原因。

嘉為藍鯨全棧智能觀測中心·鯨眼（以下簡稱“全棧智能觀測中心”）作為嘉為傾力打造的一款全棧可觀測產(chǎn)品，經(jīng)過持續(xù)的沉淀和迭代，目前已經(jīng)實現(xiàn)了業(yè)務全棧系統(tǒng)資源監(jiān)控、K8s容器監(jiān)控、云平臺監(jiān)控、硬件設備監(jiān)控、網(wǎng)站服務撥測、日志統(tǒng)一管理、應用性能觀測、業(yè)務場景監(jiān)控、告警閉環(huán)管理等多個領域的可觀測。

01. 產(chǎn)品場景介紹

1）系統(tǒng)監(jiān)控

基于CMDB的業(yè)務和業(yè)務資源（主機、數(shù)據(jù)庫、中間件等業(yè)務資源件）的全棧系統(tǒng)資源監(jiān)控，一眼看全。

從業(yè)務的視角入口，呈現(xiàn)業(yè)務資源拓撲，支持拓撲節(jié)點下鉆指標、告警詳情視圖。同時支持從資源的視角切入，直接按資源類型展示所有資源的監(jiān)控情況。

2）容器監(jiān)控

基于容器形態(tài)的資源探針，實現(xiàn)容器及容器內(nèi)運行組件資源的指標和日志的統(tǒng)一監(jiān)控，云原生必備監(jiān)控利器。

① 容器指標監(jiān)控

② 容器日志監(jiān)控

③ 云監(jiān)控

云資源視角的跨云平臺監(jiān)控，實現(xiàn)私有云、公有云的統(tǒng)一監(jiān)控告警管理；云上云下資源一體化監(jiān)控。

支持VMware、FusionCompute、云宏、阿里云、騰訊云等多種云平臺開箱即用；支持單云視角和跨云視角兩種資源展示模式；針對私有云支持自動發(fā)現(xiàn)資源實例的關聯(lián)拓撲，輔助問題排錯定位。

④ 硬件監(jiān)控

通過標準協(xié)議SNMP、IPMI、Syslog、Trap實現(xiàn)硬件設備的指標、日志、告警的統(tǒng)一監(jiān)控。

⑤ 硬件指標監(jiān)控

⑥ 硬件日志監(jiān)控

⑦ 網(wǎng)絡拓撲管理：支持用戶自定義網(wǎng)絡拓撲，并結(jié)合拓撲自動發(fā)現(xiàn)能力，自動輔助繪制網(wǎng)絡拓撲圖，掌握企業(yè)全局網(wǎng)絡概況。

5）網(wǎng)站撥測

基于業(yè)務的視角，通過遠程訪問協(xié)議HTTP(s)、TCP、UDP、ICMP（Ping）對應用服務和網(wǎng)站進行黑盒監(jiān)控，實現(xiàn)業(yè)務最基礎的存活監(jiān)測。

6）日志統(tǒng)一管理

針對日志數(shù)據(jù)的統(tǒng)一接入、統(tǒng)一配置策略、統(tǒng)一查看檢索的統(tǒng)一日志管理，打通運維排障“最后一公里”。

支持主機操作系統(tǒng)、容器環(huán)境下的日志采集，內(nèi)置多種日志采集模板；存量日志支持通過ES、Kafka的方式接入支持kafka接入，進行統(tǒng)一接入和管理。

① 支持日志指標和關鍵字監(jiān)控，并支持聚類智能指標監(jiān)控。

② 日志檢索，支持AI算法智能聚類、聯(lián)合等檢索模式，并支持檢索脫敏。

7）APM

分布式服務調(diào)用鏈路監(jiān)控，自動生成服務調(diào)用拓撲，從應用、服務、接口、調(diào)用 4個層次層層深入，監(jiān)控應用的健康狀態(tài)和調(diào)用性能；并支持基礎資源監(jiān)控進行聯(lián)動和下鉆分析，輔助問題根因分析，提升問題定位效率。

支持應用服務調(diào)用視角、應用資源關聯(lián)視角、服務分析視角、接口分析視角、Trace調(diào)用鏈路視角多視角分析查看和追蹤問題。

8）業(yè)務監(jiān)控

以業(yè)務場景作為切入口，串聯(lián)跨應用的系統(tǒng)調(diào)用，打通關聯(lián)應用內(nèi)服務的調(diào)用關系，追蹤每一次活動軌跡。

9）統(tǒng)一告警

面向企業(yè)ECC、監(jiān)控組、運維人員等，基于告警事件的生命周期，實現(xiàn)告警管理的閉環(huán)，提升團隊效率，保障業(yè)務穩(wěn)定。

提供一站式告警處置平臺：包含告警事件統(tǒng)一接入、告警豐富、告警壓縮（去重、合并、抑制和屏蔽）、告警處理（自愈和派單、通知）、告警關閉的閉環(huán)管理，以及告警事件的統(tǒng)一查詢、報表統(tǒng)計、關聯(lián)分析，輔助問題定位。

02. 產(chǎn)品能力介紹

為了實現(xiàn)上述各種觀測場景的落地，產(chǎn)品設計上結(jié)合PaaS+SaaS的理念，抽象各個場景的公共能力，融合成一套底層能力框架，并且能夠和企業(yè)內(nèi)的運維體系工具聯(lián)動集成，支撐上層的場景擴展，以適應企業(yè)不斷變化的可觀測場景和管理訴求。圖中由下而上，依次是監(jiān)控對象、數(shù)據(jù)集成、數(shù)據(jù)中臺、能力中心、觀測場景五層以及外部集成模塊。

• 監(jiān)控對象：按照業(yè)務系統(tǒng)分層邏輯，劃分歸納企業(yè)內(nèi)需要監(jiān)控對象，分別有數(shù)據(jù)中心的機房機柜動環(huán)對象，計算、存儲、網(wǎng)絡、安全等硬件設備，虛擬化、云、OS、容器等系統(tǒng)資源，數(shù)據(jù)庫、中間件等通用基礎組件，業(yè)務、應用場景、服務等業(yè)務應用。
• 數(shù)據(jù)集成：基于Agent、Plugin、SNMP、Script、JMX、JDBC/ODBC、OT協(xié)議、SDK探針、撥測、數(shù)據(jù)上報管道等多種數(shù)據(jù)接入的渠道，實現(xiàn)性能指標數(shù)據(jù)、日志數(shù)據(jù)、Trace鏈路數(shù)據(jù)、事件數(shù)據(jù)、告警數(shù)據(jù)的集中接入。
• 數(shù)據(jù)中臺：集中提供數(shù)據(jù)清洗、數(shù)據(jù)傳輸、數(shù)據(jù)存儲、數(shù)據(jù)查詢、數(shù)據(jù)計算能力。
• 能力中心：按數(shù)據(jù)類型提供不同的數(shù)據(jù)處理能力。例如指標數(shù)據(jù)的檢測、預測、關聯(lián)、檢索能力；日志數(shù)據(jù)的解析、關鍵字、聚類、檢索能力；Trace數(shù)據(jù)的鏈路、拓撲、關系、分析能力；告警數(shù)據(jù)的去重、收斂、關聯(lián)、根因分析能力；以及面向用戶的儀表盤、報表、數(shù)據(jù)檢索的視圖能力。
• 觀測場景：按照可觀測領域劃分的監(jiān)控中心、日志中心、應用觀測中心、業(yè)務監(jiān)控、告警中心五大核心場景，基于這些通用場景之上的數(shù)據(jù)聯(lián)動分析場景，以及用戶基于觀測能力自行構造的場景。
• 外部集成：可以兩部分考慮：一是從外部系統(tǒng)采集數(shù)據(jù)，例如對接第三方的監(jiān)控、告警、日志系統(tǒng)獲取對應的數(shù)據(jù)進行集中管理；二是對接外部的系統(tǒng)進行聯(lián)動管理，例如對接外部CMDB進行監(jiān)控對象管理，對接外部的自動化系統(tǒng)和工單系統(tǒng)進行告警處置等。

基于上述功能架構規(guī)劃設計，本文將從對象和指標管理、插件集成管理、策略配置管理、告警視圖管理、場景視圖管理5個基礎能力層面介紹當前全棧智能觀測中心的功能。

1）對象和指標管理

① 對象模型

引入監(jiān)控對象模型作為指標管理的載體，連接對象和指標。對于監(jiān)控對象模型設計如下圖：

② 承載對象模型的分層體系

利用監(jiān)控對象模型的樹形分層設計，對應運維對象的分層體系，實現(xiàn)對象模型的建模和分層設計。例如對于組件服務層下的數(shù)據(jù)庫，我們可以抽象出 MySQL、MSSQL、Oracle 等一系列監(jiān)控對象，從而構建3層乃至4層的對象模型設計，靈活設配企業(yè)內(nèi)的分層管理訴求。

③ 聯(lián)動 CMDB，關聯(lián)資源實例

監(jiān)控對象模型通過與 CMDB 模型關聯(lián)，將 CMDB 模型下的資源實例，納管為監(jiān)控對象模型實例，實現(xiàn)監(jiān)控對象模型與資源實例的關聯(lián)。

④ 關聯(lián)插件采集，落地指標體系

監(jiān)控對象模型通過關聯(lián)插件或指標上報任務等方式關聯(lián)指標，并以此作為指標數(shù)據(jù)的獲取方式，確保這批指標都是真實可采集、可獲取、可度量的指標，從而建設屬于該對象的指標體系。

⑤ 指標管理

基于對象進行指標管理，支持指標的分類、名稱、描述、單位、等級、數(shù)據(jù)類型的管理，支持枚舉類型的指標值映射管理，實現(xiàn)狀態(tài)指標翻譯展示。

支持衍生指標管理，基于插件原生指標計算定義新的衍生指標，指標計算能力支持單指標函數(shù)計算、多指標四則運算、復雜規(guī)則的PromQL計算，靈活適配各種衍生計算指標的應用場景。

⑥ 動態(tài)分組

基于屬性條件對監(jiān)控對象進行分組，具備動態(tài)更新的特性，可實現(xiàn)監(jiān)控目標根據(jù)CMDB的實例變化自動應用或者取消監(jiān)控。

2）插件集成管理

通過插件、協(xié)議、SDK等多種數(shù)據(jù)接入的方式，支持企業(yè)全棧觀測數(shù)據(jù)（指標、日志、Traces、告警）接入。

① 指標接入

除內(nèi)置的操作系統(tǒng)、云平臺、K8s容器、協(xié)議撥測等指標采集能力之外，還支持多種自定義接入的方案，并且均支持產(chǎn)品頁面直接進行插件制作和調(diào)試。

• 自定義插件進行指標接入：支持多種類型、協(xié)議的插件在線制作，包括Script、SQL（Oracle/MySQL/DB2） 、Exporter、DataDog、JMX、BK-Pull、SNMP類型。

• 自定義指標接入：支持HTTP接口/bkmonitorbeat命令行。

• K8s指標自定義接入：支持serviceMonitor（推薦）和podMonitor的方式進行自定義接入。

• 第三方監(jiān)控指標接入：通過監(jiān)控源插件實現(xiàn)數(shù)據(jù)對接；內(nèi)置Kafka監(jiān)控源插件。

② 日志接入

支持主機操作系統(tǒng)、容器環(huán)境下的日志采集，內(nèi)置多種日志采集模板；存量日志支持通過ES、Kafka的方式接入支持Kafka接入。

③ Trace接入

支持Skywalking和OT協(xié)議探針接入。

④ 告警接入

默認支持RestAPI推送接入，支持頁面編寫告警源插件的方式接入，插件支持推送和拉取兩種模式，內(nèi)置常見監(jiān)控系統(tǒng)接入插件。

3）策略配置管理

監(jiān)控策略：支持設置策略的基礎信息、監(jiān)控目標、檢測配置、告警配置4種配置，如下：

• 監(jiān)控目標：支持多種選擇模式，基于實例下發(fā)的列表模式，基于CMDB實例的拓撲選擇模式，基于CMDB拓撲節(jié)點動態(tài)下發(fā)監(jiān)控策略的模式，基于動態(tài)分組動態(tài)下發(fā)監(jiān)控策略的模式。

• 檢測規(guī)則：支持8種異常檢測算法，支持異常防抖收斂，支持無數(shù)據(jù)異常檢測和異常恢復檢測，滿足企業(yè)各種場景下的監(jiān)控需求。

• 告警配置：支持告警分派、轉(zhuǎn)工單、自愈等處置方案設置，并支持生效時間、通知模板、通知頻率、通知方式等設置。詳細的告警處置配置后續(xù)將在告警管理功能文章中再進行具體介紹。

4）告警視圖管理

實時刷新的活動告警列表，支持自定義展示字段和多種篩選條件，并支持告警實時檢索和自定義告警視圖，滿足ECC、管理員等多種角色的查看訴求。

分析視角的告警詳情，支持詳情、指標、關聯(lián)告警、拓撲關聯(lián)、流轉(zhuǎn)記錄統(tǒng)一查看，一站式告警分析。

基于對象/業(yè)務的告警分類統(tǒng)計分析，并內(nèi)置提供常用的告警統(tǒng)計報表，跟蹤企業(yè)告警治理效果。

詳細的告警全生命周期閉環(huán)管理后續(xù)將在專門的專題文章中進行具體介紹。

5）場景視圖管理

除了本文開頭說到的內(nèi)置觀測場景，還支持自定義場景，可基于監(jiān)控對象模型管理，可自行擴展每種對象的監(jiān)控場景視圖，滿足企業(yè)持續(xù)發(fā)展的訴求。

數(shù)據(jù)檢索，支持指標、日志、Trace檢索，支撐問題排錯追蹤，探索挖掘數(shù)據(jù)價值。

集成Grafana儀表盤，支持按照用戶個人喜好，定制自己專屬的指標、日志儀表盤。

基于上述介紹的對象、采集、策略、告警、視圖5大基礎能力模塊，便可以自由構建企業(yè)中所需的觀測場景。接下來我們將基于觀測場景視角，詳細介紹告警全生命周期管理、基礎組件監(jiān)控、容器監(jiān)控、云平臺監(jiān)控、硬件監(jiān)控、網(wǎng)站服務撥測、日志統(tǒng)一管理、調(diào)用鏈追蹤、業(yè)務監(jiān)控9大觀測場景，敬請期待。