寫在開篇

關(guān)于prometheus的高可用方案，經(jīng)過筆者不斷的研究、對比、和搜索，發(fā)現(xiàn)不管是官方、還是各大搜索引擎搜索出來的方案，都不符合筆者的需求。因此，筆者自己設(shè)計了一套prometheus主備的方案。該方案是一個很low的方案，但經(jīng)過不斷的實踐、驗證，最后發(fā)現(xiàn)還挺實用。關(guān)于本方案，筆者以后還會找機會用go或者python開發(fā)一個帶UI界面的prometheus主備管理器，讓它的功能更加完善，做到更自動化和智能化。Prometheus是監(jiān)控領(lǐng)域的新啟之秀，潛力非常大，K8S內(nèi)置對它直接支持，直接有提供exporter，而K8S又是未來基礎(chǔ)架構(gòu)的主力軍。而監(jiān)控方面，prometheus成為未來的主力軍是勝券在握，把它玩透了你絕對不吃虧。好了，前戲有點多了。敬請大家的關(guān)注、點贊、轉(zhuǎn)發(fā)。下面的正式進入主題?。?！

• DIY的prometheus主備方案架構(gòu)圖

方案說明

• 為了方便日常訪問Prometheus頁面和Alertmanager頁面，在主備切換時，可無需更換訪問ip。
• 上層可視化應(yīng)用（如grafana）通過VIP來對接Prometheus的數(shù)據(jù)源，當(dāng)主備切換時，無需在grafana上修改對應(yīng)的數(shù)據(jù)源。

Master主機：

• master提供配置文件下載服務(wù)，由python自帶的SimpleHTTPServer模塊實現(xiàn)，且需要在prometheus或alertmanager規(guī)范安裝路徑下（如/usr/local/prometheus）進行SimpleHTTPServer模塊的啟動，拉起后，默認的監(jiān)聽端口是8000。
• master檢測配置文件變化情況，如達到條件則觸發(fā)備份和打包新的配置目錄。在master上，設(shè)計了一個保存通知動作的文件notice_slave.action，配置發(fā)生變化寫入1，配置沒有發(fā)生變化寫入0。同時，該檢測腳本作為常駐進程在后臺運行。

Slave主機：

• slave從master下載通知動作的文件notice_slave.action，根據(jù)狀態(tài)碼（1和0）來決定接下來的動作，如果是1，則：從master下載配置壓縮包、備份原有配置目錄、解壓新下載后的配置壓縮包、熱重啟相關(guān)組件（prometheus、alertmanger），如果是0則什么都不做。

對于配置文件的同步，也是有兩種實現(xiàn)方式的，要么是推，要么是拉，筆者的這個方案里是后者，筆者目前之所以折騰零散的shell腳本來去做高可用的管理，是為了能快速解決需求，因此才做了這個簡陋的方案，筆者的原則是：困難的事情簡單做，簡單的事情咱不做（開玩笑哈！?。。?當(dāng)然，筆者以后會通過Go或者Python打造一個管理Promtheus主備的工具，且是帶UI的管理工具，敬請期待推出！我不造車，我只造零件。

一、規(guī)劃和規(guī)范

1. 設(shè)備規(guī)劃（本示例為測試環(huán)境）

2. 統(tǒng)一安裝路徑規(guī)范

master和slave主機的標(biāo)準(zhǔn)安裝路徑均為：/usr/local/，筆者安裝組件后的環(huán)境如下:

/usr/local/keepalived （注意：建議keepalived配置成非搶占模式）/usr/local/prometheus/usr/local/alertmanager

至于安裝路徑的規(guī)范，請自行根據(jù)實際情況敲定。

3. prometheus組件配置文件和目錄規(guī)范

• 所有配置文件統(tǒng)一標(biāo)準(zhǔn)路徑：/usr/local/prometheus/conf/
• prometheus主配置文件：/usr/local/prometheus/conf/prometheus.yml
• 按業(yè)務(wù)粒度，一個業(yè)務(wù)對應(yīng)一個目錄，業(yè)務(wù)下不同的監(jiān)控對象都放在對應(yīng)的業(yè)務(wù)目錄下：/usr/local/prometheus/conf/business

特別說明1：請自行在prometheus組件的安裝目錄下創(chuàng)建conf目錄，并將默認的prometheus.yml配置文件移動進去

特別說明2：請自行在prometheus組件的配置文件統(tǒng)一標(biāo)準(zhǔn)路徑（./conf）下創(chuàng)建業(yè)務(wù)目錄business

特別說明3：業(yè)務(wù)目錄下，又包含兩個目錄：job和rule，job用于存放監(jiān)控拉取配置文件，rule用于存放警報規(guī)則配置文件

配置文件目錄和業(yè)務(wù)目錄規(guī)劃示范，如下:

/usr/local/prometheus/ # 這是規(guī)范的安裝路徑/usr/local/prometheus/conf/ # 這是規(guī)范的配置目錄/usr/local/prometheus/conf/prometheus.yml # 這是主配置文件/usr/local/prometheus/conf/business 這是按業(yè)務(wù)粒度規(guī)劃的業(yè)務(wù)根目錄# 如下是業(yè)務(wù)A的規(guī)劃案例：/usr/local/prometheus/conf/business/a_business/ 這是業(yè)務(wù)a的目錄/usr/local/prometheus/conf/business/a_business/job/oracle.yml 這是業(yè)務(wù)a下拉取oracle監(jiān)控配置數(shù)據(jù)的yml配置文件/usr/local/prometheus/conf/business/a_business/rule/oracle.rules 這是業(yè)務(wù)a下oracle的警報規(guī)則rules配置文件

特別說明：上述對業(yè)務(wù)A的配置文件規(guī)劃案例非常重要，請務(wù)必參照此規(guī)范。

4. alertmanager組件配置文件和目錄規(guī)范

關(guān)于Alertmanager組件的配置文件，相對來說沒prometheus那么復(fù)雜，主要的規(guī)劃還是在prometeus中

• alertmanager的主配置文件統(tǒng)一標(biāo)準(zhǔn)路徑放在prometeheus的conf中：/usr/local/prometheus/conf/alertmanager.yml

5. 備份路徑規(guī)范

在master主機上，會自動備份原有的conf配置文件目錄

• Prometheus組件

統(tǒng)一備份路徑為：/usr/local/prometheus/backup/

• Alertmanager組件

不涉及到備份

6. 日志目錄規(guī)范

在master主機和slave主機上運行的腳本日志均統(tǒng)一存放在指定目錄

• Prometheus組件

統(tǒng)一日志目錄：/usr/local/prometheus/logs/

• AlertManager組件

統(tǒng)一日志目錄：/usr/local/alertmanager/logs/

二、組件安裝部署

注意：master和slave均需要安裝如下組件

• keepalived高可用組件
• prometheus監(jiān)控組件
• alertmanager警報組件

因組件的安裝部署不是本文的主題，所以筆者在這里就不再撰寫安裝步驟，在此省略了哈，請自行安裝好即可。

三、prometheus配置文件目錄同步部署

說明1：均需要在master和slave上部署文件同步相關(guān)腳本

說明2：以下的每一步操作，請均進入到“/usr/local/prometheus/”目錄下進行操作（此目錄是之前已經(jīng)定為安裝規(guī)范的目錄），如您的規(guī)范目錄和筆者的不同，請進入到您自己的規(guī)范目錄下。

說明3：以下涉及的腳本，涉及的目錄：conf、backup、logs、cfmd5，請自行在規(guī)范的目錄下進行創(chuàng)建即可。

1. master部署配置文件下載服務(wù)

startPromconfSyncApi.sh腳本內(nèi)容如下：

#!/bin/shnohup /usr/bin/python -m SimpleHTTPServer > /dev/null &

運行配置文件下載服務(wù)的腳本

sh startPromconfSyncApi.sh

拉起http服務(wù)腳本后查看端口

[root@prosvr-master prometheus]# netstat -tulnp | grep 8000tcp 0 0 0.0.0.0:8000 0.0.0.0:* LISTEN 1293/python [root@prosvr-master prometheus]#

注意，請在規(guī)范的安裝路徑/usr/local/prometheus/下面創(chuàng)建startTarPackConf.sh腳本，以及創(chuàng)建目錄cfmd5

startTarPackConf.sh腳本內(nèi)容：

#!/bin/shtime_log=`date “+%Y-%m-%d %H:%M:%S”`echo “${time_log} 配置檢查器啟動”task_wait_sec=4find ./conf -type f -print0 | xargs -0 md5sum > ./cfmd5/cfmd5.listwhile truedo time_bak=`date “+%Y%m%d%H%M%S”` time_log=`date “+%Y-%m-%d %H:%M:%S”` md5sum -c ./cfmd5/cfmd5.list > ./cfmd5/check_cfmd5.log md5ret=`cat ./cfmd5/check_cfmd5.log | grep “FAILED” | wc -l` while true do if [ ${md5ret} -gt 0 ] then echo “${time_log} 配置文件發(fā)生變化，觸發(fā)備份和打包壓縮” mv ./conf.tar.gz ./backup/conf.tar.gz_bak_${time_bak} tar -zcf conf.tar.gz conf/ echo 1 > ./notice_slave.action curl -X POST http://127.0.0.1:9090/-/reload break else echo 0 > ./notice_slave.action break fi done find ./conf -type f -print0 | xargs -0 md5sum > ./cfmd5/cfmd5.list sleep ${task_wait_sec}done

腳本實現(xiàn)說明：很簡單，就是遞歸搜索conf目錄下的所有配置文件且生成md5值保存在./cfmd5/cfmd5.list，并使用md5sum -c實時檢查./cfmd5/cfmd5.list中的文件md5值是否有變化，且將結(jié)果輸出到./cfmd5/check_cfmd5.log，再通過cat ./cfmd5/check_cfmd5.log進行過濾”FAILED”并統(tǒng)計，只要出現(xiàn)有”FAILED”，就認為配置文件有發(fā)生過變化，要么是增加了，要么是現(xiàn)有的配置文件做了修改。統(tǒng)計的結(jié)果保存在md5ret變量，判斷條件就是md5ret結(jié)果大于0就觸發(fā)北方和打包壓縮配置目錄，同時master中的配置文件發(fā)生變化后，也會自動觸發(fā)熱重啟。接著將狀態(tài)碼1寫入到./notice_slave.action文件中，如果沒有變化，將狀態(tài)碼就是0。notice_slave.action文件是存儲狀態(tài)變化的（在這里就干脆叫通知文件吧?。?。

關(guān)于通知文件（notice_slave.action）設(shè)計的詳細說明：對slave端來講，由slave主動拉取這個通知文件并讀取結(jié)果，如果是1就觸發(fā)拉取master打包好的壓縮目錄并解壓，且繼續(xù)熱重啟相應(yīng)的組件，如果是0就啥也不干。

關(guān)于參數(shù)task_wait_sec=4，任務(wù)等待時間，master目前配置的是4秒，也就是每隔4秒檢測一次。對于slave端，也有一個pull_wait_sec=2參數(shù)（目前是2秒），也就是每隔2秒拉取一次通知文件，并做判斷。這里要注意，slave的pull_wait_sec拉取時間一定要小于master的task_wait_sec時間，別問為什么，自己思考去。

拉起配置文件變化檢查腳本

# 拉起nohup sh ./startTarPackConf.sh >> ./logs/tar_pack.log &

查看進程

[root@prosvr-master prometheus]# ps -aux | grep tarroot 2473 0.0 0.3 113284 848 pts/1 S 09:48 0:02 sh start_tar_pack_conf.sh

拉起后會作為后臺進程常駐，需要停止的話，查看pid，然后kill掉即可。

startPrometheusSvr.sh內(nèi)容：

#!/bin/shnohup ./prometheus –storage.tsdb.retention.time=180d –web.enable-lifecycle –config.file=./conf/prometheus.yml –log.level=warn –log.format=json >> ./logs/prometheus_run_status.log &

數(shù)據(jù)保留周期是180天，請根據(jù)實際情況調(diào)整，其他參數(shù)的意義請自行help

在上面腳本的啟動參數(shù)中，也可以通過參數(shù)–storage.tsdb.path=”data/”修改本地數(shù)據(jù)存儲的路徑，不指定的話，時序數(shù)據(jù)默認是在prometheus的data目錄下，如需修改數(shù)據(jù)的存儲路徑，建議存放在性能好（SSD、高端磁盤陣列）、容量大的目錄中。

接著啟動prometheus

# 拉起[root@prosvr-master prometheus]# sh startPrometheusSvr.sh

查看進程，檢查是否啟動成功

[root@prosvr-master prometheus]# ps -aux | grep prometheusroot 1201 0.0 30.1 1100628 66840 pts/0 Sl 08:45 0:22 ./prometheus –web.enable-lifecycle –config.file=./conf/prometheus.yml –log.level=warn –log.format=json

#!/bin/shcurl -X POST http://127.0.0.1:9090/-/reload

平滑重啟示例

[root@prosvr-master prometheus]# sh hot_restart_prometheus.sh

在日常維護中，當(dāng)配置文件發(fā)生了變更就可以利用該腳本進行平滑重啟

#!/bin/shsh ./startPromconfSyncApi.shnohup sh ./startTarPackConf.sh >> ./logs/tar_pack.log &sh ./startPrometheusSvr.sh

以后就不用一個一個腳本拉起了，直接拉起該腳本即可一并啟動

在tcp協(xié)議中禁止所有的ip訪問本機的8000端口，僅允許slave主機（192.168.11.147）訪問本機的8000端口（注意按順序執(zhí)行）

iptables -I INPUT -p tcp –dport 8000 -j DROPiptables -I INPUT -s 192.168.11.147 -p tcp –dport 8000 -j ACCEPT

查看規(guī)則

[root@prosvr-master prometheus]# iptables -nvLChain INPUT (policy ACCEPT 9 packets, 744 bytes) pkts bytes target prot opt in out source destination 8 552 ACCEPT tcp — * * 192.168.11.147 0.0.0.0/0 tcp dpt:8000 0 0 DROP tcp — * * 0.0.0.0/0 0.0.0.0/0 tcp dpt:8000

保存規(guī)則

注意：使用此命令的規(guī)則位置可以是任意的，此方式保存的規(guī)則在重啟機器后無法自動生效，需要使用命令iptables-restart恢復(fù)），筆者這里是保存在了/etc/sysconfig/my-iptable-rule-script

# 保存[root@prosvr-master prometheus]# iptables-save > /etc/sysconfig/my-iptable-rule-script# 查看[root@prosvr-master prometheus]# cat /etc/sysconfig/my-iptable-rule-script# Generated by iptables-save v1.4.21 on Mon May 30 10:37:12 2022*filter:INPUT ACCEPT [49:4408]:FORWARD ACCEPT [0:0]:OUTPUT ACCEPT [27:4840]-A INPUT -s 192.168.11.147/32 -p tcp -m tcp –dport 8000 -j ACCEPT-A INPUT -p tcp -m tcp –dport 8000 -j DROPCOMMIT# Completed on Mon May 30 10:37:12 2022

手動清空規(guī)則，模擬規(guī)則丟失后，從文件中加載

# 查看[root@prosvr-master prometheus]# iptables -nvLChain INPUT (policy ACCEPT 122 packets, 12944 bytes) pkts bytes target prot opt in out source destination 0 0 ACCEPT tcp — * * 192.168.11.147 0.0.0.0/0 tcp dpt:8000 0 0 DROP tcp — * * 0.0.0.0/0 0.0.0.0/0 tcp dpt:8000Chain FORWARD (policy ACCEPT 0 packets, 0 bytes) pkts bytes target prot opt in out source destination Chain OUTPUT (policy ACCEPT 86 packets, 14400 bytes) pkts bytes target prot opt in out source destination [root@prosvr-master prometheus]# # 手動清空[root@prosvr-master prometheus]# iptables -F# 清空后查看[root@prosvr-master prometheus]# iptables -nvLChain INPUT (policy ACCEPT 12 packets, 1056 bytes) pkts bytes target prot opt in out source destination Chain FORWARD (policy ACCEPT 0 packets, 0 bytes) pkts bytes target prot opt in out source destination Chain OUTPUT (policy ACCEPT 7 packets, 1080 bytes) pkts bytes target prot opt in out source destination [root@prosvr-master prometheus]# # 使用iptables-restore命令還原iptables-save命令所備份的iptables配置[root@prosvr-master prometheus]# iptables-restore < /etc/sysconfig/my-iptable-rule-script # 還原后查看[root@prosvr-master prometheus]# iptables -nvLChain INPUT (policy ACCEPT 34 packets, 2992 bytes) pkts bytes target prot opt in out source destination 0 0 ACCEPT tcp — * * 192.168.11.147 0.0.0.0/0 tcp dpt:8000 0 0 DROP tcp — * * 0.0.0.0/0 0.0.0.0/0 tcp dpt:8000Chain FORWARD (policy ACCEPT 0 packets, 0 bytes) pkts bytes target prot opt in out source destination Chain OUTPUT (policy ACCEPT 18 packets, 2480 bytes) pkts bytes target prot opt in out source destination [root@prosvr-master prometheus]#

特別說明：預(yù)防規(guī)則重啟后丟失的辦法還有一種，就是將配置規(guī)則寫入到啟動文件中，如/etc/rc.local，筆者之前將規(guī)則保存在/etc/sysconfig/my-iptable-rule-script文件中，那么就可以將恢復(fù)的命令 iptables-restore < /etc/sysconfig/my-iptable-rule-script 寫入到/etc/rc.local中

特別注意：如果您的環(huán)境和筆者不一樣，請自行更改為您自己的IP和端口即可。

#!/bin/shps -aux | grep SimpleHTTPServer | grep -v grep | awk ‘{print $2}’ | xargs killps aux | grep startTarPackConf.sh | grep -v grep | awk ‘{print $2}’ | xargs killps -aux | grep -v grep | grep prometheus | awk ‘{print $2}’ | xargs kill

日常維護中，如有需要停止全部服務(wù)的需求，運行該腳本即可。

2. slave部署配置文件拉取服務(wù)

特別說明：在slave主機上，請在規(guī)范的目錄下創(chuàng)建conf、logs、backup目錄

mv ./prometheus.yml ./conf/

之所以要移動slave本身的prometheus.yml，是因為要從master同步過來已經(jīng)規(guī)劃好的conf配置目錄，拉取后會覆蓋slave上的conf目錄，以后都以master的配置為主

#!/bin/shnohup ./prometheus –storage.tsdb.retention.time=180d –web.enable-lifecycle –config.file=./conf/prometheus.yml –log.level=warn –log.format=json >> ./logs/prometheus_run_status.log &

數(shù)據(jù)保留周期是180天，請根據(jù)實際情況調(diào)整，其他參數(shù)的意義請自行help

在上面腳本的啟動參數(shù)中，也可以通過參數(shù)–storage.tsdb.path=”data/”修改本地數(shù)據(jù)存儲的路徑，不指定的話，時序數(shù)據(jù)默認是在prometheus的data目錄下，如需修改數(shù)據(jù)的存儲路徑，建議存放在性能好（SSD、高端磁盤陣列）、容量大的目錄中。

[root@prosvr-slave prometheus]# sh startPrometheusSvr.sh[root@prosvr-slave prometheus]# ps -aux | grep prometheusroot 5107 3.7 16.0 768960 35456 pts/0 Sl 17:18 0:00 ./prometheus –web.enable-lifecycle –config.file=./conf/prometheus.yml –log.level=warn –log.format=jsonroot 5114 0.0 0.4 112812 976 pts/0 R+ 17:18 0:00 grep –color=auto prometheusYou have new mail in /var/spool/mail/root[root@prosvr-slave prometheus]# netstat -tulnp | grep prometheustcp6 0 0 :::9090 :::* LISTEN 5107/./prometheus [root@prosvr-slave prometheus]#

#!/bin/shtime_log=`date “+%Y-%m-%d %H:%M:%S”`echo “${time_log} 配置更新器啟動”pull_wait_sec=2while truedo wget http://192.168.11.146:8000/notice_slave.action -O notice_slave.action > /dev/null 2>&1 status=`cat ./notice_slave.action` if [ ${status} -eq 1 ] then time_bak=`date “+%Y%m%d%H%M%S”` time_log=`date “+%Y-%m-%d %H:%M:%S”` echo “${time_log} 從master下載配置壓縮包文件” wget http://192.168.11.146:8000/conf.tar.gz -O conf.tar.gz echo “${time_log} 備份原有的配置目錄” mv ./conf ./backup/conf_bak_${time_bak} echo “${time_log} 解壓下載后的配置壓縮包” tar -zxf conf.tar.gz echo “${time_log} 熱重啟prometheus服務(wù)” curl -X POST http://127.0.0.1:9090/-/reload fi sleep ${pull_wait_sec}done

pull_wait_sec參數(shù)控制每隔時間工作一次，首先會從master中拉取通知文件notice_slave.action，并讀取里面的結(jié)果，如果是1，則說明master上的配置文件有變化，接著會執(zhí)行一系列操作。如果是0，則什么也不做。

#!/bin/shcurl -X POST http://127.0.0.1:9090/-/reload

日常維護中，在slave主機上，如有必要時方便手動執(zhí)行熱重啟

#!/bin/shnohup sh startUpdateSyncConf.sh > ./logs/update_sync.log &sleep 3sh ./startPrometheusSvr.sh

日常維護中，如需一次性拉起服務(wù)，執(zhí)行該腳本即可

#!/bin/shps -aux | grep startUpdateSyncConf.sh | grep -v grep | awk ‘{print $2}’ | xargs killps -aux | grep -v grep | grep prometheus | awk ‘{print $2}’ | xargs kill

日常維護中，如需一次性停止服務(wù)，執(zhí)行該腳本即可

四、監(jiān)控mysql案例

prometheus如何監(jiān)控mysql？很簡單，只需要在運行mysql的主機上安裝mysqld_exporter，mysqld_exporter的用途是啥？說白了它就是用來收集mysql數(shù)據(jù)庫相關(guān)指標(biāo)的程序（官方就有，而且是go語言寫的），mysqld_exporter啟動后默認監(jiān)聽9104端口（當(dāng)然啟動時可以通過相應(yīng)參數(shù)進行更改），且它連接上數(shù)據(jù)庫采集相應(yīng)指標(biāo)，并等著prometheus服務(wù)器來拉取。所以，需要在mysql中創(chuàng)建一個專門用于采集監(jiān)控指標(biāo)的數(shù)據(jù)庫賬號，讓mysqld_exporter通過這個賬號去登錄數(shù)據(jù)庫采集指標(biāo)，且這個賬號要有相關(guān)權(quán)限（合適的權(quán)限即可）。所以的合適，請自行根據(jù)實際情況決定要給什么權(quán)限，如果是生產(chǎn)環(huán)境，一般的原則是：最小原則、夠用就好。

• 以下是筆者的mysql測試環(huán)境

說明：本篇只講解如何使用Prometheus監(jiān)控MySQL，MySQL本身的安裝過程不在本篇范圍內(nèi)，請自行將MySQL安裝好。

wget https://github.com/prometheus/mysqld_exporter/releases/download/v0.14.0/mysqld_exporter-0.14.0.linux-amd64.tar.gz

# 創(chuàng)建賬號mysql> create user ‘exporter_user’@’localhost’ identified by ‘Root.123456’ with max_user_connections 3;Query OK, 0 rows affected (0.06 sec)# 授權(quán)mysql> grant process, replication client, select on *.* to ‘exporter_user’@’localhost’;Query OK, 0 rows affected (0.00 sec)# 刷新權(quán)限mysql> flush privileges;Query OK, 0 rows affected (0.00 sec)# 查看權(quán)限mysql> show grants for exporter_user@localhostG; *************************** 1. row ***************************Grants for exporter_user@localhost: GRANT SELECT, PROCESS, REPLICATION CLIENT ON *.* TO `exporter_user`@`localhost`1 row in set (0.00 sec)ERROR: No query specified# 查看賬號mysql> select user,host from mysql.user;+——————+———–+| user | host |+——————+———–+| exporter | localhost | # 這個，筆者曾經(jīng)創(chuàng)建過的，不管它了| exporter_user | localhost | # 這個是剛剛創(chuàng)建好的，就用這個啦！| mysql.infoschema | localhost || mysql.session | localhost || mysql.sys | localhost || root | localhost || ttr1 | localhost |+——————+———–+7 rows in set (0.00 sec)mysql>

關(guān)于mysql的數(shù)據(jù)庫賬號權(quán)限的授權(quán)和回收的知識，筆者以后會出一個專題，專門深入淺出的剖析，敬請大家的關(guān)注！

# 下載完成后，解壓，并移動到規(guī)定的目錄下（目錄可自定義哈）tar -zxf mysqld_exporter-0.14.0.linux-amd64.tar.gz [root@mysql8db ~]# mkdir /usr/local/exporter/[root@mysql8db ~]# mv mysqld_exporter-0.14.0.linux-amd64 /usr/local/exporter/mysqld_exporter[root@mysql8db ~]# cd /usr/local/exporter/mysqld_exporter/[root@mysql8db mysqld_exporter]# lltotal 14824-rw-r–r– 1 3434 3434 11357 Mar 5 00:30 LICENSE-rwxr-xr-x 1 3434 3434 15163162 Mar 5 00:25 mysqld_exporter # 這個就是可執(zhí)行程序-rw-r–r– 1 3434 3434 65 Mar 5 00:30 NOTICE

# 創(chuàng)建連接mysql的配置文件[root@mysql8db mysqld_exporter]# cat > exporter_conn_mysql.conf user=exporter_user> password=Root.123456> EOF# 查看創(chuàng)建好的配置文件[root@mysql8db mysqld_exporter]# cat exporter_conn_mysql.conf [client]user=exporter_userpassword=Root.123456[root@mysql8db mysqld_exporter]#

# 為了方便啟動，創(chuàng)建一個啟動腳本[root@mysql8db mysqld_exporter]# cat > start_mysqld_exporter.sh EOF[root@mysql8db mysqld_exporter]## 查看創(chuàng)建好的啟動腳本 [root@mysql8db mysqld_exporter]# cat start_mysqld_exporter.sh nohup ./mysqld_exporter –config.my-cnf=./exporter_conn_mysql.conf &[root@mysql8db mysqld_exporter]# # 開始啟動[root@mysql8db mysqld_exporter]# sh start_mysqld_exporter.sh # 啟動后查看相關(guān)端口（默認的端口為9104）[root@mysql8db mysqld_exporter]# netstat -tulnp | grep mysqltcp6 0 0 :::33060 :::* LISTEN 1916/mysqld tcp6 0 0 :::3306 :::* LISTEN 1916/mysqld tcp6 0 0 :::9104 :::* LISTEN 2073/./mysqld_expor # 這個就是啦！[root@mysql8db mysqld_exporter]# [root@mysql8db mysqld_exporter]#

說明：咦！–config.my-cnf這個參數(shù)我咋知道的？當(dāng)然是可以使用help啦!這樣 ./mysqld_exporter –help 就可以知道有哪些選項啦！

還有一個奇怪的問題，怎么只有ipv6在監(jiān)聽？沒有IPV4？其實不是啦！centos7以上，都是ipv6優(yōu)先的原則，對ipv6的支持默認是開啟的，ipv4其實也是有在監(jiān)聽的啦!

• 暴露的HTTP服務(wù)地址（http://192.168.11.150:9104/metrics）

看到這些指標(biāo)了嗎？Prometheus服務(wù)端會周期性的從Exporter暴露的HTTP服務(wù)地址（通常是/metrics）拉取監(jiān)控樣本數(shù)據(jù)。

指標(biāo)內(nèi)容簡單說明：

• HELP：用于解釋當(dāng)前指標(biāo)的含義
• TYPE：說明當(dāng)前指標(biāo)的數(shù)據(jù)類型

比如下面的一個指標(biāo)

# HELP mysql_up Whether the MySQL server is up. # MySQL服務(wù)器是否啟動# TYPE mysql_up gauge # 指標(biāo)的數(shù)據(jù)類型是gauge，測量、檢測的意思，也有儀表盤的意思？mysql_up 1 # mysql_up反應(yīng)當(dāng)前的狀態(tài)，當(dāng)前的值為1，說明是啟動的，也可能為0（停止?fàn)顟B(tài)）

筆者去把Mysql給停止了，再次刷新指標(biāo)頁面，查看這個指標(biāo)，發(fā)現(xiàn)確實變成了0

剛剛是通過nohup將mysqld_exporter程序丟入到后臺啟動的，所以相關(guān)的輸出信息默認是會寫入nohup.out文件中

[root@mysql8db mysqld_exporter]# tailf nohup.out ts=2022-05-21T13:40:01.735Z caller=mysqld_exporter.go:277 level=info msg=”Starting mysqld_exporter” version=”(version=0.14.0, branch=HEAD, revision=ca1b9af82a471c849c529eb8aadb1aac73e7b68c)”ts=2022-05-21T13:40:01.735Z caller=mysqld_exporter.go:278 level=info msg=”Build context” (gogo1.17.8,userroot@401d370ca42e……

到此為止，在Mysql服務(wù)器主機上部署mysqld_exporter的任務(wù)算是大功告成。

接下來回到Prometheus Master中繼續(xù)以下的操作

在Master中的prometheus主配置文件中的scrape_configs配置項添加基于文件的自動發(fā)現(xiàn)job

一定要注意：只需在master上做相關(guān)配置，slave主機會定時拉取master的配置目錄和master保持同步，且slave的配置發(fā)生變更還會自動熱重啟使其生效，也就是說slave不用你操心，你只需管理好你的master就好。

再羅嗦一次：以下操作僅在master上操作。

在主配置文件/usr/local/prometheus/conf/prometheus.yml中添加測試業(yè)務(wù)A的job

說明：下面的job_name為prometheus_server是拉取prometheus本身的指標(biāo)數(shù)據(jù)（也就是監(jiān)控其本身），IP地址是指向VIP：192.168.11.203，指向VIP這是建議的做法。

scrape_configs: – job_name: ‘prometheus_server’ static_configs: – targets: [‘192.168.11.203:9090’] – job_name: ‘測試業(yè)務(wù)A’ file_sd_configs: – files: – ‘./business/test_bus_a/job/*.yml’ refresh_interval: 1s

參數(shù)說明：

• ‘測試業(yè)務(wù)A’的job_name：定義自發(fā)現(xiàn)的采集任務(wù)名稱，按業(yè)務(wù)的維度進行定義名稱，筆者這里叫“測試業(yè)務(wù)A”
• file_sd_configs：這是基于文件的自動發(fā)現(xiàn)，即，下面這塊配置都是和file_sd_configs有關(guān)的，詳細說明如下:

file_sd_configs: # 指定這是基于文件的自動發(fā)現(xiàn) – files: – ‘./business/test_bus_a/job/*.yml’ # 指定自動發(fā)現(xiàn)配置文件的路徑，這里表示在該路徑下發(fā)現(xiàn)所有.yml格式的配置文件 refresh_interval: 1s # 自動發(fā)現(xiàn)間隔，時間默認是5秒，筆者這里設(shè)置了1秒。

• ./conf/business/test_bus_a/job/mysql.yml的內(nèi)容如下：

– targets: – ‘192.168.11.150:9104’ labels: ip: ‘192.168.11.150’ monitype: ‘mysql’ project: ‘測試業(yè)務(wù)A’ business: ‘測試業(yè)務(wù)A’

參數(shù)說明：

• targets：拉取目標(biāo)，這里指向mysql服務(wù)器的IP地址，mysqld_exporter的端口是9104
• labels：這是標(biāo)簽，標(biāo)簽的主要作用是可以通過指定的標(biāo)簽查詢指定的數(shù)據(jù)。

標(biāo)簽的作用：Prometheus中存儲的數(shù)據(jù)為時間序列，是由Metric的名字和一系列的標(biāo)簽(鍵值對)唯一標(biāo)識的, 不同的標(biāo)簽代表不同的時間序列，即通過指定標(biāo)簽查詢指定數(shù)據(jù)。不同的標(biāo)簽代表不同的時間序列，即通過指定標(biāo)簽查詢指定數(shù)據(jù)。指標(biāo)+標(biāo)簽實現(xiàn)了查詢條件的作用，可以指定不同的標(biāo)簽過濾不同的數(shù)據(jù)。

在Prometheus UI中對應(yīng)的Labels信息如下圖可見：

假設(shè)有個需求，需要知道被監(jiān)控的mysql服務(wù)器所在的機房位置，那么就可以增加一個自定義標(biāo)簽，如下：

• ./conf/business/test_bus_a/job/mysql.yml

– targets: – ‘192.168.11.150:9104’ labels: ip: ‘192.168.11.150’ monitype: ‘mysql’ project: ‘測試業(yè)務(wù)A’ business: ‘測試業(yè)務(wù)A’ region: ‘廣州機房’

在Prometheus UI中可以看到：

• 不管你是用VIP、還是master、slave的物理IP去訪問UI，結(jié)果都一樣的，不信你試試。

自定義標(biāo)簽的主要應(yīng)用場景：有了這些標(biāo)簽可以針對特定的標(biāo)簽去查詢，比如筆者在上面的假設(shè)需求中，需要定義一個根據(jù)自定義標(biāo)簽region作為標(biāo)識機房位置?？偠灾?，添加的標(biāo)簽越多，查詢的維度就會越細。

在UI界面中的Graph面板中使用PromQL表達式查詢特定監(jiān)控指標(biāo)的監(jiān)控數(shù)據(jù)，如下查詢“mysql_up”指標(biāo)，如下圖：

PromQL是Prometheus自定義的一套強大的數(shù)據(jù)查詢語言，除了使用監(jiān)控指標(biāo)作為查詢關(guān)鍵字以為，還內(nèi)置了大量的函數(shù)，幫助用戶進一步對時序數(shù)據(jù)進行處理。例如使用rate()函數(shù)，可以計算在單位時間內(nèi)樣本數(shù)據(jù)的變化情況即增長率，通過PromQL我們可以非常方便的對數(shù)據(jù)進行查詢，過濾，以及聚合，計算等操作。通過這些豐富的表達式語句，監(jiān)控指標(biāo)不再是一個單獨存在的個體，而是一個個能夠表達出正式業(yè)務(wù)含義的語言。當(dāng)然，關(guān)于更多的PromQL知識，以后筆者會慢慢分享，本篇的重點是主備架構(gòu)，可別跑題了呢！

五、監(jiān)控主機案例

為了能夠采集到主機的運行指標(biāo)如CPU, 內(nèi)存，磁盤等信息。可以使用Node Exporter。Node Exporter同樣采用Golang編寫，并且不存在任何的第三方依賴，只需要下載，解壓即可運行。

wget https://github.com/prometheus/node_exporter/releases/download/v1.3.1/node_exporter-1.3.1.linux-amd64.tar.gztar -zxf node_exporter-1.3.1.linux-amd64.tar.gzmv node_exporter-1.3.1.linux-amd64 /usr/local/exporter/node_exportercd /usr/local/exporter/node_exporter/

[root@mysql8db node_exporter]# ./node_exporter –helpusage: node_exporter []Flags: -h, –help Show context-sensitive help (also try –help-long and –help-man). –collector.bcache.priorityStats Expose expensive priority stats. –collector.cpu.guest Enables metric node_cpu_guest_seconds_total –collector.cpu.info Enables metric cpu_info……

# 丟入后臺運行[root@mysql8db node_exporter]# nohup ./node_exporter &# 查看監(jiān)聽的端口[root@mysql8db node_exporter]# netstat -tulnp | grep node_exportetcp6 0 0 :::9100 :::* LISTEN 1935/./node_exporte [root@mysql8db node_exporter]# # 通過nohup丟入后臺運行，相關(guān)的輸出會追加到nohup.out文件中，必要時可查看該文件診斷相關(guān)問題[root@mysql8db node_exporter]# tailf nohup.out ts=2022-06-04T00:45:58.822Z caller=node_exporter.go:115 level=info collector=thermal_zonets=2022-06-04T00:45:58.822Z caller=node_exporter.go:115 level=info collector=timets=2022-06-04T00:45:58.822Z caller=node_exporter.go:115 level=info collector=timexts=2022-06-04T00:45:58.822Z caller=node_exporter.go:115 level=info collector=udp_queues……

筆者沒啥特殊的需求，所以無需額外在給定啟動參數(shù)，直接丟入后臺運行即可，默認的監(jiān)聽端口是9100

假設(shè)筆者的這臺主機是測試業(yè)務(wù)b（test_bus_b）的一臺主機，請按照之前的業(yè)務(wù)目錄規(guī)范，在規(guī)范的業(yè)務(wù)目錄（conf/business）下創(chuàng)建業(yè)務(wù)文件夾test_bus_b。

再次羅嗦一次：僅需在master上做配置即可，slave會定時拉取masetr的配置目錄，不要去管slave，OK？一個大男人那么羅嗦，真的很惹人討厭??！

在主配置文件中添加業(yè)務(wù)B的job

• 主配置文件：/usr/local/prometheus/conf/prometheus.yml

scrape_configs: – job_name: ‘prometheus_server’ static_configs: – targets: [‘192.168.11.203:9090’] – job_name: ‘測試業(yè)務(wù)A’ file_sd_configs: – files: – ‘./business/test_bus_a/job/*.yml’ refresh_interval: 1s – job_name: ‘測試業(yè)務(wù)B’ # 這是新增加的測試業(yè)務(wù)B file_sd_configs: – files: – ‘./business/test_bus_b/job/*.yml’ refresh_interval: 1s

在規(guī)范的業(yè)務(wù)目錄（conf/business）下創(chuàng)建業(yè)務(wù)文件夾test_bus_b，然后創(chuàng)建host.yml，增加targets（拉取目標(biāo)）的配置

[root@prosvr-master business]# cd /usr/local/prometheus/conf/business/[root@prosvr-master business]# mkdir test_bus_b[root@prosvr-master business]# cd test_bus_b/[root@prosvr-master business]# mkdir job[root@prosvr-master business]# cd job/[root@prosvr-master job]# cat host.yml – targets: – ‘192.168.11.150:9100’ labels: ip: ‘192.168.11.150’ monitype: ‘linux-centos7’ project: ‘測試業(yè)務(wù)B’ business: ‘測試業(yè)務(wù)B’ region: ‘深圳機房’

在Prometheus UI中查看新增的測試業(yè)務(wù)B

• 不管你是用VIP、還是master、slave的物理IP去訪問UI，結(jié)果都一樣的，不信你試試。

非常不錯，只要檢測到配置文件發(fā)生變化，master會自動熱重啟，slave也會自動拉取配置目錄然后熱重啟，非常的省心、省力。自我感覺這個DIY的主備方案幾乎接近完美，雖然沒有用很高大上的語言、工具去實現(xiàn)，但筆者的這個思路自我感覺是非常的不錯，這難道就是傳說中的自我感覺良好？當(dāng)然，筆者以后會通過Go或者Python打造一個管理Promtheus主備的工具，且是帶UI的管理工具，敬請期待推出！我不造車，我只造零件。

六、AlertManager警報組件配置

說明：基于二進制包的alertmanager組件請自行在master和slave中安裝部署到規(guī)范的目錄，之后繼續(xù)下面的步驟。

• 在master和slave服務(wù)器上，alertmanager組件的二進制包解壓到規(guī)范的目錄后，將警報的主配置文件“alertmanager.yml”移動到prometheus組件的conf目錄下

# 移動后（也就是用mv命令移動），查看如下：[root@prosvr-master conf]# pwd/usr/local/prometheus/conf[root@prosvr-master conf]# lltotal 12-rw-r–r– 1 3434 3434 348 Jun 4 13:26 alertmanager.yml # 警報組件的主配置文件已經(jīng)也在prometheus組件下的conf目錄drwxr-xr-x 4 root root 42 Jun 4 09:18 business-rw-r–r– 1 3434 3434 1033 Jun 4 12:27 prometheus.yml[root@prosvr-master conf]#

特別注意：上述操作，在master和slave上都要操作，且在slave服務(wù)器移動alertmanager.yml配置文件后，往后就可以不用去管slave上的alertmanager.yml配置文件了，主要的配置變更都在master上進行就好，如果有變更，slave會自動拉取配置目錄。通常警報組件的alertmanager.yml配置文件一旦配置好后，改動的頻率比較少。

特別說明：之所以這么設(shè)計，有兩個好處：1）配置的變更都在同一個目錄下進行；2）利用了現(xiàn)有master和slave的配置目錄同步能力

• 在警報組件中配置告警消息發(fā)往的接口地址, 讓其可以調(diào)用接口，配置方式很簡單，只需要指定一下接口地址即可

global: resolve_timeout: 5mroute: group_by: […] group_wait: 1s group_interval: 1s repeat_interval: 1000d receiver: ‘web.hook’receivers:- name: ‘web.hook’ webhook_configs: – url: ‘http://127.0.0.1:5001/webhook’ send_resolved: true

上述配置中，主要包含兩大部分，路由（route）和接收器（receivers），所有的告警信息都會從配置中的頂級路由(route)進入路由樹，根據(jù)路由規(guī)則將告警信息發(fā)送給相應(yīng)的接收器。本篇主要是配置接收器，使用webhook的方式，假設(shè)是將告警消息推送到第三方平臺。當(dāng)然，在本篇僅為示例，打印出來而已。

• 注意：該步驟一定要進入到/usr/local/alertmanager/目錄下進行操作
• 創(chuàng)建腳本，名稱：startAlertManagerSvr.sh

#!/bin/shnohup ./alertmanager –config.file=/usr/local/prometheus/conf/alertmanager.yml >> ./logs/alert.log &[root@prosvr-master alertmanager]#

注意：startAlertManagerSvr.sh腳本在masetr和slave中都要創(chuàng)建，且–config.file使用絕對路徑指向alertmanager.yml

通過該腳本拉起alertmanager組件

sh startAlertManagerSvr.sh

注意：master和slave都要拉起

啟動后，通過VIP或master和slave的物理IP都可以訪問到警報的頁面，筆者這里是使用VIP進行訪問，如下圖：

注意：僅在master上配置即可，因為slave會從master上拉取

• /usr/local/prometheus/conf/prometheus.yml

alerting: alertmanagers: – static_configs: – targets: – 192.168.11.203:9093

筆者這里通過VIP跟Alertmanager組件通信，當(dāng)prometheus中的警報規(guī)則觸發(fā)了告警后，告警消息就會發(fā)送到警報組件監(jiān)聽的9093端口，由alertmanager組件進行處理

注意：僅在master上配置即可

• /usr/local/prometheus/conf/prometheus.yml

rule_files: – “./business/test_bus_a/rule/*.rules” – “./business/test_bus_b/rule/*.rules”

注意：僅在master上配置即可

• /usr/local/prometheus/conf/business/test_bus_a/rule/mysql.rules

groups: – name: mysql-alert rules: – alert: “MysqlDown” expr: mysql_up{job=”測試業(yè)務(wù)A”}==0 for: 1m labels: annotations: summary: “MySQL數(shù)據(jù)庫服務(wù):{{ $labels.ip }}發(fā)生停止告警” description: “測試業(yè)務(wù)A的環(huán)境MySQL數(shù)據(jù)庫服務(wù):{{ $labels.ip }}已停止，當(dāng)前UP狀態(tài)值為：{{ $value }}，已觸發(fā)告警條件：mysql_up = 0，持續(xù)時間：1m。” alertLevel: 5

上面的案例很簡單，expr是表達式，該表達式是說：如果mysql_up指標(biāo)的值等于0那么就觸發(fā)該警報

可以通過promtool工具檢查警報規(guī)則配置文件是否有誤

[root@prosvr-master prometheus]# ./promtool check rules ./conf/business/test_bus_a/rule/mysql.rules Checking ./conf/business/test_bus_a/rule/mysql.rules SUCCESS: 1 rules found

配置文件發(fā)生了變更后，master會自動熱重啟，slave會自動拉取配置并熱重啟，直接在UI界面上可以查看到該規(guī)則

特別說明：只需在master上編寫的webhook接口腳本，并且也放在規(guī)范的conf目錄下：/usr/local/prometheus/conf/webhook.py，該API腳本會被slave拉取到

• webhook.py簡單的API代碼如下：

import jsonfrom flask import Flask, requestapp = Flask(__name__)@app.route(‘/webhook’, methods=[‘POST’])def webhook(): data = json.loads(request.data) print(data)if __name__ == ‘__main__’: app.run(‘0.0.0.0’, 5001)

特別說明1：此示例API只是演示使用，請根據(jù)實際情況編寫相關(guān)代碼，本實例僅僅只是打印出來，并沒有將告警推送到其他平臺，如釘釘、郵件、或其他告警收斂平臺。

特別說明2：如果您也想在您的測試環(huán)境將筆者的這個webhook.py跑起來，請自行安裝python的flask庫，筆者不在本篇講解python的相關(guān)知識。python編程筆者后續(xù)會專門抽時間作為專題給大家分享，敬請您的關(guān)注。

說明：在master和slave都要創(chuàng)建startWebHook.sh腳本

#!/bin/shnohup python ./conf/webhook.py >> ./logs/webhook.log &

[root@prosvr-master prometheus]# sh startWebHook.sh

特別注意：千萬不要在slave上啟動webhook API，具體原因在本篇的最前面已經(jīng)有過解釋（避免告警重復(fù)推送），只有當(dāng)master不可用了，slave才拉起webhook API腳本進行承擔(dān)告警推送的任務(wù)。

• 在master上用tailf命令實時監(jiān)測./logs/webhook.log

[root@prosvr-master prometheus]# tailf ./logs/webhook.log * Serving Flask app “webhook” (lazy loading) * Environment: production WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead. * Debug mode: off * Running on http://0.0.0.0:5001/ (Press CTRL+C to quit)

登錄Mysql主機，停掉mysql

[root@mysql8db ~]# cat stop_mysql.sh #!/bin/bash/usr/local/mysql8/bin/mysqladmin -S /usr/local/mysql8/mysql.sock -uroot -pRoot.123456 shutdown[root@mysql8db ~]# [root@mysql8db ~]# sh stop_mysql.sh mysqladmin: [Warning] Using a password on the command line interface can be insecure.[root@mysql8db ~]#

沒過多久，webhook api就接收到了告警消息

同樣，在Alertmanager告警頁面中，也能看到告警消息

寫在最后

到目前為止，該DIY的prometheus主備方案的全程搭建過程就已經(jīng)完結(jié)了，期間涉及到很多知識點都還沒有去深入的剖析，比如：PromQL，Metric類型，告警的分組、抑制、靜默等等知識點。本篇的核心主題是把這個DIY的方案給搞起來，后續(xù)筆者會逐一分享更多關(guān)于prometheus的技能點，敬請大家的關(guān)注。謝謝！感謝您的關(guān)注，望多多轉(zhuǎn)發(fā)、點贊。謝謝！

重磅！DIY的Prometheus主備方案，全網(wǎng)唯一。生產(chǎn)未上，測試先行。