MySQl 监控、MySQL 集群监控、使用 Categraf 和 夜莺 监控 MySQL
MySQL 监控概述
MySQL、Redis、MongoDB 等各类数据库的监控数据采集,原理类似,就是为 Categraf 创建一个 DB 账号,Categraf 用此账号连到数据库实例上,执行一些命令获取监控数据,比如连到 MySQL 上执行 show global status
、show global variables
等命令。
创建 DB 账号
为了安全起见,建议为 Categraf 创建一个只读权限的 DB 账号:
CREATE USER 'categraf'@'127.0.0.1' IDENTIFIED BY 'XXXXXXXX' WITH MAX_USER_CONNECTIONS 3;
GRANT PROCESS, REPLICATION CLIENT, SELECT ON *.* TO 'categraf'@'127.0.0.1';
当然,测试期间也可以使用 root 账号,但是生产环境不建议使用 root 账号。
快速入门
Categraf 内置各类监控插件,也内置了 MySQL 的监控插件,其配置文件在 Categraf 的 conf/input.mysql/mysql.toml
,下面是一个极简配置内容:
[[instances]]
address = "127.0.0.1:3306"
username = "categraf"
password = "XXXXXXXX"
然后通过 Categraf 的 --test
命令可以测试配置是否正确:
./categraf --test --inputs mysql
输出如下:
ulric@ulric-flashcat categraf % ./categraf --test --inputs mysql
2024/11/20 14:23:35 main.go:149: I! runner.binarydir: /Users/ulric/works/gopath/src/categraf
2024/11/20 14:23:35 main.go:150: I! runner.hostname: ulric-flashcat.local
2024/11/20 14:23:35 main.go:151: I! runner.fd_limits: (soft=61440, hard=unlimited)
2024/11/20 14:23:35 main.go:152: I! runner.vm_limits: (soft=unlimited, hard=unlimited)
...
1732083816 14:23:36 mysql_up address=127.0.0.1:3306 agent_hostname=mac-ulric-flashcat 1
1732083816 14:23:36 mysql_global_status_aborted_clients address=127.0.0.1:3306 agent_hostname=mac-ulric-flashcat 0
1732083816 14:23:36 mysql_global_status_aborted_connects address=127.0.0.1:3306 agent_hostname=mac-ulric-flashcat 1
...
篇幅所限,上面只贴了 3 个指标,实际会采集更多指标。
然后重启 Categraf:
systemctl restart categraf
上例是假设您使用 systemd 托管 categraf,如果您使用 supervisor 等其他进程管理工具,请自行搞定。或者不重启 categraf,只是给 categraf 发送一个 SIGHUP 信号,categraf 会自动 reload 配置。
kill -HUP `pidof categraf`
最后,在夜莺里导入仪表盘就可以看到 MySQL 的监控数据了。如下是截取的夜莺 7.7.1 版本。
可以打开这个仪表盘:“MySQL 仪表盘(使用 address 筛选,用于中心端 Categraf 采集远端多个 mysql 实例的场景)”
,看到的效果如下:
MySQL 监控的两种模式
使用 Categraf 监控 MySQL,有两种模式:
- 模式一:MySQL 使用本机的 Categraf 采集监控数据。比如你有 10 台机器,每个机器上都有一个 MySQL 实例,那就部署 10 个 Categraf,每个 Categraf 采集自己所在机器的 MySQL 实例。
- 模式二:只部署一个 Categraf 专门用来采集 MySQL,即便你有 10 个 MySQL 实例,仍然使用一个 Categraf 来采集。比如云上的 RDS,就只能使用这种模式。
两个模式各有优劣。
模式一,Categraf 采集本机的 MySQL,网络请求走回环网卡,性能更好,网络链路更稳定。这种模式下,MySQL 的地址大概率都是配置的 127.0.0.1:3306
,如果你有 10 套 MySQL,通过 address 标签就无法区分这些 MySQL 的监控数据了。因为 address 都是一样的,都是 127.0.0.1:3306
。这种模式,在仪表盘中,可以使用机器名作为筛选过滤条件,即大盘里要看哪个机器的 MySQL 数据,就选哪个机器的机器名。“MySQL 仪表盘,适用于 Categraf 采集本机 MySQL 的场景”
这个仪表盘就是应对这种场景的。这种模式无法监控云上的 RDS。因为云上的 RDS 所在的机器普通用户登录不了,自然无法部署 Categraf。
另外,模式一这种模式,由于无法使用 address 标签来区分不同的 MySQL 实例,我们还可以给每个 MySQL 实例附一个标签,比如 labels = { instance="n9e-mysql-01" }
,这样一来,这个 MySQL 的所有监控数据都会附加这个 instance="n9e-mysql-01"
标签,这样在仪表盘中就可以使用 instance 标签来筛选过滤了。您可以使用这个仪表盘: “MySQL 仪表盘(使用 instance 筛选,需要采集时自行打上 instance 标签)”
。如何给实例附加标签?在 Categraf 的配置文件中,给 [[instances]]
配置段加上 labels = { instance="n9e-mysql-01" }
即可:
[[instances]]
address = "10.1.2.3:3306"
username = "categraf"
password = "XXXXXXXX"
labels = { instance="n9e-mysql-01" }
模式二,用一个 Categraf 采集所有 MySQL 实例,可以应对云上 RDS 的场景,Categraf 的配置样例如下:
[[instances]]
address = "10.1.2.3:3306"
username = "categraf"
password = "XXXXXXXX"
labels = { instance="n9e-mysql-01" }
[[instances]]
address = "10.1.2.4:3306"
username = "categraf"
password = "XXXXXXXX"
labels = { instance="n9e-mysql-02" }
上例是监控了两个 MySQL 实例,所以配置了两个 [[instances]]
配置段。这个配置文件是 toml 格式,在 toml 中双中括号表示数组。想要监控多个 MySQL 实例,就复制多份 [[instances]]
配置段就可以了。
这个模式下,不同实例的 address 显然是不同的,所以可以不用附加额外的 instance 标签。在仪表盘中,可以使用 address 标签来筛选过滤。
使用自定义 SQL 监控 MySQL
Categraf 的 MySQL 插件,会执行一些 SQL 来获取 MySQL 的性能指标数据。但有时您可能觉得不够用,想要自定义一些 SQL 来采集监控数据,尤其是一些业务监控数据。此时,您可以自定义 SQL,配置到 Categraf 的 MySQL 插件中。比如我想监控夜莺的数据库中的用户总量,把用户总量作为监控数据采集并上报,配置方式如下:
[[instances]]
address = "10.1.2.3:3306"
username = "categraf"
password = "XXXXXXXX"
labels = { instance="n9e-mysql-01" }
[[instances.queries]]
mesurement = "users"
metric_fields = [ "total" ]
label_fields = [ "service" ]
timeout = "3s"
request = '''
select 'n9e' as service, count(*) as total from n9e_v6.users
'''
上面配置了一条自定义 SQL:select 'n9e' as service, count(*) as total from n9e_v6.users
。这个 SQL 的查询结果如下:
+---------+-------+
| service | total |
+---------+-------+
| n9e | 1 |
+---------+-------+
任何一个 SQL 语句,返回的内容都是这么一个二维表格。表格里有很多列,有的列是数值,希望作为监控指标,有的列是字符串,希望作为指标的标签,那我们就需要通过配置告知 Categraf,应该如何解析这个二维表格。所以,就有了上例中的 mesurement、metric_fields、label_fields 这些配置项。这些配置项的作用如下:
mesurement
:哪个列作为监控指标名称前缀metric_fields
:数组,哪些列作为监控指标的值label_fields
:数组,哪些列作为监控指标的标签field_to_append
:哪个列作为监控指标名称的后缀,上例中没用到timeout
:超时时间request
:SQL 语句
如果想定义多个自定义 SQL,就把上面的内容复制多份就可以了,比如:
[[instances]]
address = "10.1.2.3:3306"
username = "categraf"
password = "XXXXXXXX"
labels = { instance="n9e-mysql-01" }
[[instances.queries]]
mesurement = "users"
metric_fields = [ "total" ]
label_fields = [ "service" ]
timeout = "3s"
request = '''
select 'n9e' as service, count(*) as total from n9e_v6.users
'''
[[instances.queries]]
mesurement = "user_groups"
metric_fields = [ "total" ]
label_fields = [ "service" ]
timeout = "3s"
request = '''
select 'n9e' as service, count(*) as total from n9e_v6.user_groups
'''
MySQL 插件配置详解
下面我们把 Categraf 的 MySQL 插件的所有配置贴到下面,并逐一解释。
# 定义mysql采集周期,单位是秒
interval = 15
# 定义全局要执行的自定义SQL,每个instance都会执行
# 注意这里是 [[queries]],而不是 [[instances.queries]],[[queries]]是全局的,[[instances.queries]]是针对某个instance的
[[queries]]
mesurement = "lock_wait"
metric_fields = [ "total" ]
timeout = "3s"
request = '''
SELECT count(*) as total FROM information_schema.innodb_trx WHERE trx_state='LOCK WAIT'
'''
# 定义instance, 一个instance对应一个mysql实例
# 指定mysql的地址,用户名,密码
[[instances]]
address = "127.0.0.1:3306"
username = "categraf"
password = "xxxxxxxx"
# 是否使用 tls 等定制参数
parameters = "tls=false"
# 通过 show global status 监控 mysql,默认抓取一些基础指标,
# 如果想抓取更多 global status 的指标,把下面的配置设置为 true
extra_status_metrics = true
# 通过show global variables 监控 mysql 的全局变量,默认抓取一些常规的
# 常规的基本够用了,扩展的部分如果也想采集,下面的配置设置为 true
extra_innodb_metrics = true
# 监控 processlist,关注较少,默认不采集
gather_processlist_processes_by_state = false
gather_processlist_processes_by_user = false
# 监控各个数据库的磁盘占用大小,如果你的 DB 很大,可能会很耗时,不建议采集,用处不大
gather_schema_size = false
# 监控所有的 table 的磁盘占用大小,如果你的 DB 很大,可能会很耗时,不建议采集,用处不大
gather_table_size = false
# 是否采集系统表的大小,通常不用,所以默认设置为false
gather_system_table_size = false
# 通过 show slave status 监控 slave 的情况,比较关键,所以默认采集
gather_slave_status = true
# 超时时间
timeout_seconds = 3
# 采集周期的倍数,比如设置为2,那么采集周期就是 interval * 2
interval_times = 1
# 为 mysql 实例附加一些标签,比如上面的例子中提到的 instance 标签
labels = { instance="n9e-mysql-01" }
# tls 相关配置,可选配置
use_tls = false
tls_min_version = "1.2"
tls_ca = "/etc/categraf/ca.pem"
tls_cert = "/etc/categraf/cert.pem"
tls_key = "/etc/categraf/key.pem"
# Use TLS but skip chain & host verification
insecure_skip_verify = true
# 定义只针对当前 mysql 实例的自定义 sql
[[instances.queries]]
mesurement = "lock_wait"
metric_fields = [ "total" ]
timeout = "3s"
request = '''
SELECT count(*) as total FROM information_schema.innodb_trx WHERE trx_state='LOCK WAIT'
'''
如何监控 MySQL 集群
MySQL 集群通常是一主多从,显然主节点有自己的连接数、TPS 指标,从节点也有自己的连接数、TPS 等指标,所以,我们要同时监控主从节点,即把主从节点的连接地址都配置到 Categraf 的 MySQL 插件中。比如:
[[instances]]
address = "10.1.2.3:3306"
username = "categraf"
password = "XXXXXXXX"
labels = { cluster="n9e" }
[[instances]]
address = "10.1.2.4:3306"
username = "categraf"
password = "XXXXXXXX"
labels = { cluster="n9e" }
如上例,由于这里的主从节点是有关系的,都是属于某个集群的,那我们就给他们都打上一个 cluster 标签,用来和其他集群区分开。
只想采集自定义 SQL,不想采集 MySQL 的基础指标
有时,你只想用某个特定的 Categraf 实例采集 MySQL 的自定义 SQL,不想采集 MySQL 的基础指标,那么可以这样配置:
[[instances]]
address = "127.0.0.1:3306"
username = "categraf"
password = "xxxxxxxx"
# 关闭各类扩展采集开关
extra_status_metrics = false
extra_innodb_metrics = false
gather_processlist_processes_by_state = false
gather_processlist_processes_by_user = false
gather_schema_size = false
gather_table_size = false
gather_system_table_size = false
gather_slave_status = false
# 注意下面这几个 disable 的配置,都设置为 true,即 disable 掉基础采集
disable_global_status = true
disable_global_variables = true
disable_innodb_status = true
disable_extra_innodb_status = true
disable_binlogs = true
[[instances.queries]]
# 各类自定义 SQL 写到这个位置
总结
本文详细描述了 MySQL 监控插件的配置,当然,上面的工作完成,也只是采集了监控指标,具体各个指标是什么含义,解释起来篇幅就长了,就不在这里展开了。希望上面的内容可以帮到您。