Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储
admin
2023-02-03 10:21:22
0

Filebeat内置了不少的模块,可以直接使用他们对日志进行收集,支持的模块如下:

[root@ELK-chaofeng07 logstash]# filebeat modules list
Enabled:
mysql

Disabled:
apache2
auditd
elasticsearch
haproxy
icinga
iis
kafka
kibana
logstash
mongodb
nginx
osquery
postgresql
redis
suricata
system
traefik

只要是上面出现的filebeat都是支持的,但是使用它之前需要设置一下才可以使用,比如:

filebeat modules enable mysql

那这次我们来看看如何使用mysql模块收集mysql的慢查询日志和错误日志

1、首先是使filebeat支持mysql模块

filebeat modules enable mysql

2、在配置文件/etc/filebeat/filebeat.yml启用输出到elasticsearch和kibana的功能。

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

设置完成后保存就可以了。此外,你的kibana和elasticsearch集群需要正常运行才能进行下一步。

3、开始准备预定义环境

filebeat setup -e

如果最后报错了,那么需要根据情况进行修复。

4、在配置文件/etc/filebeat/modules.d/mysql.yml进行设置。

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

5、上面的完成后基本就差不多了,此时我们可以启动filebeat服务了。

 如果说你启动的时候报如下错误,说明你的filebeat.yml配置文件中有多个output输出源,此时你需要把其他的output都注释掉才行,只留一个源输出到elasticsearch即可。

Exiting: Template loading requested but the Elasticsearch output is not configured/enabled

6、此后你会在elasticsearch集群中看到这个索引:

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

7、接下来就是到kibana界面,在这里,你不需要事先创建索引等等操作,直接点击dashboard界面选择mysql即可,比如:

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

最后你使用几个慢查询语句以及插入一些错误日志到执行的日志文件中看一下效果:

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

就这样子就完成了。

 本篇实践是我参考官网的文档来做的,详情链接是:https://www.elastic.co/guide/en/beats/filebeat/current/filebeat-module-mysql.html#mysql-settings

总结:我觉得上面的这种方式并不能普及使用,因为这缺少logstash过滤的一步,这样子我们就不能很好的使用聚合等图形。此外没有broker,会造成大量输出到elasticsearch导致阻塞。我的方案是使用logstash过滤加上内置的自定义模块比较好。


相关内容

热门资讯

德国总理:美国正在被伊朗羞辱 德国之声4月27日报道,德国总理默茨在访问一所学校时表示,在当前的持续冲突中,伊朗领导层正试图羞辱美...
理响中国|“长”歌以行,风云激... 光阴如梭,东方潮阔。这里是中国的长三角,世界的长三角。无论过去、现在还是未来,这片土地都因时代而生,...
白宫:特朗普及其国安团队开会讨... 新华社华盛顿4月27日电 美国白宫新闻秘书莱维特27日在记者会上证实,总统特朗普及其国家安全团队当天...
人民日报刊文:日本放开杀伤性武... 日本放开杀伤性武器出口推高地缘冲突风险(国际论坛)常思纯《人民日报》(2026年04月28日 第 0...
医疗保障法草案二审:明确生育保... 满足多样化健康保障需求本报记者 彭 波4月27日,医疗保障法草案二审稿提请十四届全国人大常委会第二十...
天津一景区发生自转旋翼机事故1... 澎湃新闻记者 吕新文中国民用航空华北地区管理局4月22日公布《豪客通航“10•1”天津长芦汉盐旅游区...
卡塔尔埃米尔与美国总统特朗普通... 当地时间24日,卡塔尔埃米尔塔米姆与美国总统特朗普通电话,重点就中东地区局势以及伊朗与美国谈判问题交...
男子30年前被扣押2859克黄... 澎湃新闻记者 王鑫家住辽宁省大连市的潘永嘉近日向澎湃新闻反映称,三十年前,他在大连周水子机场被盖州市...
商务部:取消反制欧盟两家金融机... 中华人民共和国商务部令二〇二六年 第1号鉴于欧盟已取消对中国两家金融机构的制裁措施,现公布《关于取消...
过去24小时共有5艘船只通过霍... 总台记者当地时间24日获悉,过去24小时内,共有5艘船只通过霍尔木兹海峡,其中包括一艘伊朗油轮。(总...