Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储
admin
2023-02-03 10:21:22
0

Filebeat内置了不少的模块,可以直接使用他们对日志进行收集,支持的模块如下:

[root@ELK-chaofeng07 logstash]# filebeat modules list
Enabled:
mysql

Disabled:
apache2
auditd
elasticsearch
haproxy
icinga
iis
kafka
kibana
logstash
mongodb
nginx
osquery
postgresql
redis
suricata
system
traefik

只要是上面出现的filebeat都是支持的,但是使用它之前需要设置一下才可以使用,比如:

filebeat modules enable mysql

那这次我们来看看如何使用mysql模块收集mysql的慢查询日志和错误日志

1、首先是使filebeat支持mysql模块

filebeat modules enable mysql

2、在配置文件/etc/filebeat/filebeat.yml启用输出到elasticsearch和kibana的功能。

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

设置完成后保存就可以了。此外,你的kibana和elasticsearch集群需要正常运行才能进行下一步。

3、开始准备预定义环境

filebeat setup -e

如果最后报错了,那么需要根据情况进行修复。

4、在配置文件/etc/filebeat/modules.d/mysql.yml进行设置。

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

5、上面的完成后基本就差不多了,此时我们可以启动filebeat服务了。

 如果说你启动的时候报如下错误,说明你的filebeat.yml配置文件中有多个output输出源,此时你需要把其他的output都注释掉才行,只留一个源输出到elasticsearch即可。

Exiting: Template loading requested but the Elasticsearch output is not configured/enabled

6、此后你会在elasticsearch集群中看到这个索引:

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

7、接下来就是到kibana界面,在这里,你不需要事先创建索引等等操作,直接点击dashboard界面选择mysql即可,比如:

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

最后你使用几个慢查询语句以及插入一些错误日志到执行的日志文件中看一下效果:

Filebeat使用内置的mysql模块收集日志存储到ES集群并使用kibana存储

就这样子就完成了。

 本篇实践是我参考官网的文档来做的,详情链接是:https://www.elastic.co/guide/en/beats/filebeat/current/filebeat-module-mysql.html#mysql-settings

总结:我觉得上面的这种方式并不能普及使用,因为这缺少logstash过滤的一步,这样子我们就不能很好的使用聚合等图形。此外没有broker,会造成大量输出到elasticsearch导致阻塞。我的方案是使用logstash过滤加上内置的自定义模块比较好。


相关内容

热门资讯

阿联酋航空发文致歉 7月23日,阿联酋航空发布致歉信:原计划于7月22日从迪拜飞往上海的阿联酋航空EK302航班,因恶劣...
给“南海仲裁案”递刀子的美国人... 执笔/李小飞刀7月12日晚,菲律宾内格罗斯东方省锡布兰镇的一处公寓内,突然响起一阵枪声,美国海洋生物...
特朗普称沙特加入《亚伯拉罕协议... △美国总统特朗普(资料图)当地时间7月23日,美国总统特朗普在社交媒体“真实社交”上发文表示,美国能...
硬核首发+增购订单!成都企业上... 7月22日,2026国际低空经济博览会在上海开幕,来自成都的沃飞长空集中发布三大重磅成果:全新AE2...
国际观察:中拉人工智能合作持续... 张冰倩 为进一步支持全球人工智能发展、推进全球人工智能能力建设,未来5年,中国将面向发展中国家提供5...
共商汽车产业全球合作新路径 G... 当前,汽车产业正加速向绿色化、智能化、国际化、融合化发展,汽车供应链受到大国竞争与地缘政治冲突扰动。...
内蒙古耕种收综合机械化率达91... 7月22日,记者从2026年中国农机推广田间日活动上获悉,内蒙古农作物耕种收综合机械化率达到91%,...
华为黄健:在算力、存力和运力三... 7月17日至20日,以“智能伙伴,共创未来”为主题的2026世界人工智能大会(WAIC)暨人工智能全...
苹果、谷歌都没留住月之暗面创始... 英国《金融时报》7月23日刊发评论《为什么美国正在失去中国人工智能明星?》,文章谈到,月之暗面(Mo...
陪伴大家十几年的充电宝,大概要... 要说这两年最尴尬的数码配件,托尼觉得充电宝绝对算一个。 以前它的对手还都是同行 —— 大家一起卷容量...