ElasticSearch+Kiabana+(logstash or filebeat)
简介
在工作中随着业务量的增大和项目的增多,日志量随之增大,我们需要对日志进行集中化管
理,将所有机器上的日志信息收集、汇总到一起。完整的日志数据具有非常重要的作用:
1)信息查找:通过检索日志信息,定位相应的 bug,找出解决方案。
2)服务诊断:通过对日志信息进行统计、分析,了解服务器的负荷和服务运行状态,找出耗
时请求进行优化等等。
3)数据分析:如果是格式化的 log,可以做进一步的数据分析,统计、聚合出有意义的信息,
比如根据请求中的商品 id,找出 TOP10 用户感兴趣商品。
开源实时日志分析 ELK 平台能够完美的解决我们上述的问题,ELK 由 ElasticSearch、
Logstash 和 Kiabana 三个开源工具组成:
1)ElasticSearch 是一个基于 Lucene 的开源分布式搜索服务器。它的特点有:分布式,零
配置,自动发现,索引自动分片,索引副本机制,restful 风格接口,多数据源,自动搜索
负载等。它提供了一个分布式多用户能力的全文搜索引擎,基于 RESTful web 接口。
Elasticsearch 是用 Java 开发的,并作为 Apache 许可条款下的开放源码发布,是第二流行
的企业搜索引擎。设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方
便。在 elasticsearch 中,所有节点的数据是均等的。
2)Logstash 是一个完全开源的工具,它可以对你的日志进行收集、过滤、分析,支持大量
的数据获取方法,并将其存储供以后使用(如搜索)。说到搜索,logstash 带有一个 web
界面,搜索和展示所有日志。一般工作方式为 c/s 架构,client 端安装在需要收集日志的
主机上,server 端负责将收到的各节点日志进行过滤、修改等操作在一并发往
elasticsearch 上去。
3)Kibana 是一个基于浏览器页面的 Elasticsearch 前端展示工具,也是一个开源和免费
的工具,Kibana 可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,
可以帮助您汇总、分析和搜索重要数据日志.
4)beats 中的 filebeat 可以将多台机器的日志数据进行采集发送至 logstash 或
elasticsearch,然后通过 kiabana 进行页面可视化展示。
(注:安装以上服务需要先安装 JAVA,并配置好环境变量)
安装篇
系统环境:CentOS Linux release 7.4.1708 (Core)
软件下载:https://www.elastic.co/downloads (所需的软件都可以在该网站下载,所有软件版
本都要保持一致)
1. Elasticsearch 源码包的安装与配置:
解压 elasticsearch,我这里用的是 elasticsearch-6.5.4:
# tar –zvxf elasticsearch-6.5.4.tar.gz
将解压后的 elasticsearch-6.5.4 放到所需要的目录(自定义我这里放到了/usr/local/):
# mv elasticsearch-6.5.4
到目录下对 elasticsearch 文件进行配置:
# cd /usr/loca l/ elasticsearch-6.5.4
# ll
l/ elasticsearch-6.5.4
/usr/loca
# vim config/elasticsearch.yml
对 elasticsearch.yml 文件内以下项进行修改:
cluster.name: elk
node.name: elk-node1
path.data: /data/es-data
path.logs: /var/log/elasticsearch/
network.host: 0.0.0.0
http.port: 9200
# 组名(同一个组,组名必须一致)
# 节点名称,建议和主机名一致
# 数据存放的路径(日志路径可以自定义)
# 日志存放的路径
# 网络设置
# 端口
elasticsearch-head 是用于监控 Elasticsearch 状态的客户端插件,包括数据可视
化、执行增删改查操作等
以在该网站下载,所有软件版本都要保持一致)
https://www.elastic.co/downloads 下载的源码包(所需的软件都可
kibana
,
https://www.elastic.co/downloads 下载的源码包(所需的软件都可
以在该网站下载,所有软件版本都要保持一致)
https://www.elastic.co/downloads 下载的源码包(所需的软件都可以在该网站下
载,所有软件版本都要保持一致)