logo资料库

elk日志分析系统搭建与配置.docx

第1页 / 共9页
第2页 / 共9页
第3页 / 共9页
第4页 / 共9页
第5页 / 共9页
第6页 / 共9页
第7页 / 共9页
第8页 / 共9页
资料共9页,剩余部分请下载后查看
ElasticSearch+Kiabana+(logstash or filebeat) 简介 在工作中随着业务量的增大和项目的增多,日志量随之增大,我们需要对日志进行集中化管 理,将所有机器上的日志信息收集、汇总到一起。完整的日志数据具有非常重要的作用: 1)信息查找:通过检索日志信息,定位相应的 bug,找出解决方案。 2)服务诊断:通过对日志信息进行统计、分析,了解服务器的负荷和服务运行状态,找出耗 时请求进行优化等等。 3)数据分析:如果是格式化的 log,可以做进一步的数据分析,统计、聚合出有意义的信息, 比如根据请求中的商品 id,找出 TOP10 用户感兴趣商品。 开源实时日志分析 ELK 平台能够完美的解决我们上述的问题,ELK 由 ElasticSearch、 Logstash 和 Kiabana 三个开源工具组成: 1)ElasticSearch 是一个基于 Lucene 的开源分布式搜索服务器。它的特点有:分布式,零 配置,自动发现,索引自动分片,索引副本机制,restful 风格接口,多数据源,自动搜索 负载等。它提供了一个分布式多用户能力的全文搜索引擎,基于 RESTful web 接口。 Elasticsearch 是用 Java 开发的,并作为 Apache 许可条款下的开放源码发布,是第二流行 的企业搜索引擎。设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方 便。在 elasticsearch 中,所有节点的数据是均等的。 2)Logstash 是一个完全开源的工具,它可以对你的日志进行收集、过滤、分析,支持大量 的数据获取方法,并将其存储供以后使用(如搜索)。说到搜索,logstash 带有一个 web 界面,搜索和展示所有日志。一般工作方式为 c/s 架构,client 端安装在需要收集日志的 主机上,server 端负责将收到的各节点日志进行过滤、修改等操作在一并发往 elasticsearch 上去。 3)Kibana 是一个基于浏览器页面的 Elasticsearch 前端展示工具,也是一个开源和免费 的工具,Kibana 可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面, 可以帮助您汇总、分析和搜索重要数据日志. 4)beats 中的 filebeat 可以将多台机器的日志数据进行采集发送至 logstash 或 elasticsearch,然后通过 kiabana 进行页面可视化展示。 (注:安装以上服务需要先安装 JAVA,并配置好环境变量) 安装篇
系统环境:CentOS Linux release 7.4.1708 (Core) 软件下载:https://www.elastic.co/downloads (所需的软件都可以在该网站下载,所有软件版 本都要保持一致) 1. Elasticsearch 源码包的安装与配置: 解压 elasticsearch,我这里用的是 elasticsearch-6.5.4: # tar –zvxf elasticsearch-6.5.4.tar.gz 将解压后的 elasticsearch-6.5.4 放到所需要的目录(自定义我这里放到了/usr/local/): # mv elasticsearch-6.5.4 到目录下对 elasticsearch 文件进行配置: # cd /usr/loca l/ elasticsearch-6.5.4 # ll l/ elasticsearch-6.5.4 /usr/loca # vim config/elasticsearch.yml 对 elasticsearch.yml 文件内以下项进行修改: cluster.name: elk node.name: elk-node1 path.data: /data/es-data path.logs: /var/log/elasticsearch/ network.host: 0.0.0.0 http.port: 9200 # 组名(同一个组,组名必须一致) # 节点名称,建议和主机名一致 # 数据存放的路径(日志路径可以自定义) # 日志存放的路径 # 网络设置 # 端口
elasticsearch-head 是用于监控 Elasticsearch 状态的客户端插件,包括数据可视 化、执行增删改查操作等
以在该网站下载,所有软件版本都要保持一致) https://www.elastic.co/downloads 下载的源码包(所需的软件都可
kibana , https://www.elastic.co/downloads 下载的源码包(所需的软件都可 以在该网站下载,所有软件版本都要保持一致)
https://www.elastic.co/downloads 下载的源码包(所需的软件都可以在该网站下 载,所有软件版本都要保持一致)
分享到:
收藏