博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
logstash输出到elasticsearch多索引
阅读量:6495 次
发布时间:2019-06-24

本文共 2153 字,大约阅读时间需要 7 分钟。

目标:将json格式的两类日志输出到elasticsearch两类索引

1. 安装logstash。

2. 编写logstash处理配置文件,创建一个test.conf文件,内容如下:

input {     file {        path => "/home/vagrant/logstash/logstash-2.2.2/dbpool-logs/dev/common-sql-*.log"        start_position => "beginning"        type => "sql"        codec => json {            charset => "UTF-8"        }             }     file {        path => "/home/vagrant/logstash/logstash-2.2.2/dbpool-logs/dev/common-transaction-*.log"        start_position => "beginning"        type => "transaction"        codec => json {            charset => "UTF-8"        }             }}output {     if "_grokparsefailure" in [tags] {    }else{        if [type] == "sql"{                elasticsearch {                          hosts => ["http://192.168.33.10:9200"]                         index => "common-sql-%{+YYYY.MM.dd}"                }       }       if [type] == "transaction"{                elasticsearch {                          hosts => ["http://192.168.33.10:9200"]                         index => "common-transaction-%{+YYYY.MM.dd}"                }       }    }   }

或者

input {     file {        path => "/home/vagrant/logstash/logstash-2.2.2/dbpool-logs/dev/common-sql-*.log"        start_position => "beginning"        type => "sql"        codec => json {            charset => "UTF-8"        }             }     file {        path => "/home/vagrant/logstash/logstash-2.2.2/dbpool-logs/dev/common-transaction-*.log"        start_position => "beginning"        type => "transaction"        codec => json {            charset => "UTF-8"        }             }}output {     if "_grokparsefailure" in [tags] {    }else{        if [type] == "sql"{                elasticsearch {                          hosts => ["http://192.168.33.10:9200"]                         index => "common-%{type}-%{+YYYY.MM.dd}"                }       }    }   }
  • 指定输入日志的路径,按通配符匹配。分为两类:sql和transaction。

  • 根据type分别输出到elasticsearch不同的索引。

3. 安装elasticsearch。

4. 启动elasticsearch,./bin/elasticsearch -d ,默认端口为9200。

5. 启动logstash开始处理,./bin/logstash -f conf/test.conf。

6. 完成。

========广告时间========

鄙人的新书《Tomcat内核设计剖析》已经在京东销售了,有需要的朋友可以到 进行预定。感谢各位朋友。

=========================

转载地址:http://gcyyo.baihongyu.com/

你可能感兴趣的文章
关于C语言结构体对齐的学习
查看>>
loadrunner另类玩法【测试帮日记公开课】
查看>>
C#删除文件夹
查看>>
【ZooKeeper Notes 3】ZooKeeper Java API 使用样例
查看>>
oracle11g数据库升级
查看>>
AWS - Couldformation 初探
查看>>
《理解 OpenStack + Ceph》---来自-[爱.知识]-推荐
查看>>
手把手教你搭建一个学习Python好看的 Jupyter 环境
查看>>
ES6基础之Array.fill函数
查看>>
ES6深拷贝与浅拷贝
查看>>
如何免费(轻成本)在网上做推广宣传
查看>>
Exchange 2013与OWA13集成
查看>>
硬铺路、软筑墙:三星移动在中国的新路径
查看>>
SCCM 2012 SP1系列(七)分发部署exe软件
查看>>
InfBox V7.0 企业绩效助手客户端使用简介
查看>>
Linux系统/boot目录破损无法启动怎么办
查看>>
[转] JavaScript仿淘宝智能浮动
查看>>
c++ hook 钩子的使用介绍
查看>>
伪终端
查看>>
N皇后问题的位运算求解——目前最快的方法
查看>>