# ELK:Elasticsearch + Logstash + Kibana 搭建教程

Shipper:日志收集者。负责监控本地日志文件的变化,及时把日志文件的最新内容收集起来,输出到Redis暂存。
Indexer:日志存储者。负责从Redis接收日志,写入到本地文件。
Broker:日志Hub,用来连接多个Shipper和多个Indexer。
无论是Shipper还是Indexer,Logstash始终只做前面提到的3件事:

Shipper从日志文件读取最新的行文本,经过处理(这里我们会改写部分元数据),输出到Redis,
Indexer从Redis读取文本,经过处理(这里我们会format文本),输出到文件。
一个Logstash进程可以有多个输入源,所以一个Logstash进程可以同时读取一台服务器上的多个日志文件。Redis是Logstash官方推荐的Broker角色“人选”,支持订阅发布和队列两种数据传输模式,推荐使用。输入输出支持过滤,改写。Logstash支持多种输出源,可以配置多个输出实现数据的多份复制,也可以输出到Email,File,Tcp,或者作为其它程序的输入,又或者安装插件实现和其他系统的对接,比如搜索引擎Elasticsearch。

 

 

http://kibana.logstash.es/content/logstash/plugins/input/file.html

 

 

 

centeros 下搭建:

 

参考:

sh elasticsearch start 作为服务启动时:

WARNING: Elasticsearch may have failed to start.
Exception in thread "main" java.lang.RuntimeException: don't run elasticsearch as root.
        at org.elasticsearch.bootstrap.Bootstrap.initializeNatives(Bootstrap.java:93)
        at org.elasticsearch.bootstrap.Bootstrap.setup(Bootstrap.java:144)
        at org.elasticsearch.bootstrap.Bootstrap.init(Bootstrap.java:285)
        at org.elasticsearch.bootstrap.Elasticsearch.main(Elasticsearch.java:35)
        Refer to the log for complete error details.

发现elasticsearch不能用root账户启动
参见:http://www.open-open.com/lib/view/open1451451639167.html

新建账户:useradd ***  parsswd *** 切换到非root账户登录启动,仍然报异常:



安装:elasticsearch-head报错

 b.2  ./bin/plugin -install mobz/elasticsearch-head

      提示错误,错误信息是:ERROR: unknown command [-install]. Use [-h] option to list available commands,这是因为Elasticsearch在2.0以上的版本将-install变成了install。

    b.3 故而执行命令 ./bin/plugin install mobz/elasticsearch-head即可。

查看yum默认安装路径:



rpm -ql 软件名称



elasticsearch 外网访问9200端口访问:
 修改elasticsearch-2.3.3\config\elasticsearch.yml文件    ,重启elasticsearch服务即可

kibana连接带有认证的es集群_大数据

 

echo 'marvel.agent.enabled: false' >> ./config/elasticsearch.yml 
指定是否进行监控,执行上面语句直接把配置加入elasticsearch.yml
./plugin install license
./plugin install marvel-agent
logstash安装配置:

编辑文件config/kibana.yml ,配置属性:

  • server.host (站点地址)
  • elasticsearch.url (指向Elasticsearch 实例)
集群配置:
无论怎么配置都是报异常:

failed to validate incoming join request from node

是因为注节点中安装了marvel 

解决方案:http://stackoverflow.com/questions/37451247/elasticsearch-cluster-cant-join-new-node








参考资料:

http://www.centoscn.com/image-text/install/2015/1105/6386.html

 

 

 

 

(1)elaticsearch 没有作为服务运行

(2)配置logstash