elasticsearch集群搜集nginx日志

20200616一篇es的好文：

https://www.cnblogs.com/cjsblog/p/9495024.html

es下载：

https://thans.cn/mirror/elasticsearch.html

3台es集群

▷ elasticsearch 7.3.2

▷ filebeat 7.3.2

▷ kibana 7.3.2

es1的配置：

# 集群名字

cluster.name: my-application

# 节点名字

node.name: 192.168.1.31

# 日志位置

path.logs: /opt/logs/elasticsearch

# 本节点访问IP

network.host: 192.168.1.31

# 本节点访问

http.port: 9200

# 节点运输端口

transport.port: 9300

# 集群中其他主机的列表

discovery.seed_hosts: ["192.168.1.31", "192.168.1.32", "192.168.1.33"]

# 首次启动全新的Elasticsearch集群时，在第一次选举中便对其票数进行计数的master节点的集合

cluster.initial_master_nodes: ["192.168.1.31", "192.168.1.32", "192.168.1.33"]

# 启用跨域资源共享

http.cors.enabled: true

http.cors.allow-origin: "*"

# 只要有2台数据或主节点已加入集群，就可以恢复

gateway.recover_after_nodes: 2

es2的配置：

# 集群名字

cluster.name: my-application

# 节点名字

node.name: 192.168.1.32

# 日志位置

path.logs: /opt/logs/elasticsearch

# 本节点访问IP

network.host: 192.168.1.32

# 本节点访问

http.port: 9200

# 节点运输端口

transport.port: 9300

# 集群中其他主机的列表

discovery.seed_hosts: ["192.168.1.31", "192.168.1.32", "192.168.1.33"]

# 首次启动全新的Elasticsearch集群时，在第一次选举中便对其票数进行计数的master节点的集合

cluster.initial_master_nodes: ["192.168.1.31", "192.168.1.32", "192.168.1.33"]

# 启用跨域资源共享

http.cors.enabled: true

http.cors.allow-origin: "*"

# 只要有2台数据或主节点已加入集群，就可以恢复

gateway.recover_after_nodes: 2

es3的配置：

# 集群名字

cluster.name: my-application

# 节点名字

node.name: 192.168.1.33

# 日志位置

path.logs: /opt/logs/elasticsearch

# 本节点访问IP

network.host: 192.168.1.33

# 本节点访问

http.port: 9200

# 节点运输端口

transport.port: 9300

# 集群中其他主机的列表

discovery.seed_hosts: ["192.168.1.31", "192.168.1.32", "192.168.1.33"]

# 首次启动全新的Elasticsearch集群时，在第一次选举中便对其票数进行计数的master节点的集合

cluster.initial_master_nodes: ["192.168.1.31", "192.168.1.32", "192.168.1.33"]

# 启用跨域资源共享

http.cors.enabled: true

http.cors.allow-origin: "*"

# 只要有2台数据或主节点已加入集群，就可以恢复

gateway.recover_after_nodes: 2

如果用的filebeat，搜集的nginx日志：

# 文件输入
filebeat.inputs:
  # 文件输入类型
  - type: log
    # 开启加载
    enabled: true
    # 文件位置
    paths:
      - /var/log/nginx/access.log
    # 自定义参数
    fields:
      type: nginx_access  # 类型是nginx_access,和上面fields.type是一致的
 
# 输出至elasticsearch
output.elasticsearch:
  # elasticsearch集群
  hosts: ["http://192.168.1.31:9200",
          "http://192.168.1.32:9200",
          "http://192.168.1.33:9200"]
 
  # 索引配置
  indices:
    # 索引名
    - index: "nginx_access_%{+yyy.MM}"
      # 当类型是nginx_access时使用此索引
      when.equals:
        fields.type: "nginx_access"
 
# 关闭自带模板
setup.template.enabled: false
 
# 开启日志记录
logging.to_files: true
# 日志等级
logging.level: info
# 日志文件
logging.files:
  # 日志位置
  path: /opt/logs/filebeat/
  # 日志名字
  name: filebeat
  # 日志轮转期限，必须要2~1024
  keepfiles: 7
  # 日志轮转权限
  permissions: 0600

kibana的配置：

# 本节点访问端口
server.port: 5601
 
# 本节点IP
server.host: "192.168.1.21"
 
# 本节点名字
server.name: "192.168.1.21"
 
# elasticsearch集群IP
elasticsearch.hosts: ["http://192.168.1.31:9200",
                      "http://192.168.1.32:9200",
                      "http://192.168.1.33:9200"]

启动服务：

1. # elasticsearch启动（3台es均启动）

2. sudo -u elasticsearch /opt/elasticsearch/bin/elasticsearch

3. # filebeat启动

4. /opt/filebeat/filebeat -e -c /opt/filebeat/filebeat.yml -d "publish"

5. # kibana启动

6. sudo -u kibana /opt/kibana/bin/kibana -c /opt/kibana/config/kibana.yml