夜莺-Nightingale
夜莺V6
项目介绍 架构介绍
快速开始
黄埔营
安装部署
升级
采集器
使用手册
API
数据库表结构
FAQ
夜莺专业版
开源生态
Prometheus
版权声明
第1章:天降奇兵
第2章:探索PromQL
第3章:Prometheus告警处理
第4章:Exporter详解
第5章:数据与可视化
第6章:集群与高可用
第7章:Prometheus服务发现
第8章:监控Kubernetes
第9章:Prometheus Operator
参考资料

日志分析落地步骤

落地步骤

目标:完成日志源和日志接入配置,产生基本的观测维度,输出维度分析信息和基本特征分析信息,并能够查看到日志原文

步骤一:配置日志源

首先需要接入日志源,有几种方式:

  • 大部分情况下企业内部已采集了网关或服务的日志,则只要在Flashcat的数据集成系统中配置相应的消息队列(通常是kafka)topic数据源即可;
  • 也可以配置采集agent(如filebeat),将采集的日志同时发送一份到Flashcat的kafka,再在数据集成系统中进行简单配置来实现日志源的接入;
  • 如日志还没有采集,则可以安装fliebeat或开源categraf来采集日志,上报到Flashcat的kafka,其它步骤同上;
  • Flashcat也支持从已存储了日志的Elasticsearch中获取日志,但这个方案会受限于ES接口的限流设置,维护成本较高,也不太可控,不推荐采用这个方案;

输出:在数据集成系统中完成日志源的配置

步骤二:接入日志配置提取规则

配置好日志源后,就可以具体的接入日志。接入日志的过程中需要选择日志源,并选择创建新日志主题,或是加入已有日志主题。
日志接入的核心是配置日志提取规则,确定日志提取的方式和效果。

重要提示:
  • 建议具有相同格式和表意的日志源关联到同一日志主题中。日志主题的分类如网关日志、cache日志、存储日志、xx业务日志等。
  • 网关日志,特别是统一网关的日志,最有利于做日志分析的观测,建议优先接入服务的网关日志。
重要提示:
  • 日志接入过程中可以给特殊的字段做含义指定,如代表请求状态码的字段、代表响应延迟的字段、代表traceid的字段、代表请求来源ip的字段等等。系统里会引导完成这些字段的指定,一部分指定是完成维度分析所必须的,一部分指定是故障分析的联动能力及特征分析能力的增强,如实现对tracing系统的联动等。这部分将在进阶实践部分介绍。

输出:完成日志的接入,在主题管理中可以看到相应日志源接入的效果

步骤三:配置常态观测维度

日志接入后需要在相应的日志主题中配置观测维度才能查看信息。观测维度可在系统中进行快速简单的配置完成。

重要提示:
  • 建议至少配置接口维度、集群维度,并将企业内部日常故障处理中常观测的维度都配置出来,如请求来源维度、地域维度等。

输出:完成业务故障特征分析常用维度的配置

开源版
Flashcat
Flashduty