夜莺-Nightingale
夜莺V7
项目介绍 功能概览
部署升级 部署升级
数据接入 数据接入
告警管理 告警管理
数据查看 数据查看
功能介绍 功能介绍
API FAQ
夜莺V6
项目介绍 架构介绍
快速开始 快速开始
黄埔营
安装部署 安装部署
升级
采集器 采集器
使用手册 使用手册
API API
数据库表结构 数据库表结构
FAQ FAQ
开源生态
Prometheus
版权声明
第1章:天降奇兵 第1章:天降奇兵
第2章:探索PromQL 第2章:探索PromQL
第3章:Prometheus告警处理 第3章:Prometheus告警处理
第4章:Exporter详解 第4章:Exporter详解
第5章:数据与可视化 第5章:数据与可视化
第6章:集群与高可用 第6章:集群与高可用
第7章:Prometheus服务发现 第7章:Prometheus服务发现
第8章:监控Kubernetes 第8章:监控Kubernetes
第9章:Prometheus Operator 第9章:Prometheus Operator
参考资料

日志分析落地步骤

落地步骤

目标:完成日志源和日志接入配置,产生基本的观测维度,输出维度分析信息和基本特征分析信息,并能够查看到日志原文

步骤一:配置日志源

首先需要接入日志源,有几种方式:

  • 大部分情况下企业内部已采集了网关或服务的日志,则只要在Flashcat的数据集成系统中配置相应的消息队列(通常是kafka)topic数据源即可;
  • 也可以配置采集agent(如filebeat),将采集的日志同时发送一份到Flashcat的kafka,再在数据集成系统中进行简单配置来实现日志源的接入;
  • 如日志还没有采集,则可以安装fliebeat或开源categraf来采集日志,上报到Flashcat的kafka,其它步骤同上;
  • Flashcat也支持从已存储了日志的Elasticsearch中获取日志,但这个方案会受限于ES接口的限流设置,维护成本较高,也不太可控,不推荐采用这个方案;

输出:在数据集成系统中完成日志源的配置

步骤二:接入日志配置提取规则

配置好日志源后,就可以具体的接入日志。接入日志的过程中需要选择日志源,并选择创建新日志主题,或是加入已有日志主题。
日志接入的核心是配置日志提取规则,确定日志提取的方式和效果。

重要提示:
  • 建议具有相同格式和表意的日志源关联到同一日志主题中。日志主题的分类如网关日志、cache日志、存储日志、xx业务日志等。
  • 网关日志,特别是统一网关的日志,最有利于做日志分析的观测,建议优先接入服务的网关日志。
重要提示:
  • 日志接入过程中可以给特殊的字段做含义指定,如代表请求状态码的字段、代表响应延迟的字段、代表traceid的字段、代表请求来源ip的字段等等。系统里会引导完成这些字段的指定,一部分指定是完成维度分析所必须的,一部分指定是故障分析的联动能力及特征分析能力的增强,如实现对tracing系统的联动等。这部分将在进阶实践部分介绍。

输出:完成日志的接入,在主题管理中可以看到相应日志源接入的效果

步骤三:配置常态观测维度

日志接入后需要在相应的日志主题中配置观测维度才能查看信息。观测维度可在系统中进行快速简单的配置完成。

重要提示:
  • 建议至少配置接口维度、集群维度,并将企业内部日常故障处理中常观测的维度都配置出来,如请求来源维度、地域维度等。

输出:完成业务故障特征分析常用维度的配置

快猫星云 联系方式 快猫星云 联系方式
快猫星云 联系方式
快猫星云 联系方式
快猫星云 联系方式
快猫星云
OpenSource
开源版
Flashcat
Flashcat