ClickHouse + ClickVisual 构建日志平台
本文用 Kafka、ClickHouse、ClickVisual、Categraf、MySQL、Redis 和 Kowl 搭建日志平台实验环境,演示日志从采集、Kafka 传输、ClickHouse 入库、物化视图处理到 ClickVisual 查询的完整流程。
围绕可观测性、AI SRE、告警治理、On-call、Nightingale、Categraf、Prometheus、Kubernetes、Zabbix、用户案例和产品更新,沉淀一线工程实践、选型参考和稳定性治理方法。
本文用 Kafka、ClickHouse、ClickVisual、Categraf、MySQL、Redis 和 Kowl 搭建日志平台实验环境,演示日志从采集、Kafka 传输、ClickHouse 入库、物化视图处理到 ClickVisual 查询的完整流程。
夜莺 Nightingale v6.4.0 发布说明:新增全局宏变量功能,支持敏感信息变量化;HTTP access log 可打印 body,并优化仪表盘、权限和通知管理。
Flashduty 2023-10-30 更新说明:新增告警路由能力,支持按条件将告警投递到不同协作空间;上线 Slack 应用,支持在 Slack 中接收、查看和处理告警。
日志分析在稳定性保障中既要控制成本,也要服务故障定位。本文介绍以网关日志为核心,把日志、指标、Trace 和特征分析串联起来的可观测性建设方案,并说明 Flashcat 如何复用存量数据源完成统一分析。
系统介绍国产开源监控系统夜莺 Nightingale:部署方式、数据源接入、仪表盘、采集器、告警管理、架构模块和多机房场景。
夜莺 Nightingale v6.3.0 发布说明:正式增强 Loki 和 TDEngine 数据源支持,去除 ops.yaml,统一 edge heartbeat 接口,并优化仪表盘和 Elasticsearch 查询体验。
稳定性保障的关键,是把业务可用性目标、故障发现定位止损、冗余切换、降级熔断、限流、弹性伸缩、灰度发布和云服务治理串成可执行闭环。本文总结 8 个稳定性保障实践,适合 SRE、运维和研发团队用于故障响应与可靠性建设。
本文介绍 Cloudflare 使用 ClickHouse 做日志分析的实践:为什么 Elasticsearch 在高吞吐日志场景下面临 mapping 爆炸、多租户、维护和 GC 压力,以及 ClickHouse 如何通过列式存储、压缩、分片复制、表 schema、分区、主键和数据跳过索引支撑日志分析。
Vector 是一款开源的可观测性数据收集、转换和路由工具,常被用作 Logstash 替代方案。本文介绍 Vector 的 Source、Transform、Sink pipeline 模型、安装方式、配置示例,以及 Agent、Aggregator、Daemon、Sidecar 等部署模式。
VictoriaLogs 是 VictoriaMetrics 团队推出的日志存储系统。本文整理 VictoriaLogs 与 Elasticsearch、OpenSearch、Grafana Loki、ClickHouse 的对比,说明它在日志查询、资源占用、字段索引、LogSQL 和架构设计上的取舍。
Flashduty 2023-09-21 更新说明:新增自定义字段、开发者文档和 Open API 秘钥管理,帮助团队丰富故障信息、筛选事件并通过 API、Event API、Webhook 与内部系统集成。
Grafana Beyla 是面向 eBPF 可观测性的采集器,可在不侵入业务代码的前提下采集 HTTP 服务的 RED 指标。本文用 Go HTTP 服务演示 Beyla 的安装、运行参数、Prometheus 指标暴露和 Grafana Dashboard 使用方式。
本文介绍开源监控工具夜莺监控(Nightingale):它适合解决 Zabbix 与 Prometheus 在云原生、告警管理、多数据源、仪表盘和多机房场景中的常见痛点,并提供安装部署、数据源、采集器和社区支持说明。
Flashduty 2023-09-07 更新新增深色模式与主题配置,并优化分析看板、协作空间、故障列表、故障详情和值班详情在深色模式下的显示效果。
夜莺 v6.1.0 发布说明:增强日志、链路和仪表盘之间的数据串联能力,并支持 v6 小版本自动更新表结构,简化升级流程。
Uptime Kuma 1.23.0 版本开始支持 Flashduty。本文演示如何安装 Uptime Kuma、获取 Flashduty 集成地址、配置监控项和通知渠道,并在 Flashduty 中查看告警结果。
说明如何用 Categraf 的 PostgreSQL 插件采集数据库指标,并在夜莺中测试插件输出、导入 PostgreSQL 仪表盘、导入告警规则和扩展自定义 SQL 采集。
夜莺 v6.0.3 发布说明:优化告警订阅逻辑、大盘全屏展示、Grafana 大盘导入兼容性,并支持 SSO SkipTlsVerify 与 Postgres jsonb 兼容。
一篇面向初学者的 eBPF Hello World 入门教程,解释 eBPF 的基本概念、执行流程、BCC 安装方法和 hello_world.py 示例,帮助理解 Linux 内核可编程能力。
本文介绍夜莺专业版如何在中心端管理 Categraf 采集规则并下发,解决采集器配置分散、难登录机器修改困难、新人使用采集插件成本高等问题。