使用zap等结构化日志库输出JSON格式日志，包含trace_id和服务名；2. 通过Filebeat采集本地日志文件并发送至Kafka；3. 利用Kafka缓冲后由Logstash处理并存入Elasticsearch；4. 通过Kibana实现日志检索与可视化，结合OpenTelemetry将trace_id关联全链路日志，实现高效聚合与追踪。
在微服务架构中，Golang服务通常分布在多个节点上，每个服务独立输出日志。要实现有效的日志收集与聚合，关键在于统一日志格式、集中存储和高效检索。以下是基于Go生态的实用方案。
1. 统一日志格式与结构化输出
Go服务应使用结构化日志库（如 logrus 或 zap）输出JSON格式日志，便于后续解析。
- 使用 zap 提供高性能结构化日志记录：logger, _ := zap.NewProduction()
defer logger.Sync()
logger.Info("处理请求完成",
zap.String("method", "GET"),
zap.String("path", "/api/v1/user"),
zap.Int("status", 200),
)
- 在日志中加入 trace_id、service_name 等字段，支持跨服务链路追踪。
2. 日志收集：通过Filebeat或Fluent Bit采集
将各服务的日志写入本地文件，再由轻量采集器发送到中心系统。
- 配置 Go 程序将日志写入指定文件路径，例如：/var/log/my-service/app.log
- 部署 Filebeat 到每台服务器，监控日志文件并转发到 Kafka 或 Elasticsearch
Filebeat 配置示例：
立即学习“go语言免费学习笔记（深入）”；
filebeat.inputs:
- type: log
paths:
- /var/log/my-service/*.log
output.kafka:
hosts: ["kafka:9092"]
topic: logs
3. 日志聚合与存储：Kafka + Elasticsearch + Kibana
构建典型的 ELK/EFK 流水线，实现高吞吐日志处理。
- Kafka 作为缓冲层，接收来自多个服务的日志流，削峰填谷 - Logstash 或 Fluentd 消费 Kafka 中的日志，做进一步清洗和转换 - 将处理后的日志写入 Elasticsearch，支持全文检索和聚合分析 - 使用 Kibana 创建仪表盘，按服务、时间、错误码等维度查看日志4. 分布式追踪集成（可选但推荐）
结合 OpenTelemetry 或 Jaeger，将日志与调用链关联。
- 在 Go 服务中启用 OpenTelemetry SDK，生成 trace_id 和 span_id - 将 trace_id 写入每条日志，Kibana 可通过 trace_id 聚合整个请求链路的所有日志 - 用户报错时，只需一个 trace_id 即可定位全链路行为基本上就这些。核心是让 Go 服务输出结构化日志，再借助成熟中间件完成收集、传输与展示。这套方案稳定、可扩展，适合生产环境。
