Kafka 常见错误及其解决方案
如果你曾经使用过Apache Kafka，就会知道它是一个强大的工具，但也可能有点棘手。问题可能会出现，而当问题发生时，知道如何排查和解决这些问题并迅速处理是很重要的。多年来，我遇到过不少Kafka错误——有些让我绞尽脑汁好几天，而另一些在我知道该查找什么之后就变得相对简单了。让我们来看看一些最常见的Kafka错误，更重要的是，如何修复它们。
1. Broker 不可用
在Kafka中，你会遇到的最常见错误之一就是令人头疼的“Broker不可用”。当生产者或消费者试图连接到未运行或无法访问的 broker 时，通常会出现此错误。我还记得第一次看到这个错误时，我慌了神，以为整个集群都宕机了。
解决方法：首先，检查 Broker 是否确实在运行。你可以通过登录到应运行 Broker 的服务器，并使用ps -ef | grep kafka之类的命令来查看进程是否活跃。如果 Broker 已关闭，请重启它。如果 Broker 正在运行，问题可能与网络有关，因此请检查防火墙设置或任何可能影响连接的网络更改。
2. Leader 不可用
当某个分区的领导者不可用时，就会出现此错误，这通常意味着作为领导者的 broker 已宕机，而 Kafka 尚未重新分配新的领导者。我曾在一个 broker 意外崩溃后遇到过这个问题，导致一些分区没有领导者。
如何解决：第一步是确保已宕机的 Broker 已重启并重新加入集群。Kafka 应会自动将领导者重新分配给另一个 Broker ，但如果未发生这种情况，您可以使用带有 --alter-partitions 选项的 kafka-topics.sh 命令强制进行领导者选举，以手动重新分配分区。
3. Offset 超出范围
这种错误在消费者中尤为常见。当消费者尝试从一个不存在的偏移量读取数据时，就会出现这种情况，这通常是因为该偏移量已根据保留策略被删除。我曾遇到过这样的情况：一个消费者长时间宕机后，它本应处理的消息已经从Kafka中被清除，这时就会出现这种错误。
如何解决： 要解决此问题，您可以将消费者的偏移量重置为最早或最新的偏移量。这可以通过 kafka-consumer-groups.sh 命令来完成。以下是一个示例：
kafka-consumer-groups.sh –bootstrap-server localhost:9092 –group my-group –reset-offsets –to-earliest –execute –topic my-topic
此命令会将偏移量重置为主题中最早的可用消息。如果不想丢失数据，您可能需要调整保留策略，以防止将来发生这种情况。
4. 请求超时
向 Kafka Broker 发送的请求所用时间超过配置的超时时间时，就会发生请求超时错误。这可能是由于网络问题、 Broker 过载，甚至是消息体积过大导致处理时间过长所致。我曾在 Broker 负载过重且网络无法跟上时遇到过这种错误。
解决方法：首先，检查网络延迟和 Broker 负载。你可能需要增加生产者或消费者端的请求超时设置。例如，增加 request.timeout.ms 或 session.timeout.ms 设置可以给 Kafka 更多时间来完成请求。
如果问题是由消息过大导致的，可以考虑增大 Broker 上的 message.max.bytes 设置以允许更大的消息，或者通过将较小的消息批量处理来优化消息大小。
5. Unknown Topic or Partition
此错误通常发生在生产者或消费者尝试访问不存在的主题或分区时。如果您输错了主题名称，或者该主题尚未创建，就很容易遇到这个问题。
解决方法：仔细检查生产者或消费者配置中的主题和分区名称。如果主题不存在，可以使用kafka-topics.sh命令创建它：
kafka-topics.sh –create –topic my-new-topic –bootstrap-server localhost:9092 –partitions 3 –replication-factor 2
如果该主题本应通过自动主题创建功能（默认启用）创建，请检查您的 Broker 配置，确保此设置未被禁用。
6. Not Leader For Partition
此错误表明您尝试通信的 Broker 已不再是该分区的领导者。这可能在Kafka正常运行期间发生领导者重选时出现。
如何解决： 此错误通常是暂时性的，Kafka 在重新分配领导者后应能自动解决该问题。但如果问题持续存在，则可能表明 Kafka 在管理领导者选举方面存在更深层次的问题。检查 Broker 日志中与领导者选举相关的任何错误或警告，并考虑调整 leader.imbalance.check.interval.seconds 设置，以确保 Kafka 更频繁地平衡领导者。
7. 发送失败
这种常见错误可能由多种问题引起，例如网络问题、 Broker 故障，甚至是客户端的配置错误。我遇到过这种错误，当时是因为生产者配置错误，导致消息传递失败。
解决方法：首先检查网络连接，确保Kafka代理已启动并运行。然后，检查生产者配置是否存在任何错误配置。密切关注 bootstrap.servers、acks 和 retries 等设置。如果其他方法都无效，将日志级别提高到DEBUG可以帮助你查明失败的确切原因。
8. Replication Factor 过高
当尝试创建复制因子高于集群中可用代理数量的主题时，你会遇到此错误。我在扩展集群但尚未添加足够多的代理时就碰到过这种情况。
如何解决： 要解决此问题，要么降低复制因子，要么向集群中添加更多代理。如果由于数据冗余要求而无法降低复制因子，则需要确保集群有足够的代理来支持所需的复制因子。
9. 认证失败
认证错误通常发生在Kafka的安全设置配置错误时。这种情况可能在使用SASL或SSL进行客户端认证，且客户端的凭据与代理预期不符时出现。
如何解决：首先，仔细检查客户端的凭据——无论是用户名/密码对还是SSL证书。确保代理的配置与客户端的设置一致。如果使用SASL，请验证代理和客户端是否配置了相同的SASL机制（例如PLAIN、SCRAM-SHA-256）。对于SSL，确保证书已正确签名，并且信任库配置了适当的CA证书。
结语
Kafka 是一个强大的平台，但与任何复杂系统一样，它也容易出错。确保 Kafka 部署平稳运行的关键在于，当问题出现时知道如何排查和解决。通过了解 Broker 不可用、偏移量超出范围和请求超时等常见的 Kafka 错误，并掌握解决方法，你可以维护一个稳定且可靠的 Kafka 环境。
请记住，处理Kafka错误的最佳方法是主动出击。定期监控、正确配置以及了解Kafka的内部工作原理，对于在问题升级前预防它们大有帮助。
原文链接：https://www.meshiq.com/common-kafka-errors-and-how-to-resolve-them/
