温馨提示：整个 Kafka 专栏基于 kafka-2.2.1 版本。1、KafkaConsumer 概述根据 KafkaConsumer 类上的注释上来看 KafkaConsumer 具有如下特征：在 Kafka 中 KafkaConsumer 是线程不安全的。2.2.1 版本的KafkaConsumer 兼容 kafka 0.10.0 和 0.11.0 等低版本。消息偏移量与消费偏移量(消息消费
1.fetch.min.bytes Consumer 在一次拉取请求中能从 Kafka中拉取的最小数据量，默认值1（B）。 kafka在收到 Consumer 的拉取请求时，如果返回给 Consumer的数据量小于这个设置，那么就会等待，直达数据量达到配置的大小。可以适当调整这个参数的值以提高吞吐量，不过也会造成额外的延迟。2.fetch.max.bytes 与 fetch.min.bytes对应
转载
2023-12-15 08:11:04
114阅读
在上一个kafka消费实现中，对数据的处理是消费一条就处理一条。如果数据处理是做http发送或者可以批量执行的时候。这样一条一条处理就很浪费了。所以这里要做修改。将阻塞队列的成员改成list，这样处理线程就可以批量处理了。结果如图：消费管理者，管理所有的消费线程，数据处理线程，提供消费监听器的启动和停止：public class OptimizeConsumerManager {
//消
转载
2023-12-13 22:01:42
119阅读
Kafka - 06消费者消费消息解析一、Kafka消费者读取数据流程1.1 传统流程消费者发送请求给Kafka服务器Kafka服务器在os cache缓存读取数据（缓存没有再去磁盘读取数据）从磁盘读取数据到os cache缓存中os cache复制数据到Kafka应用程序中Kafka将数据（复制）发送到socket cache中socket cache通过网卡传输给消费者1.2 Kafka零拷贝
转载
2023-12-20 00:39:13
103阅读
一个消费者组有一个或者多个消费者如果一个消费者组订阅了主题，那么这个主题中的某个分区只能分配给消费者组中的某个消费者，不能分配给多个消费者。当1个消费者，6个分区时，将读取6个分区中的数据。当3个消费者，6个分区时，每个消费者读取其中的2个分区的数据当6个消费者，6个分区时，每个消费者读取其中的一个分区的数据。当7个消费者，6个分区时，有一个消费者将不读取数据，这样会造成资源浪费。在订阅主题时，自
转载
2023-07-31 14:04:19
624阅读
一、kafka消费方式kafka采取pull（拉）模式 二、消费者总体工作流程老版本0.9之前，offset保存在zookeeper上。新版本1.0后，每个消费者的offset又消费者提交到系统主题保存。 三、消费者组原理3.1 原理简介 3.2 消费者组初始化过程 四、消费者API4.
对于kafka 中 的分区而言，它的每条消息都有唯一的offset,用来表示在分区中对应的位置。对于消费者而言，它也有一个offset的概念，消费者使用offset来表示消费到分区中某个消息所在的位置。这里所介绍的是消费者的位移，即第二种情况。 在每次调用poll方法的时候，返回的是还没有消费过的消息集，要做到这一点，就需要记录上一次消费时候的消费位移，并且这个位移必须是做持久化的保存，而不是单
转载
2023-12-02 17:12:13
167阅读
# Spring Boot Kafka 消费者
Kafka 是一个分布式流处理平台，广泛用于实时数据流处理。Spring Boot 与 Kafka 的结合使得开发者可以轻松地构建高性能、可扩展的流处理应用程序。本文将介绍如何在 Spring Boot 应用程序中实现 Kafka 消费者。
## Kafka 消费者简介
Kafka 消费者是一个从 Kafka 主题中读取数据的组件。消费者可以订
探索Spring Kafka：一个高效、灵活的消息处理框架 spring-kafkaProvides Familiar Spring Abstractions for Apache Kafka项目地址:https://gitcode.com/gh_mirrors/spr/spring-kafka 项目简介是Spring Framework的一个扩展，它为开发者提供了一种在Java应用中集成Apac
1，消费者代码package com.iflytek.spark.test;
import java.text.MessageFormat;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.Properties;
import com.iflytek.spark.
转载
2023-10-01 11:18:36
173阅读
目录1 准备2 实现2.1 jar包引入2.2 kafka的生产者和消费者示例1 准备此处准备只做说明，具体准备可查阅相关资料实现（1）准备zookeeper服务，可以是集群，也可以是单机：；（2）准备kafka服务，可以是集群，也可以是单机：（3）准备jdk1.8、maven3.5：jdk1.8安装maven3.5安装 2 实现2.1 jar包引入<!-- kafka连接 --&
转载
2023-08-25 11:08:21
124阅读
生产者客户端APIProperties props = new Properties();
props.put("bootstrap.servers", "192.168.6.187:9092，192.168.6.188：9092，192.168.6.229：9092");
props.put("acks", "all");
props.put("retries", 0);
props.p
转载
2024-03-17 09:52:40
31阅读
概念入门消费者、消费组消费者： 消费者从订阅的主题topic消费消息，消费消息的偏移量保存在Kafka的名字是__consumer_offsets 的主题中。消费者还可以将⾃⼰的偏移量存储到Zookeeper，需要设置offset.storage=zookeeper。推荐使⽤Kafka存储消费者的偏移量。因为Zookeeper不适合⾼并发。消费组： 多个从同一个主题topic消费消息的消费者，可以
转载
2023-11-09 13:23:58
121阅读
消费者poll消息得过程（poll的意思是从broker拿消息，并不代表拿到就消费成功了）消费者建立了与broker之间的⻓连接，开始poll消息。默认一次poll 500条消息props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, 500 );可以根据消费速度的快慢来设置，因为如果两次poll的时间如果超出了30s的时间间隔，kafka会认为其消费能力
转载
2023-11-28 21:55:41
140阅读
#kafka为什么有高吞吐量1 由于接收数据时可以设置request.required.acks参数，一般设定为1或者0，即生产者发送消息0代表不关心kafka是否接收成功，也就是关闭ack；1代表kafka端leader角色的patation（多个patation，并且每个会有多个副本）接收到数据则返回成功不管副本patation的状态。2 由于消费者的消费情况不归kafka消息管理引擎维护，而
转载
2024-02-17 12:31:47
14阅读
一.消费端丢失消息我们知道消息在被追加到Partition的时候会被分配一个offset。offset表示当前消费的Partition的所在位置，Kafka通过offset可以保证消息在分区内的顺序性。当消费者拉取到分区的某个消息之后，消费者会自动提交offset。但是会出现一个问题：当消费者刚拿到这个消息准备的时候，突然挂掉了，消息实际上没有被消费，但是offset已经被自动提交了。解决方法：关
转载
2024-03-22 09:11:42
92阅读
1）Producer ：消息生产者，就是向 kafka broker 发消息的客户端； 2）Consumer ：消息消费者，向 kafka broker 取消息的客户端； 3）Consumer Group （CG）：消费者组，由多个 consumer 组成。消费者组内每个消费者负责消费不同分区的数据，一个分区只能由一个组内消费者消费；消费者组之间互不影响。所有的消费者都属于某个消费者组，即消费者
转载
2024-03-05 17:44:54
117阅读
Kafka有一些重要概念，有一些刚开始学的同学会混淆，还有一部分使用Kafka很久的同学也有可能会忘了。那今天分享一波Kafka的重点概念，让大家对 Kafka有个整体的认识和感知或者重温一下，后面还会详细的解析每一个概念的作用以及更深入的原理。Producer：消息生产者，向 Kafka Broker 发消息的客户端。Consumer：消息消费者，从 Kafka Broker 取消息的客户端。C
kafka篇二11、讲一讲 kafka 的 ack 的三种机制12、消费者如何不自动提交偏移量，由应用提交？13、消费者故障，出现活锁问题如何解决？14、如何控制消费的位置15、kafka 分布式（不是单机）的情况下，如何保证消息的顺序消费?16、kafka 的高可用机制是什么？17、kafka 如何减少数据丢失18、kafka 如何不消费重复数据？比如扣款，我们不能重复的扣。 11、讲一讲 k
转载
2024-03-31 09:16:27
95阅读
一、消费者和消费者群组在 Kafka 中，消费者通常是消费者群组的一部分，多个消费者群组共同读取同一个主题时，彼此之间互不影响。Kafka 之所以要引入消费者群组这个概念是因为 Kafka 消费者经常会做一些高延迟的操作，比如把数据写到数据库或 HDFS ，或者进行耗时的计算，在这些情况下，单个消费者无法跟上数据生成的速度。此时可以增加更多的消费者，让它们分担负载，分别处理部分分区的消息，这就是
转载
2024-02-21 12:12:13
38阅读
