在不同的机器上启动两份消费者代码,每个消费者监听不同的partition,然后生产者向kafka发送消息(随机发送到某个分区中),kafka能自动负载均衡,把消息发送到不同的消费者上。
可以把下面的代码分别在80,81端口启动,启动80的时候,注释掉consumer0,启动81的时候,注释掉consumer1,这样通过consumer上的listener注解,每个消费者就能消费到自己监听的分区中的消息。
访问localhost:80/test,发现两个消费者能监听到各自的信息(假设只有两个分区)
消费者:
设置两个消费者,另一个监听分区1.
package com.kafkaDemo.partition;
import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.kafka.annotation.TopicPartition;
import org.springframework.stereotype.Component;
import java.util.Optional;
@Component
public class KafkaConsumer0 {
//配置topic和分区,可以配置多个//topic为队列名称//partitions表示值的的分区,这里指定了0和2分区//partitionOffsets表示详细的指定分区,partition表示那个分区,initialOffset表示Offset的初始位置
//@KafkaListener(topicPartitions = {@TopicPartition(topic = "testTopic", partitions = {"0", "2"}, partitionOffsets = @PartitionOffset(partition = "1", initialOffset = "4"))})
//只监听topic
//@KafkaListener(topics = "testTopic2")
@KafkaListener(topicPartitions = {@TopicPartition(topic = "testTopic2", partitions = {"0"})})
public void consumer(ConsumerRecord consumerRecord) {
Optional<Object> kafkaMassage = Optional.ofNullable(consumerRecord.value());
if (kafkaMassage.isPresent()) {
Object o = kafkaMassage.get();
System.out.println("0分区接收到的消息是:" + o);
}
}
}
生产者:
package com.kafkaDemo.partition;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.kafka.core.KafkaTemplate;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
/**
* kafka生产者代码
*/
@RestController
public class ProductorController {
@Autowired
private KafkaTemplate<String, String> kafkaTemplate;
/**
* 指定在0分区发送内容
*/
@RequestMapping("/test/0")
public String show0() {
kafkaTemplate.send("testTopic2","0", "你好0分区");
return "发送成功";
}
/**
* 指定在1分区发送内容
*/
@RequestMapping("/test/1")
public String show1() {
kafkaTemplate.send("testTopic2","1", "你好1分区");
return "发送成功";
}
/**
* 随机发送,不指定key
* @return
*/
@RequestMapping("/test")
public String show(){
kafkaTemplate.send("testTopic2", "你好!随机发送");
return "发送成功";
}
}
创建话题:
package com.kafkaDemo.partition;
import org.apache.kafka.clients.admin.NewTopic;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
/**
* 使用代码创建的topic
* 三个参数意思:topic的名称;分区数量,新主题的复制因子;如果指定了副本分配,则为-1。
*/
@Configuration
public class KafkaTopic {
@Bean
public NewTopic batchTopic() {
return new NewTopic("testTopic3", 4, (short) 1);
}
}
pom
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
<version>2.3.2.RELEASE</version>
</dependency>
<dependency>
<groupId>org.springframework.kafka</groupId>
<artifactId>spring-kafka</artifactId>
<version>2.3.5.RELEASE</version>
</dependency>
</dependencies>
配置文件:
更多参数设置:
server.port=80
#kafka地址,可以有多个
spring.kafka.bootstrap-servers=127.0.0.1:9092
#------生产者配置文件---------
#指定kafka消息体和key的编码格式
spring.kafka.producer.key-serializer=org.apache.kafka.common.serialization.StringSerializer
spring.kafka.producer.value-serializer=org.apache.kafka.common.serialization.StringSerializer
#设置等待acks返回的机制,有三个值
# 0:不等待返回的acks(可能会丢数据,因为发送消息没有了失败重试机制,但是这是最低延迟)
# 1:消息发送给kafka分区中的leader后就返回(如果follower没有同步完成leader就宕机了,就会丢数据)
# -1(默认):等待所有follower同步完消息后再发送(绝对不会丢数据)
spring.kafka.producer.acks=-1
# 消息累计到batch-size的值后,才会发送消息,默认为16384
spring.kafka.producer.batch-size=16384
#如果kafka迟迟不发送消息(这里指的是消息没堆积到指定数量),那么过了这个时间(单位:毫米)开始发送
=1
spring.kafka.producer.requests.timeout.ms=1
#设置缓冲区大小,默认是33554432
#这个缓冲区是kafka中两个线程里的共享变量
#这个两个线程是main和sender,main负责把消息发送到共享变量,sender从共享变量拉数据
spring.kafka.producer.buffer-memory=33554432
#失败重试发送的次数
spring.kafka.producer.retries=2
#------消费者配置文件---------
#指定kafka消息体和key的编码格式
spring.kafka.consumer.key-serializer=org.apache.kafka.common.serialization.StringSerializer
spring.kafka.consumer.value-serializer=org.apache.kafka.common.serialization.StringSerializer
#指定消费者组的group_id
spring.kafka.consumer.group-id=kafka_test
#kafka意外宕机时,再次开启消息消费的策略,共有三种策略
#earliest:当各分区下有已提交的offset时,从提交的offset开始消费;无提交的offset时,从头开始消费
#latest:当各分区下有已提交的offset时,从提交的offset开始消费;无提交的offset时,消费新产生的该分区下的数据、
#none:当所有分区都存在已提交的offset时,从offset后开始消费;只要有一个分区不存在已提交的offset,则抛出异常
spring.kafka.consumer.auto-offset-reset=earliest
#自动提交offset
spring.kafka.consumer.enable-auto-commit=true
#提交offset时间间隔
spring.kafka.consumer.auto-commit-interval=100
#消费监听接口监听的主题不存在时,默认会报错因此要关掉这个
spring.kafka.listener.missing-topics-fatal=false