📌  相关文章
📜  Apache Kafka-消费者组示例

📅  最后修改于: 2020-12-03 02:58:34             🧑  作者: Mango

消费者组是来自Kafka主题的多线程或多计算机消费。

消费群体

  • 消费者可以使用相同的group.id加入一个组。

  • 组的最大并行度是组中的使用者数量←没有分区。

  • Kafka将主题的分区分配给组中的使用者，以便每个分区仅由组中的一个使用者使用。

  • Kafka保证消息只能由该组中的单个消费者读取。

  • 消费者可以按照存储在日志中的顺序查看消息。

消费者的重新平衡

添加更多的进程/线程将导致Kafka重新平衡。如果任何消费者或代理无法将心跳发送到ZooKeeper，则可以通过Kafka群集对其进行重新配置。在这种重新平衡期间，Kafka将为可用线程分配可用分区，可能会将一个分区移至另一个进程。

import java.util.Properties;
import java.util.Arrays;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.ConsumerRecord;

public class ConsumerGroup {
   public static void main(String[] args) throws Exception {
      if(args.length < 2){
         System.out.println("Usage: consumer  ");
         return;
      }
      
      String topic = args[0].toString();
      String group = args[1].toString();
      Properties props = new Properties();
      props.put("bootstrap.servers", "localhost:9092");
      props.put("group.id", group);
      props.put("enable.auto.commit", "true");
      props.put("auto.commit.interval.ms", "1000");
      props.put("session.timeout.ms", "30000");
      props.put("key.deserializer",          
         "org.apache.kafka.common.serialization.ByteArraySerializer");
      props.put("value.deserializer", 
         "org.apache.kafka.common.serializa-tion.StringDeserializer");
      KafkaConsumer consumer = new KafkaConsumer(props);
      
      consumer.subscribe(Arrays.asList(topic));
      System.out.println("Subscribed to topic " + topic);
      int i = 0;
         
      while (true) {
         ConsumerRecords records = consumer.poll(100);
            for (ConsumerRecord record : records)
               System.out.printf("offset = %d, key = %s, value = %s\n", 
               record.offset(), record.key(), record.value());
      }     
   }  
}

汇编

javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java

执行

>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup  my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup  my-group

在这里，我们创建了一个具有两个使用者的样本组名称作为my-group 。同样，您可以创建组和该组中的消费者数量。

输入项

打开生产者CLI并发送一些消息，例如-

Test consumer group 01
Test consumer group 02

第一过程的输出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 01

第二过程的输出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 02

现在希望您可以通过使用Java客户端演示了解SimpleConsumer和ConsumeGroup。现在您有了一个关于如何使用Java客户端发送和接收消息的想法。在下一章中，让我们继续将Kafka与大数据技术集成。