kafka如何手动异步提交offset

kafka_2.11-1.1.0

Kafka 手动异步提交 offset 的步骤大概分为以下几步，如下图所示：

1、配置手动提交

enable.auto.commit 修改为 false 。

2、订阅 topic

consumer.subscribe(Arrays.asList("topic name"));

3、获取 topic 各分区当前读取到的最后一条记录的offset

首先定义一个全局变量：

//用来记录当前消费的偏移
private static Map<TopicPartition, Long> offsets = new HashMap<>();

for (TopicPartition partition : records.partitions()) {
    List<ConsumerRecord<String, String>> patitionRecords = records.records(partition);
    // 获取当前读取到的最后一条记录的offset
    long lastOffset = patitionRecords.get(patitionRecords.size() - 1).offset();
    // 提交offset
    offsets.put(partition, lastOffset + 1);
}

至于为什么消费者提交 offsets 时要 +1，在《Kafka消费者 之 如何提交消息的偏移量》中的概述章节里面也给出了答案。

4、手动异步提交 offset

首先定义一个全局变量：

//用来记录当需要提交的偏移
private static Map<TopicPartition, OffsetAndMetadata> commitOffset = new HashMap<>();

// 
for (Map.Entry<TopicPartition, Long> entry : offsets.entrySet()) {
    commitOffset.put(entry.getKey(), new OffsetAndMetadata(offsets.get(entry.getKey())));
    logger.info("partition[{}], 当前待提交kafka偏移:[{}]", entry.getKey().partition(), offsets.get(entry.getKey()));
}
// 异步提交offset
consumer.commitAsync(commitOffset, (offsets, exception) -> {
    if (exception != null) {
        logger.error("fail to commit offsets {}, {}", offsets, exception);
        // 同步提交，来做offset提交最后的保证。
        consumer.commitSync();
    }
});

清空：

commitOffset.clear();
offsets.clear();