Kafak探究之路- 内部结构小结

1.框架与工作流

2 内部结构

kafka的每个主题分区的数据在 first-0(主题名-分区号)文件夹下,保存 n组xxx.log文件与xxx.index文件。log文件存发送消息的元数据,每个大小默认为1G,index为log的索引存这些消息的序号与起始地址。index每个索引大小一样,这样硬件寻址的时候,可以跳跃(n-1)*length个地址,找到第n条数据的信息,查起来很快!

 3 分区的接口方法与含义

 4  ACK与ISR

  ACK: 生产者给kakfa集群发送消息后,kafka会给生产者返回ack表明,已经成功接收到消息。如何解决以下问题

  

    引入ISR

       ISR 就是从10台foller机器中选5台进入ISR,这5台如果某在单位时间内不能与leader同步,则被踢出,或者某台与leader相差消息数量大于n,也会被踢出。

      0.9版本以后,将相差数量去除,因为如果相差数量是1000,而发送消息每个batch为1200,那每次一发消息,ISR中的节点将全部被踢出,稍后同步后,又进入,而且还得访问zk,这样无线循环浪费资源

    ack参数配置

    

ack = 0,只发数据,啥都不管

ack = 1,发数据,leader接收完成,再返回ack,继续发数据

ack = -1 所有的ISR全部同步数据后,再返回ack,继续发数据

ack = 0 的时候,在发数据后,只要leader挂掉,就会丢数据,ack = 1时候 leader挂掉,follwer未同步就会丢数据。ack = -1的时候,若ISR里面只有leader,则与1情况一样

ack等于 -1 的时候,若ISR的follwer已经同步,但是在返回ack过程中,leader挂掉,则会重复发送数据,造成数据重复

来源:https://www.icode9.com/content-4-775401.html

(0)

相关推荐

  • Kafka系列1:Kafka概况

    Kafka是当前分布式系统中最流行的消息中间件之一,凭借着其高吞吐量的设计,在日志收集系统和消息系统的应用场景中深得开发者喜爱.本篇就聊聊Kafka相关的一些知识点.主要包括以下内容: Kafka简介 ...

  • Kafka到底会不会丢消息

    目录1.kafka是什么一种高吞吐量的分布式.发布订阅消息系统,它可以处理消费者规模的,网站中的所有动作流数据,具有高性能.持久化.多副本备份.横向扩展能力--以时间复杂度为 O(1) 的方式提供消息 ...

  • Kafka 会不会丢消息?

    一.认识 Kafka Kafka 是分布式发布-订阅消息系统.它最初由 LinkedIn 公司开发,之后成为 Apache 项目的一部分. Kafka 是一个分布式的,可划分的,冗余备份的持久性的日志 ...

  • Kafka中消息丢失和重复消费,以及Leader选举机制

    一.Kafka中的消息是否会丢失和重复消费 要确定Kafka的消息是否丢失或重复,从两个方面分析入手:消息发送和消息消费 1.消息发送 kafka消息发送有同步(sync).异步(async)两种,以 ...

  • 大数据开发之如何处理Kafka集群消息积压问题

    通常情况下,企业中会采取轮询或者随机的方式,通过Kafka的producer向Kafka集群生产数据,来尽可能保证Kafk分区之间的数据是均匀分布的. 在分区数据均匀分布的前提下,如果我们针对要处理的 ...

  • Java分布式面试题集合

    (给ImportNew加星标,提高Java技能) 转自:乐知者, 链接:cnblogs.com/expiator/p/10201004.html 分布式分为分布式缓存(Redis).分布式锁(Redi ...

  • 曾经我以为我很懂Kafka,直到我看了这篇文章

    为什么需要消息队列 周末无聊刷着手机,某宝网APP突然蹦出来一条消息"为了回馈老客户,女朋友买一送一,活动仅限今天!".买一送一还有这种好事,那我可不能错过!忍不住立马点了去.于是 ...

  • 我的物理仿真软件Algodoo探究之路

    编者按 在2021年8月17日晚上举行的"全国"信息技术物理实验与仿真秋季线上沙龙活动中,300多位来自全国各地的教育届同仁共同分享了一场仿真技术与物理实验深度融合的饕餮盛宴,主讲 ...

  • 甲骨文发布全球敏捷财务报告,探究数字化财务转型之路

    随着大数据.物联网.人工智能等现代技术不断革新,新型商业模式层出不穷,无论是传统企业,还是生来拥有数字化基因的创新型企业,都在尝试通过数字技术取得商业上的成功与突破.为探究其中的奥秘,国际注册专业会计 ...

  • 苏州河沿岸黄浦段(河南路以东)历史探究(上)

    苏州河沿岸黄浦段东起黄浦江苏州河口,西至成都路桥. 今天,我们要讲的是这段沿岸中最早筑路的一段,也就是河南路以东段(以下称本沿岸).要讲清本沿岸的历史,我们先从这段河道的历史说起. 首先,我们要说苏州 ...

  • 苏州河沿岸黄浦段(河南路以东)历史探究(下)

    下面用一组老照片来展示解放前本沿岸的风貌(由东向西). 图为在外滩公园向西偏北望 图为外白渡桥鹤马加礼纪念碑 图为在外白渡桥南堍沿苏州路向西眺望(1920年代) 图为划船俱乐部 图为划船俱乐部 图为外 ...

  • 共走的路   共读的书 ——赤峰读书会“每月读书”分享小结

    似水流年 03-29 在"推动全民阅读,建设书香赤峰"的路上,赤峰读书会已经走过了三年的历程.从2020年5月开始,推出了轮值主席工作制,每月领读一本书.目前我们已经领读了< ...

  • 北京万寿寺东路四合院探究

       北京万寿寺的介绍就免了,搜索都有,内容介绍也都大同小异,我这里需要探究的是万寿寺的东跨院北侧的四合院.     一般的介绍对于东跨院都是一带而过,只说是"方丈院",没有其他介 ...

  • 探究意大利特色小镇马泰拉(Matera)的蜕变之路:从“贫民窟”到“文化重镇”,乡村旅游起关键作用!

    在意大利南部偏远地区,有这样一个小镇:它因地势崎岖,大部分民居位于峡谷之上:它因道路不畅,贸易闭塞,导致经济落后:它没有电力,没有医疗设备,也没有现代设施:它因经济落后,曾被称为意大利的"国 ...

  • 上海市五原路历史风貌及保护策略探究.doc

    上海市五原路历史风貌及保护策略探究摘要:五原路位于上海原法租界西区,历史上的功能形态以居住为主,并有幼儿园等公建配套设施,东段局部设有贸易市场.而今是融合居住.商业休闲等综合功能的街区.配合徐汇区城市 ...

  • 不走寻常路!恒瑞BTK抑制剂开发策略探究

    6月30日,恒瑞发布公告称,其子公司瑞石生物研制的SHR1459片用于原发性膜性肾病的临床试验申请获得国家药监局的批准.恒瑞在BTK抑制剂的临床研究上,并没有大力推进血液瘤开发,而是选择了与其他企业截 ...