logo资料库

kafka中文文档topic配置参数.pdf

第1页 / 共10页
第2页 / 共10页
第3页 / 共10页
第4页 / 共10页
第5页 / 共10页
第6页 / 共10页
第7页 / 共10页
第8页 / 共10页
资料共10页,剩余部分请下载后查看
名称 名称 描述 类型 默认 值 可⽤用值 服务器器默 认属性 重要性 cleanup.policy compression.type "delete" 或 “compact”的字符 串。这个字符串 指派了⽤在⽼的 ⽇志⽚段的保存 策略。默认的策 略(“delete”)会 在它们的保留时 间或是⼤⼩超出 限制时丢弃⽼的 ⽚段。设置 为”compact”将在 主题上启⽤⽇志 压缩。 为⼀个给定的主 题指定最终的压 缩类型。这个配 置接受标准的压 缩编码器('gzip', 'snappy', lz4)。它 额外的接 受’uncompressed’ ,等于不压缩; 还有'producer' 表 ⽰使⽤⽣产者设 置的原始压缩编 码器。 列表 delete [compac t, delete] log.clean up.polic y 中 字符 produ cer [uncomp ressed, snappy, lz4, gzip, producer ] compres sion.type 中
名称 描述 类型 默认 值 可⽤用值 服务器器默 认属性 重要性 为⽇志压缩主题 保留删除墓碑标 记的时间。这个 设置也给出了⼀ 个消费者必须完 成⼀个读取的边 界,如果它们开 始从偏移0 到确保 它可以得到⼀个 可⽤的最尾端的 快照 (否则在它 们完成扫描之前 删除墓碑会被收 集) 从⽂件系统删除 ⼀个⽂件之前的 等待时间。 长整型 86400000[0,...] 长整型 60000 [0,...] log.clean er.delete. retention .ms 中 log.segm ent.delet e.delay. ms 中 delete.retention.ms file.delete.delay.ms
名称 描述 类型 默认 值 可⽤用值 服务器器默 认属性 重要性 flush.messages flush.ms 这个设置允许指 定⼀个时间间 隔,它将⽤于写 ⼊到⽇志的数据 强制进⾏⽂件同 步。例如:如果 这个值被设置为1 我们将在每条消 息之后进⾏⽂件 同步。如果是5我 将在每5条消息后 进⾏⽂件同步。 通常我们推荐你 不要设置这个值 并使⽤副本实现 持久性和允许使 ⽤操作系统的后 台刷新能⼒,因 为它更⾼效。此 设置可以按每个 主题覆盖(参见 每个主题配置部 分)。 这个设置允许指 定⼀个时间间 隔,它将⽤于写 ⼊到⽇志的数据 强制进⾏⽂件同 步。例如:如果 这个值被设置成 1000我们将在 1000毫秒之后进 ⾏⽂件同步。通 常我们推荐你不 要设置这个值并 使⽤副本实现持 久性和允许使⽤ 操作系统的后台 刷新能⼒,因为 它更⾼效。 长整型 92233 72036 85477 5807 [0,...] log.flush .interval. message s 中 长整型 92233 72036 85477 5807 [0,...] log.flush .interval. ms 中
名称 描述 类型 默认 值 可⽤用值 服务器器默 认属性 重要性 follower.replication.throttled.rep licas index.interval.bytes 列表 "" [partitio nId], [brokerI d]: [partitio nId], [brokerI d]:... follower. replicati on.throttl ed.replic as 中 列表 4096 [0,...] log.inde x.interva l.bytes 中 应该被限制在跟 随者端的⽇志副 本列表。这个列 表应该描述成副 本的⼀个集合, 格式为 [PartitionId]: [BrokerId], [PartitionId]: [BrokerId]:…或是 可选的通配 符“*”, 可以⽤来 限制这个主题的 所有副本。 这个设置控制了 Kafka添加⼀个索 引⼊⼜到它的偏 移索引的频率。 默认设置是确保 我们的索引信息 ⼤约每4096字 节。更多的索引 允许在⽇志中读 取时跳跃到离期 望的位置更近的 地⽅,但是这样 会让索引更⼤。 你很可能不需要 更改这个值。
名称 描述 类型 默认 值 可⽤用值 服务器器默 认属性 重要性 leader.replication.throttled.repli cas max.message.bytes 列表 "" [partitio nId], [brokerI d]: [partitio nId], [brokerI d]:... leader.re plication .throttled .replicas 中 整型 1000012[0,...] message. max.byte s 中 应该被限制在服 务器端的⽇志副 本列表。这个列 表应该描述成副 本的⼀个集合, 格式为 [PartitionId]: [BrokerId], [PartitionId]: [BrokerId]:…或是 可选的通配 符“*”, 可以⽤来 限制这个主题的 所有副本。 Kafka允许的最⼤ 的记录批次⼤ ⼩。如果这是增 长的并且有⽼于 0.10.2的消费者, 消费者获取⼤⼩ 也必须是增长的 以便它们可以这 个⼤⼩的记录批 次。在最新的消 息格式版本中, 记录常常分组为 批次来实现更⾼ 效。在先前的消 息格式版本中, 未压缩的记录没 有按 批次分组, 并且在这种情况 下这样的局限仅 适⽤于⼀个单⼀ 的记录 。
名称 描述 类型 默认 值 可⽤用值 服务器器默 认属性 重要性 指定了broker将⽤ 于追加消息到⽇ 志的消息格式的 版本。这个值应 该是⼀个有效的 API版本。例如: 0.8.2, 0.9.0.0, 0.10.0,更多详情请 查看API版本。通 过设置⼀个独特 的消息格式版 本,⽤户可以证 明所有在磁盘上 已存在的消息版 本都⼩或等于指 定版本。如果这 个值没有被正确 的设置将导致有 更⽼版本的消费 者崩溃,它们将 收到带有⼀个它 们不认识的格式 的消息。 ⼀个broker收到⼀ 个消息时的时间 戳与在消息中指 定的时间戳之间 允许的最⼤差 异。如果 message.timestam p.type=CreateTime ,消息会被拒 绝,如果时间戳 的差异超过了这 个阈值。如果 message.timestam p.type=LogAppen dTime这个配置会 被忽略。 字符 0.11.0 -IV2 log.mess age.form at.versio n 中 长整型 92233 72036 85477 5807 [0,...] log.mess age.time stamp.di fference. max.ms 中 message.format.version message.timestamp.difference. max.ms
名称 描述 类型 默认 值 可⽤用值 服务器器默 认属性 重要性 message.timestamp.type min.cleanable.dirty.ratio min.compaction.lag.ms 定义消息的时间 戳是消息的创建 时间或是⽇志的 追加时间。这个 值应该是 `CreateTime` 或 `LogAppendTime` 这个配置控制着 ⽇志压缩器将要 尝试清理⽇志的 频率(假设⽇志 压缩已启⽤)。 默认情况下,我 们将避免清理超 过50%的已被压 缩的⽇志。 这个 ⽐率限制了⽇志 中重复的最⼤空 间(最多50%个 ⽇志中的50%个 可能是重复 的)。更⾼的⽐ 率意味着更少、 更⾼效的清洁, 但也意味着在⽇ 志中有更多的空 间浪费。 ⼀条消息在⽇志 ⾥保持未压缩的 最⼩时间。只对 压缩的⽇志有 效。 字符 Create Time log.mess age.time stamp.ty pe 中 双精度 型 0.5 [0,...,1] log.clean er.min.cl eanable.r atio 中 长整型 0 [0,...] log.clean er.min.c ompacti on.lag.m s 中
名称 描述 类型 默认 值 可⽤用值 服务器器默 认属性 重要性 当⼀个⽣产者设 置acks 为 “all”或 是 “-1”。这个配 置指定了必须被 认为是成功的⼀ 个写⼊的副本的 最⼩数量。如果 这个最⼩数量不 能被满⾜,那么 ⽣产者将抛出⼀ 个异常 ( NotEnoughRepl icas 或 NotEnoughReplica sAfterAppend)。 当 min.insync.replica s 和 acks ⼀起使 ⽤时,允许你实 现更强的耐久性 保证 。⼀个典型 的情况是与3个复 制因⼦创建主 题,设置 min.insync.replica s 为2,并且⽣产者 的acks 为 “all”。 这将确保⽣产者 抛出⼀个意外, 如果⼀个主要的 副本没有接收到 ⼀个写⼊。 设为true时我们应 当在创建⼀个新 的⽇志⽚段时预 分配⽂件在磁盘 上。 整型 1 [1,...] min.insy nc.replic as 中 布尔 FALSE log.preal locate 中 min.insync.replicas preallocate
分享到:
收藏