火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性?

2024年01月03日17:40:46 财经 8883

ClickHouse是业内被广泛使用的OLAP引擎。当集群规模过大时,ClickHouse则面临使用局限性的问题。如何提升ClickHouse的可用性,成为困扰广大开发者的难题之一。

目前,字节跳动内部的 ClickHouse 节点总数超过 18000 个,管理总数据量超过 700PB,最大的集群规模在 2400 余个节点。字节跳动内部很多业务都建立在 ClickHouse 为基础的查询引擎上,因此在可用性提升上具备广泛经验。

在内部丰富经验的基础之上,火山引擎也将字节跳动可用性方面经验通过云原生数据仓库ByteHouse对外输出。ByteHouse以开源ClickHouse为基础,经过字节跳动多年的优化和完善,提供了更丰富的功能和更强的性能,主要为用户带来极速的分析体验,解决了ClickHouse集群节点数增长过快,带来的多方面问题:Zookeeper性能出现瓶颈,故障发生频率增加;故障恢复时间过长;运维复杂度提升。

为了进一步提升ClickHouse的可用性,ByteHouse从降低Zookeeper压力和提升故障恢复能力两个方面进行升级。

首先,ByteHouse采用先进的集群管理策略,降低Zookeeper在集群管理中的角色和压力。Zookeeper在分布式系统中常常被用作协调和管理节点,但在大规模集群中可能会成为性能瓶颈。通过减少对Zookeeper的依赖,ByteHouse将部分协调和管理功能下放到各个节点上,使得集群中的每个节点能够自主地进行协调和管理,从而降低了Zookeeper的压力。

其次,ByteHouse提升了ClickHouse故障恢复能力。在分布式系统中,故障恢复是保障系统可用性的重要环节。通过完善的数据备份和恢复策略,ByteHouse可以在节点发生故障时,快速恢复数据和系统状态。此外,ByteHouse还通过节点状态实时检测和自动隔离策略,防止故障扩散到整个集群。

火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性? - 天天要闻

ByteHouse故障恢复改造思路

以上优化策略不仅提高了集群的性能和稳定性,也使得ByteHouse成为了企业级用户在大数据处理和分析领域的重要选择。未来,火山引擎ByteHouse将继续致力于提供更优质的大数据处理和分析服务,帮助企业更好实现数字化转型。

财经分类资讯推荐

1999元售价“很不小米” 小米AI眼镜毛利超四成? - 天天要闻

1999元售价“很不小米” 小米AI眼镜毛利超四成?

“AI眼镜是面向下一个时代的个人智能设备,也是随身AI的入口。”尽管介绍产品时,将AI眼镜捧到了划时代的高度,但在6月26日小米发布会上,雷军仅用7分钟时间,蜻蜓点水般介绍了AI眼镜的基础功能,与发布手机、汽车等产品时细致入微的参数分析、技术拆解、性能展示形成
刘小明在省委金融办调研 - 天天要闻

刘小明在省委金融办调研

刘小明在省委金融办调研时指出加快打造具有比较优势和国际竞争力的特色金融体系助力海南自贸港建设7月3日,省长刘小明在省委金融办调研,走访部分业务处室,看望慰问干部职工,并主持召开座谈会。刘小明指出,要深入学习贯彻习近平总书记关于金融工作的重要论述精神,进一步改革创新、敢闯敢试、攻坚克难,发挥桥梁纽带作用...
技术优势到盈利胜势 科大讯飞还有什么考题 - 天天要闻

技术优势到盈利胜势 科大讯飞还有什么考题

生生不息,不期而遇!点击上方蓝字关注深度 客观 穿透深蹲之后是起跳作者:李莉编辑:俊逸风品:闻道来源:首财——首条财经研究院2025 年高考硝烟已散去,全国一卷作文题的舆论热度却高涨起来。众多网友将其比喻为一场“文学密码破译战”,难度之高引发各界讨论。不想,这成了讯飞星火大放异彩的契机。据新媒体“电厂”近...
常州夫妻向世界传递“好声音”,攒下173亿元财富 - 天天要闻

常州夫妻向世界传递“好声音”,攒下173亿元财富

雷达财经出品 文|孟帅 编|深海在全球声学产业的商业版图中,一对来自常州的夫妻档正书写着属于自己的财富传奇。在最新出炉的《2025新财富500创富榜》中,瑞声科技掌舵人潘政民、吴春媛夫妇身家同比激增65%,以172.9亿元的财富连续十多年登
竞标前的商战?永太科技“硬刚”天赐材料捍卫商誉,起诉索赔5752万元 - 天天要闻

竞标前的商战?永太科技“硬刚”天赐材料捍卫商誉,起诉索赔5752万元

本文来源:时代财经 作者:何明俊图片来源:图虫创意永太科技(002326.SZ)的“回应”来了!7月3日晚,永太科技披露公告称,公司及控股子公司邵武永太高新材料有限公司(下称“永太高新”)就天赐材料(002709.SZ)侵害公司及控股子公司名誉权的行为分别向临海市人民法院和邵武市人民法院提起民事诉讼。两家法院已于2025年...
物流“硬支撑”助霍尔果斯经济开发区兵团分区跑出外贸“加速度” - 天天要闻

物流“硬支撑”助霍尔果斯经济开发区兵团分区跑出外贸“加速度”

中新网乌鲁木齐7月3日电 (李文婧)“司机们在物流园区装卸货,出园后不到一天就能到达哈萨克斯坦阿拉木图,运输效率很高。”霍尔果斯丝路荣腾物流有限公司安全负责人朱天洋近日受访时说。 位于国家级霍尔果斯经济开发区兵团分区的丝路荣腾跨境综合物流园拥有标准库房1.75万平方米、理货平台3285平方米、设备堆场76万平方米。...
全国首家硬科技支行,3年“贷”出多个行业第一丨五篇大文章调研行 - 天天要闻

全国首家硬科技支行,3年“贷”出多个行业第一丨五篇大文章调研行

本报(chinatimes.net.cn)记者卢梦雪 见习记者 张萌 西安报道万里丝路,能源动脉蜿蜒。守护沿线油气管道安全,过去主要靠人工巡检,效率低、风险大。如今,只需部署几座智能无人值守机库,无人机便能自主起降、昼夜巡护,单次飞行纵横数十公里,效率提升26倍,异常识别准确率超95%。即便面对山区、沙漠等复杂地形,也能从...
申能吴忠热电供热扩容改造一期项目作为负面案例被通报 - 天天要闻

申能吴忠热电供热扩容改造一期项目作为负面案例被通报

按照年度“双随机·一公开”执法检查计划,以及吴忠市重点行业领域安全生产“两查两防提升”集中攻坚行动部署,市住房和城乡建设局于近期在全市范围内开展了全市房屋市政工程安全生产治本攻坚行动暨2025年度第一次综合执法检查,并将检查情况进行了通报。本报注意到,申能吴忠热电供热扩容改造一期项目作为负面案例被通报。...