火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性?

2024年01月03日17:40:46 财经 8883

ClickHouse是业内被广泛使用的OLAP引擎。当集群规模过大时,ClickHouse则面临使用局限性的问题。如何提升ClickHouse的可用性,成为困扰广大开发者的难题之一。

目前,字节跳动内部的 ClickHouse 节点总数超过 18000 个,管理总数据量超过 700PB,最大的集群规模在 2400 余个节点。字节跳动内部很多业务都建立在 ClickHouse 为基础的查询引擎上,因此在可用性提升上具备广泛经验。

在内部丰富经验的基础之上,火山引擎也将字节跳动可用性方面经验通过云原生数据仓库ByteHouse对外输出。ByteHouse以开源ClickHouse为基础,经过字节跳动多年的优化和完善,提供了更丰富的功能和更强的性能,主要为用户带来极速的分析体验,解决了ClickHouse集群节点数增长过快,带来的多方面问题:Zookeeper性能出现瓶颈,故障发生频率增加;故障恢复时间过长;运维复杂度提升。

为了进一步提升ClickHouse的可用性,ByteHouse从降低Zookeeper压力和提升故障恢复能力两个方面进行升级。

首先,ByteHouse采用先进的集群管理策略,降低Zookeeper在集群管理中的角色和压力。Zookeeper在分布式系统中常常被用作协调和管理节点,但在大规模集群中可能会成为性能瓶颈。通过减少对Zookeeper的依赖,ByteHouse将部分协调和管理功能下放到各个节点上,使得集群中的每个节点能够自主地进行协调和管理,从而降低了Zookeeper的压力。

其次,ByteHouse提升了ClickHouse故障恢复能力。在分布式系统中,故障恢复是保障系统可用性的重要环节。通过完善的数据备份和恢复策略,ByteHouse可以在节点发生故障时,快速恢复数据和系统状态。此外,ByteHouse还通过节点状态实时检测和自动隔离策略,防止故障扩散到整个集群。

火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性? - 天天要闻

ByteHouse故障恢复改造思路

以上优化策略不仅提高了集群的性能和稳定性,也使得ByteHouse成为了企业级用户在大数据处理和分析领域的重要选择。未来,火山引擎ByteHouse将继续致力于提供更优质的大数据处理和分析服务,帮助企业更好实现数字化转型。

财经分类资讯推荐

消费“挖潜” 发展“提速” - 天天要闻

消费“挖潜” 发展“提速”

数据显示,今年一季度,我国快递业务量同比增长21.6%,快递业务收入同比增长10.9%。在广袤神州大地上,平均每秒有5700多件快递、每天有5亿件快递在穿梭流动。快递业务量增长,映照中国消费的红火气象。社会消费品零售总额同比增长4.6%、服
经贸合作为中拉经济持续发展增添新动力 - 天天要闻

经贸合作为中拉经济持续发展增添新动力

3月7日,2025拉美国家投资推介会在广州举办。新华社发新华社广州5月15日电 题:经贸合作为中拉经济持续发展增添新动力新华社记者陆浩、陈雨峥在不久前结束的第137届中国进出口商品交易会(广交会)上,共有来自219个国家和地区的近29万名境
定了!油价或将大反转!时隔44个月之后有望重返“6”字头 - 天天要闻

定了!油价或将大反转!时隔44个月之后有望重返“6”字头

5月19日(下周一)24时,国内汽柴油即将迎来调价的时间窗口。从目前的情况看,届时油价下调基本成定局,而车主用得最多的92号汽油也有望时隔44个月之后重返“6”字头。据金联创测算,截至5月15日第八个工作日,参考原油品种均价为61.55美元/桶,变化率为-4.42%,对应的国内汽柴油零售价应下调240元/吨。折算到每升的话,92...
吸引全球创新人才,这场创新创业大赛在浦东张江举办 - 天天要闻

吸引全球创新人才,这场创新创业大赛在浦东张江举办

为加速智算产业创新突破,激发创新创业活力,5月15日下午,2025年“海创浦东”归国留学人员创新创业大赛暨895创业营(第十六季)智算专场开营仪式在张江举行。本次活动由浦东新区人民政府主办,浦东新区区委统战部、上海张江高科技园区开发股份有限公司承办,活动汇聚了数百名海归创业者、企业代表、行业专家,共同聚焦智算...
打造创新创业“强磁场”,2025上海海峡两岸青创大赛启幕 - 天天要闻

打造创新创业“强磁场”,2025上海海峡两岸青创大赛启幕

5月15日,2025上海海峡两岸青创大赛发布会在上海金山区隆重举行。今年大赛迎来十周年,将以“创梦十载,共筑未来”为主题,分为“青聚·追梦”“携手·筑梦”“智创·圆梦”三个篇章,优化赛事模式,提升品牌影响力,助力两岸青年实现梦想。上海市台办副主任、一级巡视员王立新,金山区委常委张恂,上海市台协会长张简珍等...