火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性?

2024年01月03日17:40:46 财经 8883

ClickHouse是业内被广泛使用的OLAP引擎。当集群规模过大时,ClickHouse则面临使用局限性的问题。如何提升ClickHouse的可用性,成为困扰广大开发者的难题之一。

目前,字节跳动内部的 ClickHouse 节点总数超过 18000 个,管理总数据量超过 700PB,最大的集群规模在 2400 余个节点。字节跳动内部很多业务都建立在 ClickHouse 为基础的查询引擎上,因此在可用性提升上具备广泛经验。

在内部丰富经验的基础之上,火山引擎也将字节跳动可用性方面经验通过云原生数据仓库ByteHouse对外输出。ByteHouse以开源ClickHouse为基础,经过字节跳动多年的优化和完善,提供了更丰富的功能和更强的性能,主要为用户带来极速的分析体验,解决了ClickHouse集群节点数增长过快,带来的多方面问题:Zookeeper性能出现瓶颈,故障发生频率增加;故障恢复时间过长;运维复杂度提升。

为了进一步提升ClickHouse的可用性,ByteHouse从降低Zookeeper压力和提升故障恢复能力两个方面进行升级。

首先,ByteHouse采用先进的集群管理策略,降低Zookeeper在集群管理中的角色和压力。Zookeeper在分布式系统中常常被用作协调和管理节点,但在大规模集群中可能会成为性能瓶颈。通过减少对Zookeeper的依赖,ByteHouse将部分协调和管理功能下放到各个节点上,使得集群中的每个节点能够自主地进行协调和管理,从而降低了Zookeeper的压力。

其次,ByteHouse提升了ClickHouse故障恢复能力。在分布式系统中,故障恢复是保障系统可用性的重要环节。通过完善的数据备份和恢复策略,ByteHouse可以在节点发生故障时,快速恢复数据和系统状态。此外,ByteHouse还通过节点状态实时检测和自动隔离策略,防止故障扩散到整个集群。

火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性? - 天天要闻

ByteHouse故障恢复改造思路

以上优化策略不仅提高了集群的性能和稳定性,也使得ByteHouse成为了企业级用户在大数据处理和分析领域的重要选择。未来,火山引擎ByteHouse将继续致力于提供更优质的大数据处理和分析服务,帮助企业更好实现数字化转型。

财经分类资讯推荐

摩根大通首席执行官:关税影响仍可能导致经济衰退 - 天天要闻

摩根大通首席执行官:关税影响仍可能导致经济衰退

当地时间5月15日,摩根大通首席执行官杰米·戴蒙表示,随着关税影响持续冲击全球经济,经济衰退仍有可能出现。戴蒙当日接受采访时称,希望能够避免这种情况,但目前他不会排除这种可能性。如果真的出现经济衰退,不知道它会有多严重,也不知道会持续多久。 报道称,特朗普政府的关税政策已经让市场震荡了一个多月。戴蒙表示...
十万亿银行股“市值狂飙”,公募私募“措手不及”? - 天天要闻

十万亿银行股“市值狂飙”,公募私募“措手不及”?

银行板块在近期的快速上涨,甚至连行业内人士也不太了解其背后的原因。但这就是事实,浦发银行、上海银行、江苏银行、农业银行、工商银行、成都银行、建设银行、中国银行等一批银行纷纷创下A股上市以来最高点。以工商银行为例,该行最新复权价格超过7.2元,妥妥的超过了当年上证指数6000点时的高峰股价(下图)。这还只是近...
独家!建信理财原总裁回归总行,还有一名副总裁也将变动 - 天天要闻

独家!建信理财原总裁回归总行,还有一名副总裁也将变动

作 者丨杨希编 辑丨周炎炎5月15日,21世纪经济报道记者独家获悉,建信理财原党委副书记、执行董事、总裁马勇已回归建行总行,出任审计部资深经理。近期,建信理财管理层密集变动。据记者了解,或与建信理财近两年在银行理财行业表现平平有关。本次建信
从茶饮到潮玩 消费企业逐鹿港股 - 天天要闻

从茶饮到潮玩 消费企业逐鹿港股

多次冲击资本市场未果的绿茶,终于要圆梦港交所了。截至目前,绿茶集团已经停止认购,IPO融资认购倍数达到282.11倍,融资认购金额为341.51亿港元。绿茶集团此次全球发行约1.7亿股,招股价为7.19港元/股,预计净集资额最高约12.1亿
美债“灰犀牛”狂奔 - 天天要闻

美债“灰犀牛”狂奔

“政府不是问题的答案;政府正是问题所在。”1981年1月20日,美国第40任总统罗纳德·里根在就职演说中发出灵魂拷问,最终在美国一语成谶。1985年,美国从净债权国变为债务国,结束了自1914年以来作为净债权国长达70年的历史。短短四十年后
大涨!重返3400 - 天天要闻

大涨!重返3400

经历了4月7日的大幅调整后,5月14日午后A股再次出现异动拉升走势,其中,上证指数重返3400点上方,逼近今年3月19日的阶段性反弹高点3439.05点。