火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性?

2024年01月03日17:40:46 财经 8883

ClickHouse是业内被广泛使用的OLAP引擎。当集群规模过大时,ClickHouse则面临使用局限性的问题。如何提升ClickHouse的可用性,成为困扰广大开发者的难题之一。

目前,字节跳动内部的 ClickHouse 节点总数超过 18000 个,管理总数据量超过 700PB,最大的集群规模在 2400 余个节点。字节跳动内部很多业务都建立在 ClickHouse 为基础的查询引擎上,因此在可用性提升上具备广泛经验。

在内部丰富经验的基础之上,火山引擎也将字节跳动可用性方面经验通过云原生数据仓库ByteHouse对外输出。ByteHouse以开源ClickHouse为基础,经过字节跳动多年的优化和完善,提供了更丰富的功能和更强的性能,主要为用户带来极速的分析体验,解决了ClickHouse集群节点数增长过快,带来的多方面问题:Zookeeper性能出现瓶颈,故障发生频率增加;故障恢复时间过长;运维复杂度提升。

为了进一步提升ClickHouse的可用性,ByteHouse从降低Zookeeper压力和提升故障恢复能力两个方面进行升级。

首先,ByteHouse采用先进的集群管理策略,降低Zookeeper在集群管理中的角色和压力。Zookeeper在分布式系统中常常被用作协调和管理节点,但在大规模集群中可能会成为性能瓶颈。通过减少对Zookeeper的依赖,ByteHouse将部分协调和管理功能下放到各个节点上,使得集群中的每个节点能够自主地进行协调和管理,从而降低了Zookeeper的压力。

其次,ByteHouse提升了ClickHouse故障恢复能力。在分布式系统中,故障恢复是保障系统可用性的重要环节。通过完善的数据备份和恢复策略,ByteHouse可以在节点发生故障时,快速恢复数据和系统状态。此外,ByteHouse还通过节点状态实时检测和自动隔离策略,防止故障扩散到整个集群。

火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性? - 天天要闻

ByteHouse故障恢复改造思路

以上优化策略不仅提高了集群的性能和稳定性,也使得ByteHouse成为了企业级用户在大数据处理和分析领域的重要选择。未来,火山引擎ByteHouse将继续致力于提供更优质的大数据处理和分析服务,帮助企业更好实现数字化转型。

财经分类资讯推荐

美股收盘:强劲非农提振市场 三大指数齐涨 标普、纳指再创新高 - 天天要闻

美股收盘:强劲非农提振市场 三大指数齐涨 标普、纳指再创新高

财联社7月4日讯(编辑 夏军雄)美东时间周四,得益于强劲就业数据的提振,三大指数集体上涨,标普500指数和纳指双双刷新历史收盘高点。截至收盘,道琼斯指数涨0.77%,报44,828.53点;标普500指数涨0.83%,报6,279.35点;纳斯达克指数涨1.02%,报20,601.10点。(三大指数分钟线图,来源:TradingView)标普500指数创下年
最新筹码集中股出炉!11股降幅逾一成 - 天天要闻

最新筹码集中股出炉!11股降幅逾一成

7月3日,A股三大指数均收涨,上证指数涨0.18%,深证成指和创业板指均涨超1%;市场全天成交额近1.33万亿元,较前一交易日缩量716亿元;收盘上涨个股超3200只,其中收盘股价涨停的有66只。
黄金突然直线跳水,美债狂飙 - 天天要闻

黄金突然直线跳水,美债狂飙

黄金突然直线跳水!截至7月3日20:51,现货黄金跌破3320.00美元/盎司关口,日内跌1.18%;COMEX黄金期货主力最新报3333.3美元/盎司,日内跌近0.80%。美国国债收益率飙升,短期国债领跌,2年期和5年期收益率上涨近10个
暴涨近3倍!603389,今日复牌! - 天天要闻

暴涨近3倍!603389,今日复牌!

*ST亚振(603389)将于7月4日复牌。7月3日晚间,*ST亚振(603389)发布公告称,公司股票核查工作已完成,将于7月4日复牌。本次核查源于公司股票于6月17日至6月26日收盘价格涨幅偏离值累计达到29.43%,与同期上证指数、家
今年以来涨超65%!这类ETF又爆发 - 天天要闻

今年以来涨超65%!这类ETF又爆发

7月3日,港股市场出现分化:一方面,港股创新药板块“高歌猛进”,多只创新药主题ETF单日涨超4%;另一方面,消费和互联网板块表现较弱,多只相关主题ETF跌幅明显。值得一提的是,多只港股创新药ETF今年以来涨幅超65%。7月2日,首批科创债E