火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性?

2024年01月03日17:40:46 财经 8883

ClickHouse是业内被广泛使用的OLAP引擎。当集群规模过大时,ClickHouse则面临使用局限性的问题。如何提升ClickHouse的可用性,成为困扰广大开发者的难题之一。

目前,字节跳动内部的 ClickHouse 节点总数超过 18000 个,管理总数据量超过 700PB,最大的集群规模在 2400 余个节点。字节跳动内部很多业务都建立在 ClickHouse 为基础的查询引擎上,因此在可用性提升上具备广泛经验。

在内部丰富经验的基础之上,火山引擎也将字节跳动可用性方面经验通过云原生数据仓库ByteHouse对外输出。ByteHouse以开源ClickHouse为基础,经过字节跳动多年的优化和完善,提供了更丰富的功能和更强的性能,主要为用户带来极速的分析体验,解决了ClickHouse集群节点数增长过快,带来的多方面问题:Zookeeper性能出现瓶颈,故障发生频率增加;故障恢复时间过长;运维复杂度提升。

为了进一步提升ClickHouse的可用性,ByteHouse从降低Zookeeper压力和提升故障恢复能力两个方面进行升级。

首先,ByteHouse采用先进的集群管理策略,降低Zookeeper在集群管理中的角色和压力。Zookeeper在分布式系统中常常被用作协调和管理节点,但在大规模集群中可能会成为性能瓶颈。通过减少对Zookeeper的依赖,ByteHouse将部分协调和管理功能下放到各个节点上,使得集群中的每个节点能够自主地进行协调和管理,从而降低了Zookeeper的压力。

其次,ByteHouse提升了ClickHouse故障恢复能力。在分布式系统中,故障恢复是保障系统可用性的重要环节。通过完善的数据备份和恢复策略,ByteHouse可以在节点发生故障时,快速恢复数据和系统状态。此外,ByteHouse还通过节点状态实时检测和自动隔离策略,防止故障扩散到整个集群。

火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性? - 天天要闻

ByteHouse故障恢复改造思路

以上优化策略不仅提高了集群的性能和稳定性,也使得ByteHouse成为了企业级用户在大数据处理和分析领域的重要选择。未来,火山引擎ByteHouse将继续致力于提供更优质的大数据处理和分析服务,帮助企业更好实现数字化转型。

财经分类资讯推荐

阿里大文娱亏损多年后终于盈利,2025 年 Q1 优酷经营业绩改善 - 天天要闻

阿里大文娱亏损多年后终于盈利,2025 年 Q1 优酷经营业绩改善

IT之家 5 月 16 日消息,阿里巴巴昨日发布 2025 财年第四财季(2025 年第一季度)财报。财报显示,阿里巴巴 2025 年第一季度营收为 2364.54 亿元(325.84 亿美元),同比增长 7%;归属于普通股股东的净利润 123.82 亿元(17.06 亿美元),净利润为 119.73 亿元(16.50 亿美元)。阿里大文娱 2025 年第一
一舱难求!关税下调后外贸出口需求激增,多家海运公司涨价 - 天天要闻

一舱难求!关税下调后外贸出口需求激增,多家海运公司涨价

中美最新关税政策调整后,外贸企业出口需求旺盛。南都记者多方采访了解到,连日来,外贸企业纷纷抢抓90天窗口期重启美国市场供应,恢复的积压订单量及新增订单带动外贸出货持续走高,以至海运“一舱难求”,订单已排到6月。同时,多家船运公司赶在客户订舱潮前发布涨价公告。数据服务商Wind统计显示,5月14日,北方国际集装...
近四年首现营收净利双降,光大永明资产为什么业绩失速? - 天天要闻

近四年首现营收净利双降,光大永明资产为什么业绩失速?

光大永明资产2024年营业收入同比降9.57%,净利润同比降25% 投资时间网、标点财经研究员 田文会光大永明资产管理股份有限公司(下称光大永明资产)2024年营业收入和净利润双降,其中,净利润近四年首次下降。据光大永明资产近日披露的2024年年报,该公司当年营业收入同比降9.57%,净利润同比降25%。而已披露年报的34家保险资...
板块加速轮动 A股震荡调整或成主旋律! - 天天要闻

板块加速轮动 A股震荡调整或成主旋律!

今日,沪深两市集体低开,银行板块走低成为沪指下行的主要拖累因素。盘中沪指虽短暂回升,但最终仍震荡收跌;深成指则相对坚挺,围绕昨日收盘价窄幅震荡。截至收盘,三大指数悉数跌破5日均线支撑,短期上行势头明显减弱,延续了近期市场重心下移的态势。近期市场板块呈现出快速轮动的特征。有网友调侃本周A股投资者宛如经历...
港股科技巨头业绩密集放榜,阿里跌近4%,网易涨超12%!恒生科技ETF基金(513260)震荡回调!张忆东:三大逻辑反转,战略性看多 - 天天要闻

港股科技巨头业绩密集放榜,阿里跌近4%,网易涨超12%!恒生科技ETF基金(513260)震荡回调!张忆东:三大逻辑反转,战略性看多

今日(5.16)港股集体飘绿,恒生科技ETF基金(513260)震荡回调跌0.58%,盘中成交超5亿元,溢价频现。资金持续布局,恒生科技ETF基金(513260)近5日有3日获资金净流入,近20日“吸金”超3亿元!昨日盘后,阿里巴巴发布财报。2025财年第四季度营收2364.5亿元,同比增长7%;调整后净利润298.47亿元,同比增22%。淘天全面超预...