火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性?

2024年01月03日17:40:46 财经 8883

ClickHouse是业内被广泛使用的OLAP引擎。当集群规模过大时,ClickHouse则面临使用局限性的问题。如何提升ClickHouse的可用性,成为困扰广大开发者的难题之一。

目前,字节跳动内部的 ClickHouse 节点总数超过 18000 个,管理总数据量超过 700PB,最大的集群规模在 2400 余个节点。字节跳动内部很多业务都建立在 ClickHouse 为基础的查询引擎上,因此在可用性提升上具备广泛经验。

在内部丰富经验的基础之上,火山引擎也将字节跳动可用性方面经验通过云原生数据仓库ByteHouse对外输出。ByteHouse以开源ClickHouse为基础,经过字节跳动多年的优化和完善,提供了更丰富的功能和更强的性能,主要为用户带来极速的分析体验,解决了ClickHouse集群节点数增长过快,带来的多方面问题:Zookeeper性能出现瓶颈,故障发生频率增加;故障恢复时间过长;运维复杂度提升。

为了进一步提升ClickHouse的可用性,ByteHouse从降低Zookeeper压力和提升故障恢复能力两个方面进行升级。

首先,ByteHouse采用先进的集群管理策略,降低Zookeeper在集群管理中的角色和压力。Zookeeper在分布式系统中常常被用作协调和管理节点,但在大规模集群中可能会成为性能瓶颈。通过减少对Zookeeper的依赖,ByteHouse将部分协调和管理功能下放到各个节点上,使得集群中的每个节点能够自主地进行协调和管理,从而降低了Zookeeper的压力。

其次,ByteHouse提升了ClickHouse故障恢复能力。在分布式系统中,故障恢复是保障系统可用性的重要环节。通过完善的数据备份和恢复策略,ByteHouse可以在节点发生故障时,快速恢复数据和系统状态。此外,ByteHouse还通过节点状态实时检测和自动隔离策略,防止故障扩散到整个集群。

火山引擎ByteHouse:如何提升18000节点的ClickHouse可用性? - 天天要闻

ByteHouse故障恢复改造思路

以上优化策略不仅提高了集群的性能和稳定性,也使得ByteHouse成为了企业级用户在大数据处理和分析领域的重要选择。未来,火山引擎ByteHouse将继续致力于提供更优质的大数据处理和分析服务,帮助企业更好实现数字化转型。

财经分类资讯推荐

一季度经营现金流转正,爱旭业绩拐点已至?董事长陈刚:有信心实现全年经营改善 - 天天要闻

一季度经营现金流转正,爱旭业绩拐点已至?董事长陈刚:有信心实现全年经营改善

本文来源:时代财经 作者:何明俊“一季度我们经营情况有大幅度好转,其实我们去年四季度就已经有好转了,当时是开工率提升的窗口期,财务报表是会滞后的。”在2025 SNEC PV&ES 国际光伏&储能大会期间,爱旭股份(600732.SH)董事长陈刚对时代财经等媒体表示。根据财报数据,2024年爱旭股份经营活动产生的现金流量净额为-4...
老股民买半斤金条寄给骗子“打新股” - 天天要闻

老股民买半斤金条寄给骗子“打新股”

现代快报讯(通讯员 范天宇 记者 葛小林)常州的王先生看炒股直播掉进诈骗陷阱,听从骗子的忽悠,花了近20万元买了半斤金条寄给骗子“打新股”,好在民警迅速赶到,将已经在快递路上的黄金拦截了下来。幡然醒悟的王先生也庆幸自己的金条“虎口脱险”。现代快报记者从钟楼警方获悉,近日,永红派出所民警接到反诈中心预警,...
LABUBU身价暴涨,投资价值超黄金? - 天天要闻

LABUBU身价暴涨,投资价值超黄金?

黄金价格高位震荡之时,一个“丑娃”却身价暴涨。泡泡玛特旗下潮玩IP“LABUBU”的二级市场价格持续飙升——发售价599元的Vans联名款玩偶如今在“得物”平台上标价约3万元;一款标注为初代收藏级薄荷色的LABUBU玩偶近日更在拍卖会上以1
商务部出口管制落地月余,稀土永磁企业股价与供需格局双变脸 - 天天要闻

商务部出口管制落地月余,稀土永磁企业股价与供需格局双变脸

截图自东方财富本报记者 李凯旋 北京报道6月12日A股开盘后,连续多个交易日大幅上涨的稀土永磁概念板块小幅回落。近10个交易日,多家稀土永磁企业股价连续涨停,一度创下上市以来的最高点。究其原因,我国自4月份开始对部分中重稀土实施出口管制,而作为全球稀土供应大国,出口管制使得海外企业陷入缺少“工业维生素”的焦...
抵押贷款赋能集体林地经营权 重庆银行绿色金融填补企业资金缺口 - 天天要闻

抵押贷款赋能集体林地经营权 重庆银行绿色金融填补企业资金缺口

文/王强仲夏时节,梁平百里竹海碧波翻涌。重庆百里竹海旅游开发建设有限公司负责人指着连绵翠岭欣慰道:“竹林焕发新生机,多亏了那笔4500万元‘生态贷’!”他所说的,正是重庆银行创新落地的全市首笔“集体林地经营权+生态产品价值”抵押贷款。未来,资金活水将流向竹海民宿康养、林下菌种植等特色产业,让村民在家门口就...
石油的谎言:石油储量真的很少?不够用? - 天天要闻

石油的谎言:石油储量真的很少?不够用?

很多人以为石油快没了,但几十年来“石油即将枯竭”的说法反复出现却始终没有兑现。这是一个技术、地缘、金融和政治高度交织的问题。下面我从真实数据、理论争议、背后利益三方面来拆穿“石油储量很少”的迷思。⛽ 一、石油储量真的快用完了吗?