火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性?

2024年01月03日17:40:46 財經 8883

ClickHouse是業內被廣泛使用的OLAP引擎。當集群規模過大時,ClickHouse則面臨使用局限性的問題。如何提升ClickHouse的可用性,成為困擾廣大開發者的難題之一。

目前,位元組跳動內部的 ClickHouse 節點總數超過 18000 個,管理總數據量超過 700PB,最大的集群規模在 2400 余個節點。位元組跳動內部很多業務都建立在 ClickHouse 為基礎的查詢引擎上,因此在可用性提升上具備廣泛經驗。

在內部豐富經驗的基礎之上,火山引擎也將位元組跳動可用性方面經驗通過雲原生數據倉庫ByteHouse對外輸出。ByteHouse以開源ClickHouse為基礎,經過位元組跳動多年的優化和完善,提供了更豐富的功能和更強的性能,主要為用戶帶來極速的分析體驗,解決了ClickHouse集群節點數增長過快,帶來的多方面問題:Zookeeper性能出現瓶頸,故障發生頻率增加;故障恢復時間過長;運維複雜度提升。

為了進一步提升ClickHouse的可用性,ByteHouse從降低Zookeeper壓力和提升故障恢復能力兩個方面進行升級。

首先,ByteHouse採用先進的集群管理策略,降低Zookeeper在集群管理中的角色和壓力。Zookeeper在分散式系統中常常被用作協調和管理節點,但在大規模集群中可能會成為性能瓶頸。通過減少對Zookeeper的依賴,ByteHouse將部分協調和管理功能下放到各個節點上,使得集群中的每個節點能夠自主地進行協調和管理,從而降低了Zookeeper的壓力。

其次,ByteHouse提升了ClickHouse故障恢復能力。在分散式系統中,故障恢復是保障系統可用性的重要環節。通過完善的數據備份和恢復策略,ByteHouse可以在節點發生故障時,快速恢複數據和系統狀態。此外,ByteHouse還通過節點狀態實時檢測和自動隔離策略,防止故障擴散到整個集群。

火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性? - 天天要聞

ByteHouse故障恢復改造思路

以上優化策略不僅提高了集群的性能和穩定性,也使得ByteHouse成為了企業級用戶在大數據處理和分析領域的重要選擇。未來,火山引擎ByteHouse將繼續致力於提供更優質的大數據處理和分析服務,幫助企業更好實現數字化轉型。

財經分類資訊推薦

4月30日人社部發布會召開,涉及到社保和養老金,具體有哪些內容 - 天天要聞

4月30日人社部發布會召開,涉及到社保和養老金,具體有哪些內容

人力資源和社會保障部,組織召開的第一季度例行新聞發布會。在新聞發布會當中帶來了,關於社保和養老金方面的一些內容,那麼我們具體來了解一下究竟有哪些內容,這些內容對於我們個人來說會產生一個什麼樣的影響呢?養老保險的參保人數不斷提高根據人社部的例行新聞發布會當中指出,截止到2026年的第1季度末,養老保險的參...
中興三星全球專利糾紛持續 知識產權保護需凝聚國際共識 - 天天要聞

中興三星全球專利糾紛持續 知識產權保護需凝聚國際共識

近期,中興通訊與三星電子圍繞無線通信標準必要專利(SEP)許可的全球性糾紛迎來多項關鍵司法裁決。當地時間4月30日,德國慕尼黑第一地區法院就雙方專利侵權糾紛作出當庭判決,中興通訊在主訴與反訴案件中同時勝出,成功獲得針對三星的德國禁令。而此前英國高等法院作出的一
巴菲特,最新發聲!接班人,股東大會觀點來了 - 天天要聞

巴菲特,最新發聲!接班人,股東大會觀點來了

【導讀】伯克希爾·哈撒韋股東大會要點直擊中國基金報記者 李智當地時間5月2日,伯克希爾·哈撒韋股東大會在美國奧馬哈召開。本次大會由格雷格·阿貝爾接任CEO後首次獨立主持,「股神」巴菲特則以董事會主席身份列席台下。在今年的大會上,阿貝爾探討了AI戰略、網路安全、能源轉型、股票回購等諸多話題,宣告伯克希爾正式進...
早讀丨廣東多項交通數據創歷史新高;張雪機車再奪冠軍 - 天天要聞

早讀丨廣東多項交通數據創歷史新高;張雪機車再奪冠軍

◆「首展」添彩、國潮湧動,廣東4A級及以上景區單日接待遊客394.2萬人次。詳情--> 「五一」假期「逛吃」指南:廣交會客商與市民共享全城消費熱力。詳情--> ◆常規賽第六輪精彩紛呈,多場對決戰至最後時刻。詳情--> 粵超第二輪先賽五場:梅州反客為主大勝潮州,潮語電影《給阿嬤的情書》片花亮相汕頭主場。詳情--> 粵超、粵...
低價搶市場害苦科陸電子,連續5年虧損靠大股東「輸血續命」 - 天天要聞

低價搶市場害苦科陸電子,連續5年虧損靠大股東「輸血續命」

圖源:公司官網本報(chinatimes.net.cn)記者胡雅文 北京報道深圳市科陸電子科技股份有限公司(下稱「科陸電子」,002121.SZ)遲遲未能實現盈利。近日,科陸電子交出了被美的集團收購後的第二份年報,營收63.1億元創下歷史新高,凈利潤卻連續第5年虧損。截至2025年末,其資產負債率高達95.15%。進入2026年,一季度再虧0.4...