火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性?

2024年01月03日17:40:46 財經 8883

ClickHouse是業內被廣泛使用的OLAP引擎。當集群規模過大時,ClickHouse則面臨使用局限性的問題。如何提升ClickHouse的可用性,成為困擾廣大開發者的難題之一。

目前,位元組跳動內部的 ClickHouse 節點總數超過 18000 個,管理總數據量超過 700PB,最大的集群規模在 2400 余個節點。位元組跳動內部很多業務都建立在 ClickHouse 為基礎的查詢引擎上,因此在可用性提升上具備廣泛經驗。

在內部豐富經驗的基礎之上,火山引擎也將位元組跳動可用性方面經驗通過雲原生數據倉庫ByteHouse對外輸出。ByteHouse以開源ClickHouse為基礎,經過位元組跳動多年的優化和完善,提供了更豐富的功能和更強的性能,主要為用戶帶來極速的分析體驗,解決了ClickHouse集群節點數增長過快,帶來的多方面問題:Zookeeper性能出現瓶頸,故障發生頻率增加;故障恢復時間過長;運維複雜度提升。

為了進一步提升ClickHouse的可用性,ByteHouse從降低Zookeeper壓力和提升故障恢復能力兩個方面進行升級。

首先,ByteHouse採用先進的集群管理策略,降低Zookeeper在集群管理中的角色和壓力。Zookeeper在分佈式系統中常常被用作協調和管理節點,但在大規模集群中可能會成為性能瓶頸。通過減少對Zookeeper的依賴,ByteHouse將部分協調和管理功能下放到各個節點上,使得集群中的每個節點能夠自主地進行協調和管理,從而降低了Zookeeper的壓力。

其次,ByteHouse提升了ClickHouse故障恢復能力。在分佈式系統中,故障恢復是保障系統可用性的重要環節。通過完善的數據備份和恢復策略,ByteHouse可以在節點發生故障時,快速恢複數據和系統狀態。此外,ByteHouse還通過節點狀態實時檢測和自動隔離策略,防止故障擴散到整個集群。

火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性? - 天天要聞

ByteHouse故障恢復改造思路

以上優化策略不僅提高了集群的性能和穩定性,也使得ByteHouse成為了企業級用戶在大數據處理和分析領域的重要選擇。未來,火山引擎ByteHouse將繼續致力於提供更優質的大數據處理和分析服務,幫助企業更好實現數字化轉型。

財經分類資訊推薦

關稅衝擊還沒顯現,日本一季度GDP就萎縮了0.7% - 天天要聞

關稅衝擊還沒顯現,日本一季度GDP就萎縮了0.7%

據日本共同社5月16日報道,日本內閣當天發佈了2025年一季度(1至3月)國內生產總值(GDP)初值。報道稱據相關數據計算,日本2025年一季度實際國內生產總值(GDP)比上季度(環比)減少0.2%,換算成年率(年化)為下降0.7%。報道介紹,這是日本GDP四個季度來首次呈現環比負增長。 觀察者網查詢發現,按照日本內閣府官網提供...
一季度營收創新高卻加速合併,吉利桂生悅:時間不等人 - 天天要聞

一季度營收創新高卻加速合併,吉利桂生悅:時間不等人

【文/觀察者網 張家棟 編輯/高莘】5月15日,吉利汽車控股有限公司(以下簡稱吉利汽車)正式發佈2025年一季度財報。 吉利汽車2025年一季度財報 吉利汽車財報截圖 財報顯示,今年一季度,吉利汽車實現營收725億,同比增長25%;歸母凈利潤56.7億,同比增長264%,盈利能力顯著提升。同時,隨着新能源盈利能力的改善及規模效應釋...
萬億光伏市場新故事:澤潤新能成功登陸A股,募資開闢第二增長曲線 - 天天要聞

萬億光伏市場新故事:澤潤新能成功登陸A股,募資開闢第二增長曲線

(圖源:澤潤新能官網)在全球能源變革和「雙碳」宏大敘事下,光伏行業作為實現可持續發展的關鍵力量,發展如火如荼,光伏裝機量持續攀升。國際能源署(IEA)數據顯示,自2019年以來,全球太陽能光伏新增裝機容量逐年增長,2024年新增裝機達553GW。伴隨光伏行業蓬勃,光伏組件接線盒作為關鍵零部件也迎旺盛需求隨產業鏈同步發...
消費「挖潛」 發展「提速」 - 天天要聞

消費「挖潛」 發展「提速」

數據顯示,今年一季度,我國快遞業務量同比增長21.6%,快遞業務收入同比增長10.9%。在廣袤神州大地上,平均每秒有5700多件快遞、每天有5億件快遞在穿梭流動。快遞業務量增長,映照中國消費的紅火氣象。社會消費品零售總額同比增長4.6%、服
經貿合作為中拉經濟持續發展增添新動力 - 天天要聞

經貿合作為中拉經濟持續發展增添新動力

3月7日,2025拉美國家投資推介會在廣州舉辦。新華社發新華社廣州5月15日電 題:經貿合作為中拉經濟持續發展增添新動力新華社記者陸浩、陳雨崢在不久前結束的第137屆中國進出口商品交易會(廣交會)上,共有來自219個國家和地區的近29萬名境