火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性?

2024年01月03日17:40:46 財經 8883

ClickHouse是業內被廣泛使用的OLAP引擎。當集群規模過大時,ClickHouse則面臨使用局限性的問題。如何提升ClickHouse的可用性,成為困擾廣大開發者的難題之一。

目前,位元組跳動內部的 ClickHouse 節點總數超過 18000 個,管理總數據量超過 700PB,最大的集群規模在 2400 余個節點。位元組跳動內部很多業務都建立在 ClickHouse 為基礎的查詢引擎上,因此在可用性提升上具備廣泛經驗。

在內部豐富經驗的基礎之上,火山引擎也將位元組跳動可用性方面經驗通過雲原生數據倉庫ByteHouse對外輸出。ByteHouse以開源ClickHouse為基礎,經過位元組跳動多年的優化和完善,提供了更豐富的功能和更強的性能,主要為用戶帶來極速的分析體驗,解決了ClickHouse集群節點數增長過快,帶來的多方面問題:Zookeeper性能出現瓶頸,故障發生頻率增加;故障恢復時間過長;運維複雜度提升。

為了進一步提升ClickHouse的可用性,ByteHouse從降低Zookeeper壓力和提升故障恢復能力兩個方面進行升級。

首先,ByteHouse採用先進的集群管理策略,降低Zookeeper在集群管理中的角色和壓力。Zookeeper在分散式系統中常常被用作協調和管理節點,但在大規模集群中可能會成為性能瓶頸。通過減少對Zookeeper的依賴,ByteHouse將部分協調和管理功能下放到各個節點上,使得集群中的每個節點能夠自主地進行協調和管理,從而降低了Zookeeper的壓力。

其次,ByteHouse提升了ClickHouse故障恢復能力。在分散式系統中,故障恢復是保障系統可用性的重要環節。通過完善的數據備份和恢復策略,ByteHouse可以在節點發生故障時,快速恢複數據和系統狀態。此外,ByteHouse還通過節點狀態實時檢測和自動隔離策略,防止故障擴散到整個集群。

火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性? - 天天要聞

ByteHouse故障恢復改造思路

以上優化策略不僅提高了集群的性能和穩定性,也使得ByteHouse成為了企業級用戶在大數據處理和分析領域的重要選擇。未來,火山引擎ByteHouse將繼續致力於提供更優質的大數據處理和分析服務,幫助企業更好實現數字化轉型。

財經分類資訊推薦

消費「挖潛」 發展「提速」 - 天天要聞

消費「挖潛」 發展「提速」

數據顯示,今年一季度,我國快遞業務量同比增長21.6%,快遞業務收入同比增長10.9%。在廣袤神州大地上,平均每秒有5700多件快遞、每天有5億件快遞在穿梭流動。快遞業務量增長,映照中國消費的紅火氣象。社會消費品零售總額同比增長4.6%、服
經貿合作為中拉經濟持續發展增添新動力 - 天天要聞

經貿合作為中拉經濟持續發展增添新動力

3月7日,2025拉美國家投資推介會在廣州舉辦。新華社發新華社廣州5月15日電 題:經貿合作為中拉經濟持續發展增添新動力新華社記者陸浩、陳雨崢在不久前結束的第137屆中國進出口商品交易會(廣交會)上,共有來自219個國家和地區的近29萬名境
定了!油價或將大反轉!時隔44個月之後有望重返「6」字頭 - 天天要聞

定了!油價或將大反轉!時隔44個月之後有望重返「6」字頭

5月19日(下周一)24時,國內汽柴油即將迎來調價的時間窗口。從目前的情況看,屆時油價下調基本成定局,而車主用得最多的92號汽油也有望時隔44個月之後重返「6」字頭。據金聯創測算,截至5月15日第八個工作日,參考原油品種均價為61.55美元/桶,變化率為-4.42%,對應的國內汽柴油零售價應下調240元/噸。折算到每升的話,92...
吸引全球創新人才,這場創新創業大賽在浦東張江舉辦 - 天天要聞

吸引全球創新人才,這場創新創業大賽在浦東張江舉辦

為加速智算產業創新突破,激發創新創業活力,5月15日下午,2025年「海創浦東」歸國留學人員創新創業大賽暨895創業營(第十六季)智算專場開營儀式在張江舉行。本次活動由浦東新區人民政府主辦,浦東新區區委統戰部、上海張江高科技園區開發股份有限公司承辦,活動匯聚了數百名海歸創業者、企業代表、行業專家,共同聚焦智算...
打造創新創業「強磁場」,2025上海海峽兩岸青創大賽啟幕 - 天天要聞

打造創新創業「強磁場」,2025上海海峽兩岸青創大賽啟幕

5月15日,2025上海海峽兩岸青創大賽發布會在上海金山區隆重舉行。今年大賽迎來十周年,將以「創夢十載,共築未來」為主題,分為「青聚·追夢」「攜手·築夢」「智創·圓夢」三個篇章,優化賽事模式,提升品牌影響力,助力兩岸青年實現夢想。上海市台辦副主任、一級巡視員王立新,金山區委常委張恂,上海市台協會長張簡珍等...