火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性?

2024年01月03日17:40:46 財經 8883

ClickHouse是業內被廣泛使用的OLAP引擎。當集群規模過大時,ClickHouse則面臨使用局限性的問題。如何提升ClickHouse的可用性,成為困擾廣大開發者的難題之一。

目前,位元組跳動內部的 ClickHouse 節點總數超過 18000 個,管理總數據量超過 700PB,最大的集群規模在 2400 余個節點。位元組跳動內部很多業務都建立在 ClickHouse 為基礎的查詢引擎上,因此在可用性提升上具備廣泛經驗。

在內部豐富經驗的基礎之上,火山引擎也將位元組跳動可用性方面經驗通過雲原生數據倉庫ByteHouse對外輸出。ByteHouse以開源ClickHouse為基礎,經過位元組跳動多年的優化和完善,提供了更豐富的功能和更強的性能,主要為用戶帶來極速的分析體驗,解決了ClickHouse集群節點數增長過快,帶來的多方面問題:Zookeeper性能出現瓶頸,故障發生頻率增加;故障恢復時間過長;運維複雜度提升。

為了進一步提升ClickHouse的可用性,ByteHouse從降低Zookeeper壓力和提升故障恢復能力兩個方面進行升級。

首先,ByteHouse採用先進的集群管理策略,降低Zookeeper在集群管理中的角色和壓力。Zookeeper在分散式系統中常常被用作協調和管理節點,但在大規模集群中可能會成為性能瓶頸。通過減少對Zookeeper的依賴,ByteHouse將部分協調和管理功能下放到各個節點上,使得集群中的每個節點能夠自主地進行協調和管理,從而降低了Zookeeper的壓力。

其次,ByteHouse提升了ClickHouse故障恢復能力。在分散式系統中,故障恢復是保障系統可用性的重要環節。通過完善的數據備份和恢復策略,ByteHouse可以在節點發生故障時,快速恢複數據和系統狀態。此外,ByteHouse還通過節點狀態實時檢測和自動隔離策略,防止故障擴散到整個集群。

火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性? - 天天要聞

ByteHouse故障恢復改造思路

以上優化策略不僅提高了集群的性能和穩定性,也使得ByteHouse成為了企業級用戶在大數據處理和分析領域的重要選擇。未來,火山引擎ByteHouse將繼續致力於提供更優質的大數據處理和分析服務,幫助企業更好實現數字化轉型。

財經分類資訊推薦

美股收盤:三大指數均跌超1% 能源、貴金屬板塊逆市走強 - 天天要聞

美股收盤:三大指數均跌超1% 能源、貴金屬板塊逆市走強

財聯社6月14日訊(編輯 趙昊)周五(6月13日),美股低開低走,三大指數集體收跌。截至收盤,道瓊斯指數跌1.79%,報42,197.79點;標普500指數跌1.13%,報5,976.97點;納斯達克綜合指數跌1.3%,報19,406.83點。道指本周累跌1.32%,標普累跌0.39%,納指累跌0.63%,均終結周線兩連漲。當地時間周五(6月13日)凌晨,以
輪胎企業出海建廠,總投資超百億! - 天天要聞

輪胎企業出海建廠,總投資超百億!

6月13日,2025汽車-輪胎跨界發展高峰論壇,在北京西國貿大酒店舉行。本屆論壇的主題,為「危機下的破局之道」。中智科技評價研究中心專委會主任於勇,為大會致辭。於勇此前在經濟日報工作多年,見證了中國經濟領域幾十年來的發展軌跡。
美股三大指數集體收跌,油價大漲逾7% - 天天要聞

美股三大指數集體收跌,油價大漲逾7%

中新經緯6月14日電 美東時間周五,美國三大股指全線收跌,道指跌1.79%,標普500指數跌1.13%,納指跌1.3%。宣偉跌超5%,VISA跌近5%,領跌道指。萬得美國科技七巨頭指數跌1.02%,英偉達跌超2%,臉書跌逾1%。
839680,多年財務造假,擬被從重處罰、強制退市 - 天天要聞

839680,多年財務造假,擬被從重處罰、強制退市

6月13日晚,*ST廣道(839680)發布公告稱,公司收到中國證券監督管理委員會深圳監管局《行政處罰事先告知書》。根據認定情況,公司可能被實施重大違法強制退市。*ST廣道將於6月16日起停牌1天,並在6月17日復牌之日起被北交所疊加實施重
長三角一體化引領  滬蘇浙皖抱團挑大樑 - 天天要聞

長三角一體化引領 滬蘇浙皖抱團挑大樑

中經記者 郭陽琛 張家振 上海報道先在上海市設計研發星座衛星,再到浙江省台州市批量製造,得益於這樣的雙輪驅動體系,浙江時空道宇科技有限公司(以下簡稱「時空道宇」)旗下的台州衛星超級工廠具備一年生產500顆衛星的製造能力。這一科研、製造聯動場景,折射出長三角地區的區域協同優勢。「一體化的交通、物流、產業、數...
2025年5月中國快遞發展指數報告 - 天天要聞

2025年5月中國快遞發展指數報告

經測算,2025年5月中國快遞發展指數為458.9,同比提升5.7%。其中發展規模指數和發展能力指數分別為602.4和227.2,同比分別提升13.7%和3.8%;服務質量指數和發展趨勢指數分別為676.7和70,與去年同期基本持平。
海南省政府與中國中煤簽署戰略合作協議 - 天天要聞

海南省政府與中國中煤簽署戰略合作協議

海南省政府與中國中煤簽署戰略合作協議馮飛劉小明王樹東證簽 6月13日,海南省政府與中國中煤能源集團有限公司在海口簽署戰略合作協議。省委書記馮飛、省長劉小明,中國中煤能源集團有限公司董事長王樹東見證簽約。根據協議,雙方遵循「優勢互補、互惠互利、緊密協作、依法依規、高質量發展」的原則,統籌協調發展資源,充分...
中國交建成功發行2025年第二期科技創新可續期公司債券 - 天天要聞

中國交建成功發行2025年第二期科技創新可續期公司債券

6月12日,中國交建在上海證券交易所成功簿記公司2025年面向專業機構投資者公開發行科技創新可續期公司債券(第二期),發行規模30億元,募集的資金將重點用於科技創新平台建設、核心技術攻關等方面。此次發行的公司債券中,2+N年期品種發行規模2
政策賦能產業發力!中國創新葯掀起出海熱潮 - 天天要聞

政策賦能產業發力!中國創新葯掀起出海熱潮

今年以來,中國創新葯板塊持續爆發,A股、港股上市企業股價接連大漲。國產創新葯正迎來產業「DeepSeek時刻」——政策支持力度持續加大,葯企研發創新不斷取得突破,BD(商務拓展)交易大單頻現引爆出海熱潮。