火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性?

2024年01月03日17:40:46 財經 8883

ClickHouse是業內被廣泛使用的OLAP引擎。當集群規模過大時,ClickHouse則面臨使用局限性的問題。如何提升ClickHouse的可用性,成為困擾廣大開發者的難題之一。

目前,字節跳動內部的 ClickHouse 節點總數超過 18000 個,管理總數據量超過 700PB,最大的集群規模在 2400 余個節點。字節跳動內部很多業務都建立在 ClickHouse 為基礎的查詢引擎上,因此在可用性提升上具備廣泛經驗。

在內部豐富經驗的基礎之上,火山引擎也將字節跳動可用性方面經驗通過雲原生數據倉庫ByteHouse對外輸出。ByteHouse以開源ClickHouse為基礎,經過字節跳動多年的優化和完善,提供了更豐富的功能和更強的性能,主要為用戶帶來極速的分析體驗,解決了ClickHouse集群節點數增長過快,帶來的多方面問題:Zookeeper性能出現瓶頸,故障發生頻率增加;故障恢復時間過長;運維複雜度提升。

為了進一步提升ClickHouse的可用性,ByteHouse從降低Zookeeper壓力和提升故障恢復能力兩個方面進行升級。

首先,ByteHouse採用先進的集群管理策略,降低Zookeeper在集群管理中的角色和壓力。Zookeeper在分布式系統中常常被用作協調和管理節點,但在大規模集群中可能會成為性能瓶頸。通過減少對Zookeeper的依賴,ByteHouse將部分協調和管理功能下放到各個節點上,使得集群中的每個節點能夠自主地進行協調和管理,從而降低了Zookeeper的壓力。

其次,ByteHouse提升了ClickHouse故障恢復能力。在分布式系統中,故障恢復是保障系統可用性的重要環節。通過完善的數據備份和恢復策略,ByteHouse可以在節點發生故障時,快速恢複數據和系統狀態。此外,ByteHouse還通過節點狀態實時檢測和自動隔離策略,防止故障擴散到整個集群。

火山引擎ByteHouse:如何提升18000節點的ClickHouse可用性? - 天天要聞

ByteHouse故障恢復改造思路

以上優化策略不僅提高了集群的性能和穩定性,也使得ByteHouse成為了企業級用戶在大數據處理和分析領域的重要選擇。未來,火山引擎ByteHouse將繼續致力於提供更優質的大數據處理和分析服務,幫助企業更好實現數字化轉型。

財經分類資訊推薦

AI新聞日曆:2025陸家嘴論壇開幕;國內成品油調價窗口開啟;金爵獎揭曉 - 天天要聞

AI新聞日曆:2025陸家嘴論壇開幕;國內成品油調價窗口開啟;金爵獎揭曉

下周國內外有哪些大事發生?有哪些事情會關乎我們的生活?這是一篇利用AI工具(豆包)輔助生成的作品,我們希望結合編輯與AI的視角,給大家提供一份較為詳細的新聞日曆。6月16日國家統計局發布多項報告,國民經濟運行數據出爐9:30,商品住宅銷售價格指數月度報告將率先發布。10:00,國家統計局將先後公布國民經濟運行情況以...
幾塊錢的玻璃存10TB數據?光谷的“金融外掛”已上線 - 天天要聞

幾塊錢的玻璃存10TB數據?光谷的“金融外掛”已上線

科技創新蘊藏着巨大的價值,但只有落到產業上,科技成果才能轉化為現實生產力。當蓬勃發展的科技金融走進熱火朝天實驗室,能否助力科研團隊實現從實驗室到生產線的“關鍵一躍”呢?在武漢東湖高新區。這片被譽為中國光谷的熱土,既是科技創新的前沿陣地,更是孕育創新成果的豐饒之地。究竟是什麼讓這裡持續迸發創新活力?當...
工信部回應17家車企“60天賬期”承諾 - 天天要聞

工信部回應17家車企“60天賬期”承諾

快科技6月12日消息,日前,包括一汽、東風、廣汽、賽力斯在內的17家重點汽車企業發表聲明,承諾對供應商的支付賬期不超過60天。這一舉措旨在改善供應商的資金周轉狀況,促進產業鏈的穩定發展。
今年“港股AGI第一股”確認了!雲知聲衝刺IPO五年終通過港交所聆訊 - 天天要聞

今年“港股AGI第一股”確認了!雲知聲衝刺IPO五年終通過港交所聆訊

6月13日消息,筆者從港交所官網獲悉,雲知聲智能科技股份有限公司(以下簡稱“雲知聲”)已通過港交所聆訊並於6月12日晚披露通過聆訊後的資料集,中金公司和海通國際擔任聯席保薦人。在此之前,雲知聲已經完成證監會境外發行上市及境內未上市股份“全流通”備案通知書。這意味着,雲知聲即將成為今年“港股AGI第一股”。雲...
立方風控鳥·早報(6月12日) - 天天要聞

立方風控鳥·早報(6月12日)

①因涉嫌嚴重違紀違法,成都廣電天成傳媒有限公司原總經理張海濤接受審查調查;②因涉嫌嚴重違紀違法,主動投案,甘肅省機場投資管理有限公司原總經理馬曉軍接受審查調查;③因未按規定披露2024年年度報告,威特焊材及相關責任人收到甘肅證監局警示函;④
注意了,央行又要放水 - 天天要聞

注意了,央行又要放水

7月,央行極有可能重新啟動購債,開啟放水新常態。 自打去年8月,央行將購債作為新的放水工具以後,連續五月購債規模達1萬億。然而由於人民幣匯率壓力,央行年初給臨時停止了。 最近,央....
釋放綠色動力,蘇州首筆智能微電網碳普惠交易落地 - 天天要聞

釋放綠色動力,蘇州首筆智能微電網碳普惠交易落地

近日,蘇州沃磁工業設備安裝有限公司通過蘇州一站式碳中和普惠服務中心,成功購買信義光伏(蘇州)有限公司智能微電網項目產生的1000噸碳減排量,用於抵消其在電力設施安裝調試過程中產生的碳排放量。據了解,這是蘇州碳普惠體系首個智能微電網用戶交易案
多元布局奏效 中國外貿繼續增長 - 天天要聞

多元布局奏效 中國外貿繼續增長

6月9日,山東港口青島港,貨輪在裝卸外貿集裝箱。當天,中國海關總署發布統計,2025年前5個月,中國貨物貿易進出口同比增長2.5%。視覺中國供圖 “面對美國的保護主義和單邊霸凌,最有效的方式仍是各國重新致力於世界貿易組織的多邊框架,加強區域合作,擴大市場開放,擴大相互貿易以降低風險。”北京大學國家發展研究院名譽...