LinkedIn 重构服务发现:在大规模环境中用 Kafka 和 xDS 取代 zk

2026年02月13日11:52:04 科技 1207

LinkedIn 重构服务发现:在大规模环境中用 Kafka 和 xDS 取代 zk - 天天要闻

在最近的 LinkedIn 工程博客文章 中,Bohan Yang 介绍了公司如何升级基于 ZooKeeper 的传统服务发现平台的项目。面对数千个微服务即将达到的容量上限,LinkedIn 需要一个更具扩展性的架构。新系统利用 Apache Kafka 处理写入,使用 xDS 协议 处理读取,实现了最终一致性,并允许非 Java 客户端成为一等公民。为确保稳定性,团队实施了“双模式(Dual Mode)”策略,支持增量式、零停机迁移。

团队发现了基于传统 Apache ZooKeeper 系统的关键扩展性问题。应用服务器的直接写入以及客户端的直接读取 / 监听,意味着大规模应用部署会引发巨大的写入峰值和后续的“读取风暴”,导致高延迟和会话超时。此外,由于 ZooKeeper 强制强一致性(严格顺序),读取请求的积压可能会阻塞写入,导致健康节点无法通过健康检查。团队估计,当前系统在 2025 年达到了最大容量。

为了解决这些问题,团队开发了一种新架构,从强一致性模型转向最终一致性模型,提供了更好的性能、可用性和可扩展性。新系统将写入路径(通过 Kafka)与读取路径(通过 Observer 服务)分离。服务发现 Observer 消费 Kafka 事件以更新其内存缓存,并通过 xDS 协议向客户端推送更新,该协议与 Envoy 和 gRPC 兼容。采用 xDS 标准使 LinkedIn 能够部署除 Java 以外的多种语言客户端。这一技术决策也为未来与服务网格(Envoy)和集中式负载均衡的集成奠定了基础。

升级后的基准测试表明,单个 Observer 实例可维持 40,000 个客户端流,并每秒处理 10,000 次更新。Observer 在每个数据中心(fabric)独立运行,但允许客户端连接到远程 Observer 以实现故障转移或跨数据中心流量。

迁移过程必须在不中断每日数十亿次请求且无需数千名应用所有者手动更改的情况下进行。团队实施了双读和双写机制。对于读取,客户端同时订阅 ZooKeeper 和新的 Observer。在客户端系统迁移的试点阶段,ZooKeeper 仍然是流量路由的事实来源,而后台线程在切换流量之前,会根据 ZooKeeper 数据验证 Observer 数据的准确性。对于写入,应用服务器同时向 ZooKeeper 和 Kafka 声明其存在。自动化定时任务会分析 ZooKeeper 监听器,以识别阻碍 ZooKeeper 写入退役的“长尾” 传统客户端。

新服务实施后,数据传播延迟显著改善,从 P50 < 10 秒 /P99 < 30 秒降至 P50 < 1 秒 /P99 < 5 秒。该系统现在支持每个数据中心数十万个应用实例,并通过 Observer 层实现水平扩展。

原文链接:

LinkedIn Re-Architects Service Discovery: Replacing Zookeeper with Kafka and xDS at Scale(https://www.infoq.com/news/2026/02/linkedin-service-discovery/)

科技分类资讯推荐

引领科技豪华MPV新风尚 第二代腾势D9西安车展亮相 - 天天要闻

引领科技豪华MPV新风尚 第二代腾势D9西安车展亮相

兼具宜商气度与家用温情的科技豪华旗舰MPV,第二代腾势D9迎来西安地区正式亮相。新车依托全球新能源MPV冠军底蕴,以第二代刀片电池、双阀云辇-C、天神之眼5.0智驾等核心技术全面升级,兼顾商务体面与家庭舒适,为西北高端用户带来一站式全能出行解决方案。
采购禁入!科华数据材料造假被拒门外 - 天天要闻

采购禁入!科华数据材料造假被拒门外

本报(chinatimes.net.cn)记者胡雅文 北京报道这家赶上AI算力风口的公司,因投标材料造假,被相关采购方列入禁入名单两年,其此前提出的复议申请也被正式驳回。相关采购平台近日发布公告,明确驳回科华数据股份有限公司(下称“科华数据”,002335.SZ)此前提交的复议申请。早在一年前,科华数据已被认定在“信息通信枢纽...
快评乐道L80:15万元级买大五座,这波值得冲? - 天天要闻

快评乐道L80:15万元级买大五座,这波值得冲?

日前,乐道L80正式发布并开启预售,其整车购买预售价为24.58万元起,租电购买预售价则低至15.98万元起。面对大型SUV市场“细分再细分”之竞争趋势,这款乐道年度重磅新车都有哪些优势?又能否成为“大五座SUV革新之作”?下面,圈哥就带大家全方位感受。
成都直击凯威德:纯电全尺寸SUV的张扬与大气 - 天天要闻

成都直击凯威德:纯电全尺寸SUV的张扬与大气

4月22日,凯迪拉克以奥斯卡级盛典规格,将上海保利大剧院点亮为璀璨舞台,在品牌代言人倪妮与全场嘉宾的共同见证下,凯迪拉克全尺寸纯电公路旗舰——凯威德耀然上市。新车共推出长续航四驱Pro、高性能四驱Ultra两款配置,官方售价区间为46.88万-50.88万元。