自定义负载均衡策略

概述

gRPC 的一项关键特性是负载均衡，它允许将来自客户端的请求分布到多个服务器上。这有助于防止任何一个服务器过载，并通过添加更多服务器来扩展系统。

gRPC 负载均衡策略通过名称解析器获取服务器 IP 地址列表。该策略负责维护与服务器的连接（子通道），并在发送 RPC 时选择要使用的连接。

实现您自己的策略

默认情况下会使用 pick_first 策略。该策略实际上不执行负载均衡，它只会尝试名称解析器提供的每个地址，并使用第一个能够成功连接的地址。通过更新 gRPC 服务配置，您也可以切换到使用 round_robin 策略，它会连接到获取到的所有地址，并为每个 RPC 轮流选择已连接的后端。还有一些其他的内置负载均衡策略可用，但具体集合因语言而异。如果内置策略不满足您的需求，您还可以实现自己的自定义策略。

这需要在您使用的语言中实现负载均衡器接口。概括来说，您需要完成以下几点：

• 在负载均衡器注册表中注册您的实现，以便可以在服务配置中引用它
• 解析您实现的 JSON 配置对象。这使得您的负载均衡器可以在服务配置中使用您选择支持的任何任意 JSON 进行配置
• 管理要维护连接的后端
• 实现一个 `picker`（选择器），用于在进行 RPC 调用时选择连接哪个后端。请注意，这需要一个快速操作，因为它位于 RPC 调用路径上
• 要启用您的负载均衡器，请在您的服务配置中进行配置

具体步骤因语言而异，请查看语言支持部分以获取您所用语言的具体示例。

flowchart TD
NR(Name Resolver) -->|Provides addresses &\nLB config| LB(Load Balancer)
LB --> |Provides a picker| C(Channel)
C -->|Requests\na subchannel| P(Picker)
LB --> |Manages subchannels\nto backends| SC(Subchannel 1..n)
LB -. Creates .-> P
P --> |Picks one| SC

后端指标

如果您的负载均衡策略需要后端服务器的实时信息怎么办？为此，您可以依赖后端指标。您可以获取带内指标（在后端 RPC 响应中）或带外指标（从后端发出的独立 RPC）。提供了 CPU 和内存利用率等标准指标，但您也可以实现自己的自定义指标。

有关更多信息，请参阅自定义后端指标指南

服务网格

如果您有服务网格设置，其中中央控制平面协调微服务的配置，则无法直接通过服务配置配置您的自定义负载均衡器。但可以通过 xDS 协议来实现，该协议是您的控制平面用于与 gRPC 客户端通信的协议。请参考您的控制平面文档，以确定如何支持自定义负载均衡配置。

有关更多详细信息，请参阅 gRPC 提案 A52。

语言支持