golang grpc 负载均衡 golang grpc 负载均衡的方法
xjtuhit 人气:0微服务架构里面,每个服务都会有很多节点,如果流量分配不均匀,会造成资源的浪费,甚至将一些机器压垮,这个时候就需要负载均衡,最简单的一种策略就是轮询,顺序依次选择不同的节点访问。
grpc 在客户端提供了负载均衡的实现,并提供了服务地址解析和更新的接口(默认提供了 DNS 域名解析的支持),方便不同服务的集成
使用示例
conn, err := grpc.Dial( "", grpc.WithInsecure(), // 负载均衡,使用 consul 作服务发现 grpc.WithBalancer(grpc.RoundRobin(grpclb.NewConsulResolver( "127.0.0.1:8500", "grpc.health.v1.add", ))), )
创建连接的时候可以使用 WithBalancer 选项来指定负载均衡策略,这里使用 RoundRobin 算法,其实就是轮询策略
与 consul 的集成
有了负载均衡策略,还需要一个地址解析和更新策略,可以使用 DNS 服务来实现,但如果我们使用 consul 来做服务的注册和发现,可以通过实现 ‘naming.Resolver' 和 ‘naming.Watcher' 接口来支持
- naming.Resolver: 实现地址解析
- naming.Watcher: 实现节点的变更,添加或者删除
func NewConsulResolver(address string, service string) naming.Resolver { return &consulResolver{ address: address, service: service, } } type consulResolver struct { address string service string } func (r *consulResolver) Resolve(target string) (naming.Watcher, error) { config := api.DefaultConfig() config.Address = r.address client, err := api.NewClient(config) if err != nil { return nil, err } return &consulWatcher{ client: client, service: r.service, addrs: map[string]struct{}{}, }, nil } type consulWatcher struct { client *api.Client service string addrs map[string]struct{} lastIndex uint64 } func (w *consulWatcher) Next() ([]*naming.Update, error) { for { services, metainfo, err := w.client.Health().Service(w.service, "", true, &api.QueryOptions{ WaitIndex: w.lastIndex, // 同步点,这个调用将一直阻塞,直到有新的更新 }) if err != nil { logrus.Warn("error retrieving instances from Consul: %v", err) } w.lastIndex = metainfo.LastIndex addrs := map[string]struct{}{} for _, service := range services { addrs[net.JoinHostPort(service.Service.Address, strconv.Itoa(service.Service.Port))] = struct{}{} } var updates []*naming.Update for addr := range w.addrs { if _, ok := addrs[addr]; !ok { updates = append(updates, &naming.Update{Op: naming.Delete, Addr: addr}) } } for addr := range addrs { if _, ok := w.addrs[addr]; !ok { updates = append(updates, &naming.Update{Op: naming.Add, Addr: addr}) } } if len(updates) != 0 { w.addrs = addrs return updates, nil } } } func (w *consulWatcher) Close() { // nothing to do }
参考链接
gRPC Name Resolution: https://github.com/grpc/grpc/blob/master/doc/naming.md
Load Balancing in gRPC: https://github.com/grpc/grpc/blob/master/doc/load-balancing.md
dns_resolver: https://github.com/grpc/grpc-go/blob/30fb59a4304034ce78ff68e21bd25776b1d79488/naming/dns_resolver.go
代码地址: https://github.com/hatlonely/hellogolang/blob/master/sample/addservice/cmd/client/main.go
加载全部内容