CategoryResourceRepost/极客时间专栏/深入浅出gRPC/05 | gRPC 安全性设计.md
louzefeng d3828a7aee mod
2024-07-11 05:50:32 +00:00

32 KiB
Raw Blame History

1. RPC调用安全策略

1.1 严峻的安全形势

近年来,个人信息泄漏和各种信息安全事件层出不穷,个人信息安全以及隐私数据保护面临严峻的挑战。

很多国家已经通过立法的方式保护个人信息和数据安全例如我国2016年11月7日出台、2017年6月1日正式实施的《网络安全法》以及2016年4月14日欧盟通过的《一般数据保护法案》GDP R该法案将于2018年5月25日正式生效。

GDPR的通过意味着欧盟对个人信息保护及其监管达到了前所未有的高度堪称史上最严格的数据保护法案。

作为企业内部各系统、模块之间调用的通信框架即便是内网通信RPC调用也需要考虑安全性RPC调用安全主要涉及如下三点

  1. **个人/企业敏感数据加密:**例如针对个人的账号、密码、手机号等敏感信息进行加密传输,打印接口日志时需要做数据模糊化处理等,不能明文打印;
  2. **对调用方的身份认证:**调用来源是否合法,是否有访问某个资源的权限,防止越权访问;
  3. **数据防篡改和完整性:**通过对请求参数、消息头和消息体做签名,防止请求消息在传输过程中被非法篡改。

1.2 敏感数据加密传输

1.2.1 基于SSL/TLS的通道加密

当存在跨网络边界的RPC调用时往往需要通过TLS/SSL对传输通道进行加密以防止请求和响应消息中的敏感数据泄漏。跨网络边界调用场景主要有三种

  1. 后端微服务直接开放给端侧例如手机App、TV、多屏等没有统一的API Gateway/SLB做安全接入和认证
  2. 后端微服务直接开放给DMZ部署的管理或者运维类Portal
  3. 后端微服务直接开放给第三方合作伙伴/渠道。

除了跨网络之外,对于一些安全等级要求比较高的业务场景,即便是内网通信,只要跨主机/VM/容器通信都强制要求对传输通道进行加密。在该场景下即便只存在内网各模块的RPC调用仍然需要做SSL/TLS。

使用SSL/TLS的典型场景如下所示

目前使用最广的SSL/TLS工具/类库就是OpenSSL它是为网络通信提供安全及数据完整性的一种安全协议囊括了主要的密码算法、常用的密钥和证书封装管理功能以及SSL协议。

多数SSL加密网站是用名为OpenSSL的开源软件包由于这也是互联网应用最广泛的安全传输方法被网银、在线支付、电商网站、门户网站、电子邮件等重要网站广泛使用。

1.2.2 针对敏感数据的单独加密

有些RPC调用并不涉及敏感数据的传输或者敏感字段占比较低为了最大程度的提升吞吐量降低调用时延通常会采用HTTP/TCP + 敏感字段单独加密的方式既保障了敏感信息的传输安全同时也降低了采用SSL/TLS加密通道带来的性能损耗对于JDK原生的SSL类库这种性能提升尤其明显。

它的工作原理如下所示:

通常使用Handler拦截机制对请求和响应消息进行统一拦截根据注解或者加解密标识对敏感字段进行加解密这样可以避免侵入业务。

采用该方案的缺点主要有两个:

  1. 对敏感信息的识别可能存在偏差,容易遗漏或者过度保护,需要解读数据和隐私保护方面的法律法规,而且不同国家对敏感数据的定义也不同,这会为识别带来很多困难;
  2. 接口升级时容易遗漏,例如开发新增字段,忘记识别是否为敏感数据。

1.3 认证和鉴权

RPC的认证和鉴权机制主要包含两点

  1. **认证:**对调用方身份进行识别,防止非法调用;
  2. **鉴权:**对调用方的权限进行校验,防止越权调用。

事实上并非所有的RPC调用都必须要做认证和鉴权例如通过API Gateway网关接入的流量已经在网关侧做了鉴权和身份认证对来自网关的流量RPC服务端就不需要重复鉴权。

另外,一些对安全性要求不太高的场景,可以只做认证而不做细粒度的鉴权。

1.3.1 身份认证

内部RPC调用的身份认证场景主要有如下两大类

  1. 防止对方知道服务提供者的地址之后,绕过注册中心/服务路由策略直接访问RPC服务提供端
  2. RPC服务只想供内部模块调用不想开放给其它业务系统使用双方网络是互通的

身份认证的方式比较多例如HTTP Basic Authentication、OAuth2等比较简单使用的是令牌认证Token机制它的工作原理如下所示

工作原理如下:

  1. RPC客户端和服务端通过HTTPS与注册中心连接做双向认证以保证客户端和服务端与注册中心之间的安全
  2. 服务端生成Token并注册到注册中心由注册中心下发给订阅者。通过订阅/发布机制向RPC客户端做Token授权
  3. 服务端开启身份认证对RPC调用进行Token校验认证通过之后才允许调用后端服务接口。

1.3.2 权限管控

身份认证可以防止非法调用如果需要对调用方进行更细粒度的权限管控则需要做对RPC调用做鉴权。例如管理员可以查看、修改和删除某个后台资源而普通用户只能查看资源不能对资源做管理操作。

在RPC调用领域比较流行的是基于OAuth2.0的权限认证机制,它的工作原理如下:

OAuth2.0的认证流程如下:

  1. 客户端向资源拥有者申请授权(例如携带用户名+密码等证明身份信息的凭证);
  2. 资源拥有者对客户端身份进行校验,通过之后同意授权;
  3. 客户端使用步骤2的授权凭证向认证服务器申请资源访问令牌access token
  4. 认证服务器对授权凭证进行合法性校验通过之后颁发access token
  5. 客户端携带access token通常在HTTP Header中访问后端资源例如发起RPC调用
  6. 服务端对access token合法性进行校验是否合法、是否过期等同时对token进行解析获取客户端的身份信息以及对应的资源访问权限列表实现对资源访问权限的细粒度管控
  7. access token校验通过返回资源信息给客户端。

步骤2的用户授权有四种方式

  1. 授权码模式authorization code
  2. 简化模式implicit
  3. 密码模式resource owner password credentials
  4. 客户端模式client credentials

需要指出的是OAuth 2.0是一个规范不同厂商即便遵循该规范实现也可能会存在细微的差异。大部分厂商在采用OAuth 2.0的基础之上往往会衍生出自己特有的OAuth 2.0实现。

对于access token为了提升性能RPC服务端往往会缓存不需要每次调用都与AS服务器做交互。同时access token是有过期时间的根据业务的差异过期时间也会不同。客户端在token过期之前需要刷新Token或者申请一个新的Token。

考虑到access token的安全通常选择SSL/TLS加密传输或者对access token单独做加密防止access token泄漏。

1.4 数据完整性和一致性

RPC调用除了数据的机密性和有效性之外还有数据的完整性和一致性需要保证即如何保证接收方收到的数据与发送方发出的数据是完全相同的。

利用消息摘要可以保障数据的完整性和一致性,它的特点如下:

  • 单向Hash算法从明文到密文的不可逆过程即只能加密而不能解密
  • 无论消息大小,经过消息摘要算法加密之后得到的密文长度都是固定的;
  • 输入相同,则输出一定相同。

目前常用的消息摘要算法是SHA-1、MD5和MACMD5可产生一个128位的散列值。 SHA-1则是以MD5为原型设计的安全散列算法可产生一个160位的散列值安全性更高一些。MAC除了能够保证消息的完整性还能够保证来源的真实性。

由于MD5已被发现有许多漏洞在实际应用中更多使用SHA和MAC而且往往会把数字签名和消息摘要混合起来使用。

gRPC安全机制

谷歌提供了可扩展的安全认证机制,以满足不同业务场景需求,它提供的授权机制主要有四类:

  1. **通道凭证:**默认提供了基于HTTP/2的TLS对客户端和服务端交换的所有数据进行加密传输
  2. **调用凭证:**被附加在每次RPC调用上通过Credentials将认证信息附加到消息头中由服务端做授权认证
  3. **组合凭证:**将一个频道凭证和一个调用凭证关联起来创建一个新的频道凭证在这个频道上的每次调用会发送组合的调用凭证来作为授权数据最典型的场景就是使用HTTP S来传输Access Token
  4. **Google的OAuth 2.0**gRPC内置的谷歌的OAuth 2.0认证机制通过gRPC访问Google API 时使用Service Accounts密钥作为凭证获取授权令牌。

2.1 SSL/TLS认证

gRPC基于HTTP/2协议默认会开启SSL/TLS考虑到兼容性和适用范围gRPC提供了三种协商机制

  • **PlaintextNegotiator**非SSL/TLS加密传输的HTTP/2通道不支持客户端通过HTTP/1.1的Upgrade升级到HTTP/2,代码示例如下PlaintextNegotiator类
static final class PlaintextNegotiator implements ProtocolNegotiator {
   @Override
   public Handler newHandler(GrpcHttp2ConnectionHandler handler) {
     return new BufferUntilChannelActiveHandler(handler);
   }
 }

  • **PlaintextUpgradeNegotiator**非SSL/TLS加密传输的HTTP/2通道支持客户端通过HTTP/1.1的Upgrade升级到HTTP/2代码示例如下PlaintextUpgradeNegotiator类
static final class PlaintextUpgradeNegotiator implements ProtocolNegotiator {
   @Override
   public Handler newHandler(GrpcHttp2ConnectionHandler handler) {
          Http2ClientUpgradeCodec upgradeCodec = new Http2ClientUpgradeCodec(handler);
     HttpClientCodec httpClientCodec = new HttpClientCodec();
     final HttpClientUpgradeHandler upgrader =
         new HttpClientUpgradeHandler(httpClientCodec, upgradeCodec, 1000);
     return new BufferingHttp2UpgradeHandler(upgrader);
   }
 }

  • **TlsNegotiator**基于SSL/TLS加密传输的HTTP/2通道代码示例如下TlsNegotiator类
static final class TlsNegotiator implements ProtocolNegotiator {
   private final SslContext sslContext;
   private final String host;
   private final int port;
   TlsNegotiator(SslContext sslContext, String host, int port) {
     this.sslContext = checkNotNull(sslContext, "sslContext");
     this.host = checkNotNull(host, "host");
     this.port = port;
   }

下面对gRPC的SSL/TLS工作原理进行详解。

2.1.1 SSL/TLS工作原理

SSL/TLS分为单向认证和双向认证在实际业务中单向认证使用较多即客户端认证服务端服务端不认证客户端。

SSL单向认证的过程原理如下

  1. SL客户端向服务端传送客户端SSL协议的版本号、支持的加密算法种类、产生的随机数以及其它可选信息
  2. 服务端返回握手应答向客户端传送确认SSL协议的版本号、加密算法的种类、随机数以及其它相关信息
  3. 服务端向客户端发送自己的公钥;
  4. 客户端对服务端的证书进行认证服务端的合法性校验包括证书是否过期、发行服务器证书的CA是否可靠、发行者证书的公钥能否正确解开服务器证书的“发行者的数字签名”、服务器证书上的域名是否和服务器的实际域名相匹配等
  5. 客户端随机产生一个用于后面通讯的“对称密码”,然后用服务端的公钥对其加密,将加密后的“预主密码”传给服务端;
  6. 服务端将用自己的私钥解开加密的“预主密码”,然后执行一系列步骤来产生主密码;
  7. 客户端向服务端发出信息,指明后面的数据通讯将使用主密码为对称密钥,同时通知服务器客户端的握手过程结束;
  8. 服务端向客户端发出信息,指明后面的数据通讯将使用主密码为对称密钥,同时通知客户端服务器端的握手过程结束;
  9. SSL的握手部分结束SSL安全通道建立客户端和服务端开始使用相同的对称密钥对数据进行加密然后通过Socket进行传输。

SSL单向认证的流程图如下所示

SSL双向认证相比单向认证多了一步服务端发送认证请求消息给客户端客户端发送自签名证书给服务端进行安全认证的过程。

客户端接收到服务端要求客户端认证的请求消息之后,发送自己的证书信息给服务端,信息如下:

服务端对客户端的自签名证书进行认证,信息如下:

2.1.2 HTTP/2的ALPN

对于一些新的web协议例如HTTP/2客户端和浏览器需要知道服务端是否支持HTTP/2,对于HTTP/2 Over HTTP可以使用HTTP/1.1的Upgrade机制进行协商对于HTTP/2 Over TLS则需要使用到NPN或ALPN扩展来完成协商。

ALPN作为HTTP/2 Over TLS的协商机制已经被定义到 RFC7301中从2016年开始它已经取代NPN成为HTTP/2Over TLS的标准协商机制。目前所有支持HTTP/2的浏览器都已经支持ALPN。

Jetty为 OpenJDK 7和OpenJDK 8提供了扩展的ALPN实现JDK默认不支持ALPN类库与Jetty容器本身并不强绑定无论是否使用Jetty作为Web容器都可以集成Jetty提供的ALPN类库以实现基于TLS的HTTP/2协议。

如果要开启ALPN需要增加如下JVM启动参数

java -Xbootclasspath/p:<path_to_alpn_boot_jar> ...

客户端代码示例如下:

SSLContext sslContext = ...;
final SSLSocket sslSocket = (SSLSocket)context.getSocketFactory().createSocket("localhost", server.getLocalPort());
ALPN.put(sslSocket, new ALPN.ClientProvider()
{
    public boolean supports()
    {
        return true;
    }
    public List<String> protocols()
    {
        return Arrays.asList("h2", "http/1.1");
    }
    public void unsupported()
    {
        ALPN.remove(sslSocket);
    }
    public void selected(String protocol)
    {
        ALPN.remove(sslSocket);
          }
});

服务端代码示例如下:

final SSLSocket sslSocket = ...;
ALPN.put(sslSocket, new ALPN.ServerProvider()
{
    public void unsupported()
    {
        ALPN.remove(sslSocket);
    }
    public String select(List<String> protocols);
    {
        ALPN.remove(sslSocket);
        return protocols.get(0);
    }
});

以上代码示例来源:http://www.eclipse.org/jetty/documentation/9.3.x/alpn-chapter.html

需要指出的是Jetty ALPN类库版本与JDK版本是配套使用的配套关系如下所示

可以通过如下网站查询双方的配套关系:http://www.eclipse.org/jetty/documentation/9.3.x/alpn-chapter.html

如果大家需要了解更多的Jetty ALPN相关信息可以下载jetty的ALPN源码和文档学习。

2.1.3 gRPC 的TLS策略

gRPC的TLS实现有两种策略

  1. 基于OpenSSL的TLS
  2. 基于Jetty ALPN/NPN的TLS

对于非安卓的后端Java应用gRPC强烈推荐使用OpenSSL原因如下

  1. 性能更高基于OpenSSL的gRPC调用比使用JDK GCM的性能高10倍以上
  2. 密码算法更丰富OpenSSL支持的密码算法比JDK SSL提供的更丰富特别是HTTP/2协议使用的加密算法
  3. OpenSSL支持ALPN回退到NPN
  4. 不需要根据JDK的版本升级配套升级ALPN类库Jetty的ALPN版本与JDK特定版本配套使用

gRPC的HTTP/2和TLS基于Netty框架实现如果使用OpenSSL则需要依赖Netty的netty-tcnative。

Netty的OpenSSL有两种实现机制Dynamic linked和Statically Linked。在开发和测试环境中建议使用Statically Linked的方式netty-tcnative-boringssl-static它提供了对ALPN的支持以及HTTP/2需要的密码算法不需要额外再集成Jetty的ALPN类库。从1.1.33.Fork16版本开始支持所有的操作系统可以实现跨平台运行。

对于生产环境则建议使用Dynamic linked的方式原因如下

  1. 很多场景下需要升级OpenSSL的版本或者打安全补丁如果使用动态链接方式例如apt-ge则应用软件不需要级联升级
  2. 对于一些紧急的OpenSSL安全补丁如果采用Statically Linked的方式需要等待Netty社区提供新的静态编译补丁版本可能会存在一定的滞后性。

netty-tcnative-boringssl-static的Maven配置如下

<project>
  <dependencies>
    <dependency>
      <groupId>io.netty</groupId>
      <artifactId>netty-tcnative-boringssl-static</artifactId>
      <version>2.0.6.Final</version>
    </dependency>
  </dependencies>
</project>

使用Dynamically Linked (netty-tcnative)的相关约束如下:

OpenSSL version >= 1.0.2 for ALPN

或者

version >= 1.0.1 for NPN

  1. 类路径中包含
netty-tcnative version >= 1.1.33.Fork7

尽管gRPC强烈不建议使用基于JDK的TLS但是它还是提供了对Jetty ALPN/NPN的支持。

通过Xbootclasspath参数开启ALPN示例如下

java -Xbootclasspath/p:/path/to/jetty/alpn/extension.jar

由于ALPN类库与JDK版本号有强对应关系如果匹配错误则会导致SSL握手失败因此可以通过 Jetty-ALPN-Agent来自动为JDK版本选择合适的ALPN版本启动参数如下所示

java -javaagent:/path/to/jetty-alpn-agent.jar

2.1.4 基于TLS的gRPC代码示例

以基于JDKJetty-ALPN的TLS为例给出gRPC SSL安全认证的代码示例。

TLS服务端创建

int port = 18443;
    SelfSignedCertificate ssc = new SelfSignedCertificate();
    server = ServerBuilder.forPort(port).useTransportSecurity(ssc.certificate(),
            ssc.privateKey())
        .addService(new GreeterImpl())
        .build()
        .start();

其中SelfSignedCertificate是Netty提供的用于测试的临时自签名证书类在实际项目中需要加载生成环境的CA和密钥。
在启动参数中增加SSL握手日志打印以及Jetty的ALPN Agent类库示例如下

启动服务端显示SSL证书已经成功加载

TLS客户端代码创建

this(NettyChannelBuilder.forAddress(host, port).sslContext(
            GrpcSslContexts.forClient().
            ciphers(Http2SecurityUtil.CIPHERS,
                    SupportedCipherSuiteFilter.INSTANCE).
            trustManager(InsecureTrustManagerFactory.INSTANCE).build()));

NettyChannel创建时使用gRPC的GrpcSslContexts指定客户端模式设置HTTP/2的密钥同时加载CA证书工厂完成TLS客户端的初始化。

与服务端类似,需要通过-javaagent指定ALPN Agent类库路径同时开启SSL握手调试日志打印启动客户端运行结果如下所示

2.1.5 gRPC TLS源码分析

gRPC在Netty SSL类库基础上做了二次封装以简化业务的使用以服务端代码为例进行说明服务端开启TLS代码如下NettyServerBuilder类

public NettyServerBuilder useTransportSecurity(File certChain, File privateKey) {
    try {
      sslContext = GrpcSslContexts.forServer(certChain, privateKey).build();

实际调用GrpcSslContexts创建了Netty SslContext下面一起分析下GrpcSslContexts的实现它调用了Netty SslContextBuilder加载X.509 certificate chain file和PKCS#8 private key filePEM格式代码如下SslContextBuilder类

public static SslContextBuilder forServer(File keyCertChainFile, File keyFile) {
        return new SslContextBuilder(true).keyManager(keyCertChainFile, keyFile);
    }

Netty的SslContext加载keyCertChainFile和private key fileSslContextBuilder类

X509Certificate[] keyCertChain;
        PrivateKey key;
        try {
            keyCertChain = SslContext.toX509Certificates(keyCertChainFile);
        } catch (Exception e) {
            throw new IllegalArgumentException("File does not contain valid certificates: " + keyCertChainFile, e);
        }
        try {
            key = SslContext.toPrivateKey(keyFile, keyPassword);

加载完成之后通过SslContextBuilder创建SslContext完成SSL上下文的创建。

服务端开启SSL之后gRPC会根据初始化完成的SslContext创建SSLEngine然后实例化Netty的SslHandler将其加入到ChannelPipeline中代码示例如下ServerTlsHandler类

public void handlerAdded(ChannelHandlerContext ctx) throws Exception {
      super.handlerAdded(ctx);
      SSLEngine sslEngine = sslContext.newEngine(ctx.alloc());
      ctx.pipeline().addFirst(new SslHandler(sslEngine, false));
    }

下面一起分析下Netty SSL服务端的源码SSL服务端接收客户端握手请求消息的入口方法是decode方法首先获取接收缓冲区的读写索引并对读取的偏移量指针进行备份SslHandler类

protected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) throws SSLException {
        final int startOffset = in.readerIndex();
        final int endOffset = in.writerIndex();
        int offset = startOffset;
        int totalLength = 0;
...

对半包标识进行判断如果上一个消息是半包消息则判断当前可读的字节数是否小于整包消息的长度如果小于整包长度则说明本次读取操作仍然没有把SSL整包消息读取完整需要返回I/O线程继续读取代码如下

if (packetLength > 0) {
            if (endOffset - startOffset < packetLength) {
                return;
...

如果消息读取完整,则修改偏移量:同时置位半包长度标识:

} else {
                offset += packetLength;
                totalLength = packetLength;
                packetLength = 0;
            }

下面在for循环中读取SSL消息一个ByteBuf可能包含多条完整的SSL消息。首先判断可读的字节数是否小于协议消息头长度如果是则退出循环继续由I/O线程接收后续的报文

if (readableBytes < SslUtils.SSL_RECORD_HEADER_LENGTH) {
                break;
            }

获取SSL消息包的报文长度具体算法不再介绍可以参考SSL的规范文档进行解读代码如下SslUtils类

 if (tls) {
            // SSLv3 or TLS - Check ProtocolVersion
            int majorVersion = buffer.getUnsignedByte(offset + 1);
            if (majorVersion == 3) {
                // SSLv3 or TLS
                packetLength = buffer.getUnsignedShort(offset + 3) + SSL_RECORD_HEADER_LENGTH;
...

对长度进行判断如果SSL报文长度大于可读的字节数说明是个半包消息将半包标识长度置位返回I/O线程继续读取后续的数据报代码如下SslHandler类

 if (packetLength > readableBytes) {
                // wait until the whole packet can be read
                this.packetLength = packetLength;
                break;
            }

对消息进行解码将SSL加密的消息解码为加密前的原始数据unwrap方法如下

private boolean unwrap(
            ChannelHandlerContext ctx, ByteBuf packet, int offset, int length) throws SSLException {

        boolean decoded = false;
        boolean wrapLater = false;
        boolean notifyClosure = false;
        ByteBuf decodeOut = allocate(ctx, length);
        try {
            while (!ctx.isRemoved()) {
                final SSLEngineResult result = engineType.unwrap(this, packet, offset, length, decodeOut);
                final Status status = result.getStatus();
...

调用SSLEngine的unwrap方法对SSL原始消息进行解码对解码结果进行判断如果越界说明out缓冲区不够需要进行动态扩展。如果是首次越界为了尽量节约内存使用SSL最大缓冲区长度和SSL原始缓冲区可读的字节数中较小的。如果再次发生缓冲区越界说明扩张后的缓冲区仍然不够用直接使用SSL缓冲区的最大长度保证下次解码成功。

解码成功之后对SSL引擎的操作结果进行判断如果需要继续接收数据则继续执行解码操作如果需要发送握手消息则调用wrapNonAppData发送握手消息如果需要异步执行SSL代理任务则调用立即执行线程池执行代理任务如果是握手成功则设置SSL操作结果发送SSL握手成功事件如果是应用层的业务数据则继续执行解码操作其它操作结果抛出操作类型异常SslHandler类

switch (handshakeStatus) {
                    case NEED_UNWRAP:
                        break;
                    case NEED_WRAP:
                        wrapNonAppData(ctx, true);
                        break;
                    case NEED_TASK:
                        runDelegatedTasks();
                        break;
                    case FINISHED:
                        setHandshakeSuccess();
                        wrapLater = true;
...

需要指出的是SSL客户端和服务端接收对方SSL握手消息的代码是相同的那为什么SSL服务端和客户端发送的握手消息不同呢这些是SSL引擎负责区分和处理的我们在创建SSL引擎的时候设置了客户端模式SSL引擎就是根据这个来进行区分的。

SSL的消息读取实际就是ByteToMessageDecoder将接收到的SSL加密后的报文解码为原始报文然后将整包消息投递给后续的消息解码器对消息做二次解码。基于SSL的消息解码模型如下

SSL消息读取的入口都是decode因为是非握手消息它的处理非常简单就是循环调用引擎的unwrap方法将SSL报文解码为原始的报文代码如下SslHandler类

switch (status) {
                case BUFFER_OVERFLOW:
                    int readableBytes = decodeOut.readableBytes();
                    int bufferSize = engine.getSession().getApplicationBufferSize() - readableBytes;
                    if (readableBytes > 0) {
                        decoded = true;
                        ctx.fireChannelRead(decodeOut);
...

握手成功之后的所有消息都是应用数据因此它的操作结果为NOT_HANDSHAKING遇到此标识之后继续读取消息直到没有可读的字节退出循环。

如果读取到了可用的字节则将读取到的缓冲区加到输出结果列表中有后续的Handler进行处理例如对HTTPS的请求报文做反序列化。

SSL消息发送时由SslHandler对消息进行编码编码后的消息实际就是SSL加密后的消息。从待加密的消息队列中弹出消息调用SSL引擎的wrap方法进行编码代码如下SslHandler类

 while (!ctx.isRemoved()) {
                Object msg = pendingUnencryptedWrites.current();
                if (msg == null) {
                    break;
                }
                ByteBuf buf = (ByteBuf) msg;
                if (out == null) {
                    out = allocateOutNetBuf(ctx, buf.readableBytes());
                }
                SSLEngineResult result = wrap(alloc, engine, buf, out);

wrap方法很简单就是调用SSL引擎的编码方法然后对写索引进行修改如果缓冲区越界则动态扩展缓冲区

for (;;) {
                ByteBuffer out0 = out.nioBuffer(out.writerIndex(), out.writableBytes());
                SSLEngineResult result = engine.wrap(in0, out0);
                in.skipBytes(result.bytesConsumed());
                out.writerIndex(out.writerIndex() + result.bytesProduced());
...

对SSL操作结果进行判断因为已经握手成功因此返回的结果是NOT_HANDSHAKING执行finishWrap方法调用ChannelHandlerContext的write方法将消息写入发送缓冲区中如果待发送的消息为空则构造空的ByteBuf写入SslHandler类

private void finishWrap(ChannelHandlerContext ctx, ByteBuf out, ChannelPromise promise, boolean inUnwrap,
            boolean needUnwrap) {
        if (out == null) {
            out = Unpooled.EMPTY_BUFFER;
        } else if (!out.isReadable()) {
            out.release();
            out = Unpooled.EMPTY_BUFFER;
        }
        if (promise != null) {
            ctx.write(out, promise);
        } else {
            ctx.write(out);
        }

编码后调用ChannelHandlerContext的flush方法消息发送给对方完成消息的加密发送。

2.2 Google OAuth 2.0

2.2.1 工作原理

gRPC默认提供了多种OAuth 2.0认证机制假如gRPC应用运行在GCE里可以通过服务账号的密钥生成Token用于RPC调用的鉴权密钥可以从环境变量 GOOGLE_APPLICATION_CREDENTIALS 对应的文件里加载。如果使用GCE可以在虚拟机设置的时候为其配置一个默认的服务账号运行是可以与认证系统交互并为Channel生成RPC调用时的access Token。

2.2.2. 代码示例

以OAuth2认证为例客户端代码如下所示创建OAuth2Credentials并实现Token刷新接口

创建Stub时指定CallCredentials代码示例如下基于gRPC1.3版本,不同版本接口可能发生变化):

GoogleAuthLibraryCallCredentials callCredentials =
            new GoogleAuthLibraryCallCredentials(credentials);
blockingStub = GreeterGrpc.newBlockingStub(channel)
.withCallCredentials(callCredentials);

下面的代码示例用于在GCE环境中使用Google的OAuth2

ManagedChannel channel = ManagedChannelBuilder.forTarget("pubsub.googleapis.com")
.build();
GoogleCredentials creds = GoogleCredentials.getApplicationDefault();
creds = creds.createScoped(Arrays.asList("https://www.googleapis.com/auth/pubsub"));
CallCredentials callCreds = MoreCallCredentials.from(creds);
PublisherGrpc.PublisherBlockingStub publisherStub =
    PublisherGrpc.newBlockingStub(channel).withCallCredentials(callCreds);
publisherStub.publish(someMessage);

2.3. 自定义安全认证策略

参考Google内置的Credentials实现类实现自定义的Credentials可以扩展gRPC的鉴权策略Credentials的实现类如下所示

以OAuth2Credentials为例实现getRequestMetadata(URI uri)方法获取access token将其放入Metadata中通过CallCredentials将其添加到请求Header中发送到服务端代码示例如下GoogleAuthLibraryCallCredentials类

Map<String, List<String>> metadata = creds.getRequestMetadata(uri);
            Metadata headers;
            synchronized (GoogleAuthLibraryCallCredentials.this) {
              if (lastMetadata == null || lastMetadata != metadata) {
                lastMetadata = metadata;
                lastHeaders = toHeaders(metadata);
              }
              headers = lastHeaders;
            }
            applier.apply(headers);

对于扩展方需要自定义Credentials实现getRequestMetadata(URI uri)方法由gRPC的CallCredentials将鉴权信息加入到HTTP Header中发送到服务端。

源代码下载地址:

链接: https://github.com/geektime-geekbang/gRPC_LLF/tree/master