你应该知道的RPC原理

我欲只争朝夕

发布于 2023-11-7 11:42

浏览

0收藏

前言

本文是在别人的文章上加上了LZ很多的示例代码和思路写成的，并且在GitHub上写了相应的代码，本文说的思路都有体现，点击最下面原文链接里面有LZ的GitHub地址。

文章原文链接：http://www.cnblogs.com/LBSer/p/4853234.html

在学校期间大家都写过不少程序，比如写个hello world服务类，然后本地调用下，如下所示。这些程序的特点是服务消费方和服务提供方是本地调用关系。

public interface HelloService {

   public String sayHello(String content);
}

public class HelloServiceImpl implements HelloService {

   @Override
   public String sayHello(String content) {
       return "hello, " + content;
   }
}

public class Test {

   public static void main(String[] args) {
       HelloService helloService = new HelloServiceImpl();
       String msg = helloService.sayHello("world");
       // hello world
       System.out.println(msg);
   }
}

而一旦踏入公司尤其是大型互联网公司就会发现，公司的系统都由成千上万大大小小的服务组成，各服务部署在不同的机器上，由不同的团队负责。这时就会遇到两个问题：（1）要搭建一个新服务，免不了需要依赖他人的服务，而现在他人的服务都在远端，怎么调用？（2）其它团队要使用我们的新服务，我们的服务该怎么发布以便他人调用？下文将对这两个问题展开探讨。

如何调用他人的远程服务？

由于各服务部署在不同机器，服务间的调用免不了网络通信过程，服务消费方每调用一个服务都要写一坨网络通信相关的代码，不仅复杂而且极易出错。

如果有一种方式能让我们像调用本地服务一样调用远程服务，而让调用者对网络通信这些细节透明，那么将大大提高生产力，比如服务消费方在执行helloWorldService.sayHello(“test”)时，实质上调用的是远端的服务。这种方式其实就是RPC（Remote Procedure Call Protocol），在各大互联网公司中被广泛使用，如阿里巴巴的hsf、dubbo（开源）、Facebook的thrift（开源）、Google grpc（开源）、Twitter的finagle（开源）等。

要让网络通信细节对使用者透明，我们需要对通信细节进行封装，我们先看下一个RPC调用的流程涉及到哪些通信细节：

你应该知道的RPC原理-鸿蒙开发者社区

服务消费方（client）调用以本地调用方式调用服务；
client stub接收到调用后负责将方法、参数等组装成能够进行网络传输的消息体（序列化）；
client stub找到服务地址，并将消息发送到服务端；
server stub收到消息后进行解码；
server stub根据解码结果调用本地的服务；
本地服务执行并将结果返回给server stub；
server stub将返回结果打包成消息并发送至消费方；
client stub接收到消息，并进行解码（反序列化）；
服务消费方得到最终结果。

RPC的目标就是要2~8这些步骤都封装起来，让用户对这些细节透明。

怎么做到透明化远程服务调用？

怎么封装通信细节才能让用户像以本地调用方式调用远程服务呢？对java来说就是使用代理！java代理有两种方式：（1）jdk 动态代理；（2）字节码生成。尽管字节码生成方式实现的代理更为强大和高效，但代码维护不易，大部分公司实现RPC框架时还是选择动态代理方式。

下面简单介绍下动态代理怎么实现我们的需求。

服务端方面只要根据请求的信息通过反射调用响应的响应的类和方法，获得结果返回即可

public class RpcProviderMain {

   public static void main(String[] args) throws Exception {
       HelloService service = new HelloServiceImpl();
       ProviderReflect.provider(service, 8080);
   }
}

public class ProviderReflect {

   private static final ExecutorService executorService = Executors.newCachedThreadPool();

   public static void provider(final Object service, int port) throws Exception {

       ServerSocket serverSocket = new ServerSocket(port);

       while (true) {
           // 获取一个套接字（阻塞）。所以为了并行，来一个请求，开一个线程处理
           // 为了复用线程，用了threadPool，这是用bio进行网络通信时业内的一般做法
           final Socket socket = serverSocket.accept();
           executorService.execute(new RequestHandler(service, socket));
       }
   }
}

public class RequestHandler implements Runnable {

   private Object service;
   private Socket socket;

   public RequestHandler(Object service, Socket socket) {
       this.service = service;
       this.socket = socket;
   }

   @Override
   public void run() {

       ObjectInputStream inputStream = null;
       ObjectOutputStream outputStream = null;

       try {
           inputStream = new ObjectInputStream(socket.getInputStream());
           String methodName = inputStream.readUTF();
           Object[] arguments = (Object[]) inputStream.readObject();
           outputStream = new ObjectOutputStream(socket.getOutputStream());
           // 这里用了org.apache.commons.lang3中的工具方法 MethodUtils.invokeExactMethod对服务实现类发起反射调用
           // 当然你也可以用Java原生api反射调用类的方法
           Object result = MethodUtils.invokeExactMethod(service, methodName, arguments);
       } catch (Exception e) {
           e.printStackTrace();
       } finally {
           IOUtils.closeQuietly(inputStream);
           IOUtils.closeQuietly(outputStream);
       }
   }

}

客户端方面，我们需要实现RequestInvocationHandler代理类，代理类的invoke方法中封装了与远端服务通信的细节，客户端首先从ConsumerProxy获得服务端的接口，当执行service.sayHello(“world”);方法时就会调用invoke方法。

public class RpcConsumerMain {

   public static void main(String[] args) {

       HelloService service = ConsumerProxy.consume(HelloService.class, "127.0.0.1", 8080);
       for (int i = 0; i < 10; i++) {
           String msg = service.sayHello("world " + i);
           // hello world 0
           // hello world 1
           System.out.println(msg);
       }
   }
}

public class ConsumerProxy {

   public static <T> T consume(final Class<T> interfaceClass, final String host, final int port) {

       return (T) Proxy.newProxyInstance(interfaceClass.getClassLoader(),
               new Class<?>[]{interfaceClass}, new ConsumerInvocationHandler(host, port));
   }
}

public class ConsumerInvocationHandler implements InvocationHandler {

   private String host;
   private Integer prot;

   public ConsumerInvocationHandler(String host, Integer prot) {
       this.host = host;
       this.prot = prot;
   }

   @Override
   public Object invoke(Object proxy, Method method, Object[] args) throws Throwable {

       Socket socket = null;
       ObjectInputStream inputStream = null;
       ObjectOutputStream outputStream = null;

       try {
           socket = new Socket(host, prot);
           outputStream = new ObjectOutputStream(socket.getOutputStream());
           outputStream.writeUTF(method.getName());
           outputStream.writeObject(args);
           inputStream = new ObjectInputStream(socket.getInputStream());
           Object result = inputStream.readObject();
           return result;
       } catch (Exception e) {
           e.printStackTrace();
           return null;
       } finally {
           IOUtils.closeQuietly(socket);
           IOUtils.closeQuietly(inputStream);
           IOUtils.closeQuietly(outputStream);
       }
   }
}

到现在为止你已经能写一个RPC框架了，有过Dubbo和Thrift使用经验的同学可能对这段代码理解比较深入，Dubbo和Thrift都是服务端和客户端面向接口编程，服务端写实现，客户端针对接口进行调用，而中间的序列化和反序列化，以及网络通信部分框架已经帮你写好了

怎么对消息进行编码和解码？

确定消息数据结构

上节讲了invoke里需要封装通信细节，而通信的第一步就是要确定客户端和服务端相互通信的消息结构。客户端的请求消息结构一般需要包括以下内容：

接口名称，在我们的例子里接口名是“HelloWorldService”，如果不传，服务端就不知道调用哪个接口了；
方法名，一个接口内可能有很多方法，如果不传方法名服务端也就不知道调用哪个方法；
参数类型&参数值，参数类型有很多，比如有bool、int、long、double、string、map、list，甚至如struct（class），以及相应的参数值；
超时时间
requestID，标识唯一请求id，在下面一节会详细描述requestID的用处。

同理服务端返回的消息结构一般包括以下内容。

返回值
状态code
requestID

上面的示例中，为了让大家快速明白RPC的流程，只传了方法名和参数类型，服务端默认了只会调用HelloService接口，当然你也可以在上面的示例中加入接口名称等，只需要在服务端写好相应的处理逻辑即可

序列化

一旦确定了消息的数据结构后，下一步就是要考虑序列化与反序列化了。

什么是序列化？序列化就是将数据结构或对象转换成二进制串的过程，也就是编码的过程。

什么是反序列化？将在序列化过程中所生成的二进制串转换成数据结构或者对象的过程。

为什么需要序列化？转换为二进制串后才好进行网络传输嘛！

为什么需要反序列化？将二进制转换为对象才好进行后续处理！

现如今序列化的方案越来越多，每种序列化方案都有优点和缺点，它们在设计之初有自己独特的应用场景，那到底选择哪种呢？从RPC的角度上看，主要看三点：（1）通用性，比如是否能支持Map等复杂的数据结构；（2）性能，包括时间复杂度和空间复杂度，由于RPC框架将会被公司几乎所有服务使用，如果序列化上能节约一点时间，对整个公司的收益都将非常可观，同理如果序列化上能节约一点内存，网络带宽也能省下不少；（3）可扩展性，对互联网公司而言，业务变化飞快，如果序列化协议具有良好的可扩展性，支持自动增加新的业务字段，而不影响老的服务，这将大大提供系统的灵活度。

上面例子中，我用了Java的JDK来实现序列化。Java的序列化主要通过对象输出流java.io.ObjectOutputStream与对象输入流来实现，其中被序列化的类需要实现java.io.Serializable接口。目前互联网公司广泛使用Protobuf、Thrift、Avro等成熟的序列化解决方案来搭建RPC框架，这些都是久经考验的解决方案。当然还可以使用各种XML序列化框架，JSON序列化框架，如Jackson等。

通信

消息数据结构被序列化为二进制串后，下一步就要进行网络通信了。目前有两种常用IO通信模型：（1）BIO；（2）NIO。一般RPC框架需要支持这两种IO模型，当然上面的例子使用BIO简单实现的网络通信

如何实现RPC的IO通信框架呢？（1）使用java nio方式自研，这种方式较为复杂，而且很有可能出现隐藏bug，但也见过一些互联网公司使用这种方式；（2）基于mina，mina在早几年比较火热，不过这些年版本更新缓慢（3）基于netty，现在很多RPC框架都直接基于netty这一IO通信框架，省力又省心，比如阿里巴巴的HSF、dubbo，Twitter的finagle等。

消息里为什么要有requestID？

如果使用netty的话，一般会用channel.writeAndFlush()方法来发送消息二进制串，这个方法调用后对于整个远程调用(从发出请求到接收到结果)来说是一个异步的，即对于当前线程来说，将请求发送出来后，线程就可以往后执行了，至于服务端的结果，是服务端处理完成后，再以消息的形式发送给客户端的。于是这里出现以下两个问题：

怎么让当前线程“暂停”，等结果回来后，再向后执行？
如果有多个线程同时进行远程方法调用，这时建立在client server之间的socket连接上会有很多双方发送的消息传递，前后顺序也可能是随机的，server处理完结果后，将结果消息发送给client，client收到很多消息，怎么知道哪个消息结果是原先哪个线程调用的？

如下图所示，线程A和线程B同时向client socket发送请求requestA和requestB，socket先后将requestB和requestA发送至server，而server可能将responseA先返回，尽管requestA请求到达时间更晚。我们需要一种机制保证responseA丢给ThreadA，responseB丢给ThreadB。

你应该知道的RPC原理-鸿蒙开发者社区

client线程每次通过socket调用一次远程接口前，生成一个唯一的ID，即requestID（requestID必需保证在一个Socket连接里面是唯一的），一般常常使用AtomicLong从0开始累计数字生成唯一ID；
将处理结果的回调对象callback，存放到全局ConcurrentHashMap里面put(requestID, callback)；
当线程调用channel.writeAndFlush()发送消息后，紧接着执行callback的get()方法试图获取远程返回的结果。在get()内部，则使用synchronized获取回调对象callback的锁，再先检测是否已经获取到结果，如果没有，然后调用callback的wait()方法，释放callback上的锁，让当前线程处于等待状态。

public Object get() {
   synchronized (this) { // 旋锁
       while (!isDone) { // 是否有结果了
           wait(); //没结果是释放锁，让当前线程处于等待状态
       }
   }
}

获得结果了

private void setDone(Response res) {
   this.res = res;
   isDone = true;
   synchronized (this) { //获取锁，因为前面wait()已经释放了callback的锁了
       notifyAll(); // 唤醒处于等待的线程
   }
}

如何发布自己的服务？

如何让别人使用我们的服务呢？有同学说很简单嘛，告诉使用者服务的IP以及端口就可以了啊。确实是这样，这里问题的关键在于是自动告知还是人肉告知。

人肉告知的方式：如果你发现你的服务一台机器不够，要再添加一台，这个时候就要告诉调用者我现在有两个ip了，你们要轮询调用来实现负载均衡；调用者咬咬牙改了，结果某天一台机器挂了，调用者发现服务有一半不可用，他又只能手动修改代码来删除挂掉那台机器的ip。现实生产环境当然不会使用人肉方式。

有没有一种方法能实现自动告知，即机器的增添、剔除对调用方透明，调用者不再需要写死服务提供方地址？当然可以，现如今zookeeper被广泛用于实现服务自动注册与发现功能！

简单来讲，zookeeper可以充当一个服务注册表（Service Registry），让多个服务提供者形成一个集群，让服务消费者通过服务注册表获取具体的服务访问地址（ip+端口）去访问具体的服务提供者。如下图所示：

你应该知道的RPC原理-鸿蒙开发者社区

具体来说，zookeeper就是个分布式文件系统，每当一个服务提供者部署后都要将自己的服务注册到zookeeper的某一路径上: /{service}/{version}/{ip:port}, 比如我们的HelloService部署到两台机器，那么zookeeper上就会创建两条目录：分别为/HelloService/1.0.0/100.19.20.01:16888 /HelloService/1.0.0/100.19.20.02:16888。

zookeeper提供了“心跳检测”功能，它会定时向各个服务提供者发送一个请求（实际上建立的是一个 Socket 长连接），如果长期没有响应，服务中心就认为该服务提供者已经“挂了”，并将其剔除，比如100.19.20.02这台机器如果宕机了，那么zookeeper上的路径就会只剩/HelloService/1.0.0/100.19.20.01:16888。

服务消费者会去监听相应路径（/HelloService/1.0.0），一旦路径上的数据有任务变化（增加或减少），zookeeper都会通知服务消费方服务提供者地址列表已经发生改变，从而进行更新。

更为重要的是zookeeper与生俱来的容错容灾能力（比如leader选举），可以确保服务注册表的高可用性。

RPC项目实现了Client和Server之间的点对点调用流程。调用方和服务方一般采用直连的调用方法。而分布式服务框架，除了包括RPC的特性，还包括多台Server提供服务的负载均衡策略及实现，服务的注册，发布和引入，已经服务的高可用策略，服务治理等特性，而ZooKeeper在这些特性中发挥了重要作用

文章转载自公众号：Java识堂

分类

其他

标签

java

RPC原理

已于2023-11-7 11:42:34修改