图中3个框表示全部请求被打散在3个阶段履行。第一框到第二个框之间表示RPC办事正在履行。此时处理请求的线程已经释放。它可以持续接收处理其它请求。RPC办事有返回值或者超时的时刻，会在零丁的一个线程池中唤起注册的监听器。最终通知Servlet容器来持续履行第三个框中的interceptor.complete。经由过程回调通知的机制，将使CPU获得充分的应用。避免了启动一个宝贵的线程来等待IO的完成。
Graph-Based Execution Engine
真实的营业场景要比膳绫擎的代码复杂的多。例如下单营业，一般都邑依附用户，报价，付出，优惠等办事。办事之存放在依附关系，如黑名单办事校验经由过程才能提交订单。还有一些办事之间处于对等关系，互相之间没有依附，可以并行调用，以降低办事的┞符体响应时光。如下图所示，这是一个常见的办事依附关系：
图中A、B、C没有依附关系，实际上可以并行履行。C办事不关怀返回结不雅，是以将调用通知发出后及可停止。D办事须要等待A的结不雅，E须要等待B、D的履行结不雅。应用传统的异步编程的话,大年夜概是这个样子：
可以看到办事的依附关系隐蔽在代码行间，营业逻辑穿插在各个callback中，中心惹人了ListeableFuture<BT> futureBT 治理异步状况。不太易于浏览及保护。为此，我们供给了一个Graph-Based Execution Engine(GBEE)。GBEE的重要目标在于解决以下：
(1)治理办事之间的依附关系
将办事之间的依附关系大年夜营业代码平分别出来，经由过程一个有向无环图的数据构造来描述办事之间的依附关系。图中每个节点保存了其前驱(后驱)节点。每个节点可以履行的前提前提是其所有前驱节点都完成。
(2)同一注册callback
每个节点可以覆写callback，用来注册自身的监听器。一般用来转换结不雅，记录监控。callback同一由履行器治理注册。避免在代码嵌套中注册监听器。
(3)应用异尘事宜驱动履行
在GBEE中同一注册异尘事宜监听器，在事宜产生时驱动履行callback，或者在前提成熟时，唤起下一?节点的履行。
具体做法：
(1)将营业逻辑分别成多个节点，每个节点负责具体的营业逻辑履行，但没有任何状况，例如提议异步RPC调用，并返回ListenableFuture。
(2)经由过程设备文件来定义依附治理
每个Node定义了本身的parents,即表示依附关系。spring本身供给了办事的依附治理才能。是以其依附关系定义如下：
(3)供给了一个履行器Graph-Based Executor 来负责同一注册监听器以及治理异步状况。
每个请求达到后，经由过程膳绫擎的依附设备，可以构造出一个Graph-Based履行器：
Graph会找到根节点，多个根节点可以同时并行。
apply(node, context) 是一个递归调用，每次履行完当前node，主动探测下是否可以履行父节点为本身的节点：
Graph-Based Executor 将营业代码与底层的异步机制解耦，使得各个节点加倍存眷自身营业。
跋文
在迁徙具体营业时，也碰到一些比较常见的问题，供后续的实施者参考。
(1)公司RPC办事重要送是dubbo，应用公司的基本组件，可以便利应用异步调用。
(2)线上还有很多应用应用tomcat 6，Servlet 3 大年夜tomcat 7开端支撑，应当将相干应用进级到tomcat 7.
综合来看，以上一些优良的框架并不克不及急速应用到我们的项目中，惹人成本照样很高的。结合现有技巧架构上，以及产品正在快速迭代的情况下，我们对HTTP办事进行了一次轻量级的异步化改革。此次改革，惹人Graph-Based Execution Engine来解决办事之间复杂的依附关系，集中治理异步状况。结合Servlet 3.0供给了请求及释放tomcat容器线程的接口，充分应用Servlet容器线程资本。最后，经由过程spring mvc的异步模块连接这两种异步机制，达到了全栈异步化的目标。
(3)web.xml 设备有几个比较重要的设备。
为了让spring mvc真正启用异步支撑，除了须要将org.springframework.web.servlet.DispatcherServlet的异步选项激活，即：<async-supported>true</async-supported>
推荐阅读
Tech Neo技巧沙龙 | 11月25号，九州云/ZStack与您一路商量云时代收集界线治理实践 云计算是一个赓续成长的科学，人们须要懂得云计算切实其实切贸易好处。几年前，这个收益大年夜部分被认为>>>详细阅读
本文标题：HTTP服务异步化改造实践
地址：http://www.17bianji.com/lsqh/38834.html
1/2 1
网友点评
精彩导读
科技快报
品牌展示