百亿级企业级 RPC 框架开源了!

  • 时间:
  • 浏览:0

今天给我们 介绍给一款性能卓越的 RPC 开源框架,其作者可是我 推荐每个 Java 系统进程池池员都应该看的《Java 生态核心知识点下发》的原作者张玉龙。

说实话我第一次看多这种 资料的事先,就感觉作者是一位真正的技术爱好者,可是我通过我们 介绍终于认识了他。交谈之中得知他在美团工作,最初和我们 一并下发这份资料的初衷是为了面试,估计每天还可不还上能面试不多的应聘者,这份资料成了助手。强烈建议没法看这份资料的同科学学习下,作为 Java 生态知识体系构建也是一份不错的资源。

可是我得知业余时间他在研发一款开源的 RPC 开源框架,有之前 经过测试可支持百亿级别的调用,有之前 于近期终于完成推出 1.0 版本。这款开源软件名字叫做 Koalas,源代码地址:koalas-rpc,下面对这款开源软件做详细介绍,内容来源于 Koalas 。

Koalas 介绍

企业生产级百亿日 PV 高可用可拓展的 RPC 框架。理论上并发数量接近服务器下行带宽 ,客户端采用 thrift 协议,服务端支持 netty 和 thrift 的 TThreadedSelectorServer 半同步半异步系统进程池模型,支持动态扩容,服务上下线,权重动态,可用性配置,页面流量统计,支持 trace 跟踪等,碳酸岩接入 cat 支持数据大盘展示等,持续为这种 个以及中小型公司提供可靠的 RPC 框架技术方案。

Thrift 是这种 接口描述语言和二进制通讯协议,它被用来定义和创建跨语言的服务。它被当作另另两个 远程过程调用(RPC)框架来使用,是由 Facebook 为“大规模跨语言服务开发”而开发的。

为这种 叫 koalas

树袋熊英文翻译,希望考拉 RPC 给这种 不太喜欢动手这种 个去造轮子的人提供可靠的 RPC 使用环境。

为这种 要写这种 RPC

市面上常见的 RPC 框架可是我 ,grpc,motan,dubbo 等,有之前 随着不多的元素加入,繁复的下发等因素似使得这种 框架和 spring 一样,嘴笨 号称是轻量级,有之前 用起来却是我就们很蹩脚,少许的配置,繁复的 API 设计,嘴笨 ,我们 根本用不上这种 东西!!!

我也算得上是在可是我 个互联网企业厮杀过,见过可是我 可是我 的内部人员 RPC 框架,这种 优秀的设计我不想非常赞赏,有一天我经常想着,为这种 不对这种 设计原型进行聚合归类,于是这种 个搞一套【轻量级】 RPC 框架呢,于是利用业余时间开发此项目,希望源码对我们 对认识 RPC 框架起到推进的作用。

技术栈

  • thrift 0.8.0
  • spring-core-4.2.5,spring-context-4.2.5,spring-beans-4.2.5
  • log4j,slf4j
  • org.apache.commons(v2.0+)
  • io.netty4
  • fastJson
  • zookeeper
  • 点评cat(V3.0.0+ 做数据大盘统计上报等使用,可不配置)
  • AOP,反射代理等

技术架构

Koalas 架构图

序列化

考察了可是我 个序列化组件,其中包括jdk原生,kryo、hessian、protoStuff,thrift,json等,最终确定了Thrift,原因分析分析如下:原生JDK序列化反序列化下行带宽 堪忧,其序列化内容太过全面kryo和hessian,json相对来说比原生JDK强这种 ,有之前 对跨语言支持一般,可是我 舍弃了,最终想在protoBuf和Thrift协议上边确定一套框架,这种 框架很相通,支持跨语言,还可不还上能静态编译等等。有之前 protoBuf不带RPC服务,本着提供多套服务端模式(thrift rpc,netty)的清况 下,最终确定了Thrift协议。

IO系统进程池模型

原生socket还可不还上能模拟出简单的RPC框架,有之前 对于大规模并发,要求吞吐量的系统来说,也就算得上是另另两个 demo级别的,可是我 BIO肯定是不考虑了,NIO的模型在序列化技术选型的事先原因分析分析说了,Thrift这种 支持可是我 个io系统进程池模型,同步,异步,半同步异步等(SimpleServer,TNonblockingServer,THsHaServer,TThreadedSelectorServer,TThreadPoolServer),其中吞吐量最高的肯定是半同步半异步的IO模TThreadedSelectorServer了,具体原因分析分析我们 可自行google,这次不做多的阐述,确定好了模型事先,发现thrift我们 说可是我 神器一样的存在,再一想,对于服务端来说,IO模型为什么能少得了Netty啊,可是我 下决心也要支持Netty,有之前 很遗憾Netty目前没法对Thrift的序列化解析,拆包粘包的外理,有之前 有protoBuf,和http协议的封装,为什么办,这种 个在netty上写对thrift的支持呗,嘴笨 工作量大了这种 ,有之前 一想netty不可是我 干这种 事儿的嘛- -!

服务发现

支持集群的RPC框架上边,像dubbo,原因分析分析是这种 三方框架,对服务发现都进行的封装,没法自研RPC励志的话 ,服务发现就要这种 个来写了,没法简单小巧容易上手的zookeeper肯定是首选了。

内容展示

实际性能压测

8C 16G mac 开发本,单机 8000 次请求耗时截图

10w 次请求,为宜耗时 12s,平均 qps 在8000左右,在集群环境下会有不错的性能表现

数据大盘展示

koalas2.0 原因分析分析接入了 cat 服务,cat 服务支持 qps 统计,可用率,tp90line,tp99line,充裕自定义监控报警等,接入效果图

充裕的可视参数,流量统计,日,周,月报表展示等。

链路跟踪

对 RPC 服务来说,系统间的调用和排查异常接口,确定耗时代码是非常重要的,若果接入了 cat,koalsa-rpc 碳酸岩的支持链路跟踪,一切尽在背后!

最后

作者非常具有技术情怀,在聊天中说就剩这点爱好了,要坚持下去。听了这句话啥不是说了,点击下方链接,先 Star 为敬。

https://gitee.com/a1234567891/koalas-rpc