V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
ityouknow
V2EX  ›  推广

百亿级企业级 RPC 框架开源了!

  •  
  •   ityouknow · 2019-05-05 09:42:54 +08:00 · 2749 次点击
    这是一个创建于 1789 天前的主题,其中的信息可能已经有所发展或是发生改变。

    今天给大家介绍给一款性能卓越的 RPC 开源框架,其作者就是我推荐每个 Java 程序员都应该看的《 Java 生态核心知识点整理》的原作者张玉龙。

    说实话我第一次看到这个资料的时候,就感觉作者是一位真正的技术爱好者,后来通过朋友介绍终于认识了他。交谈之中得知他在美团工作,最初和朋友一起整理这份资料的初衷是为了面试,估计每天需要面试太多的应聘者,这份资料成了助手。强烈建议没有看这份资料的同学学习下,作为 Java 生态知识体系构建也是一份不错的资源。

    后来得知业余时间他在研发一款开源的 RPC 开源框架,并且经过测试可支持百亿级别的调用,并且于近期终于完成推出 1.0 版本。这款开源软件名字叫做 Koalas,源代码地址:koalas-rpc,下面对这款开源软件做详细介绍,内容来源于 Koalas。

    Koalas 介绍

    企业生产级百亿日 PV 高可用可拓展的 RPC 框架。理论上并发数量接近服务器带宽,客户端采用 thrift 协议,服务端支持 netty 和 thrift 的 TThreadedSelectorServer 半同步半异步线程模型,支持动态扩容,服务上下线,权重动态,可用性配置,页面流量统计,支持 trace 跟踪等,天然接入 cat 支持数据大盘展示等,持续为个人以及中小型公司提供可靠的 RPC 框架技术方案。

    Thrift 是一种接口描述语言和二进制通讯协议,它被用来定义和创建跨语言的服务。它被当作一个远程过程调用( RPC )框架来使用,是由 Facebook 为“大规模跨语言服务开发”而开发的。

    为什么叫 koalas

    树袋熊英文翻译,希望考拉 RPC 给那些不太喜欢动手自己去造轮子的人提供可靠的 RPC 使用环境。

    为什么要写这个 RPC

    市面上常见的 RPC 框架很多,grpc,motan,dubbo 等,但是随着越来越多的元素加入,复杂的架构设计等因素似使得这些框架和 spring 一样,虽然号称是轻量级,但是用起来却是让我们很蹩脚,大量的配置,繁杂的 API 设计,其实,我们根本用不上这些东西!!!

    我也算得上是在很多个互联网企业厮杀过,见过很多很多的内部 RPC 框架,有些优秀的设计让我非常赞赏,有一天我突然想着,为什么不对这些设计原型进行聚合归类,于是自己搞一套 [轻量级] RPC 框架呢,于是利用业余时间开发此项目,希望源码对大家对认识 RPC 框架起到推进的作用。

    技术栈

    • thrift 0.8.0
    • spring-core-4.2.5,spring-context-4.2.5,spring-beans-4.2.5
    • log4j,slf4j
    • org.apache.commons(v2.0+)
    • io.netty4
    • fastJson
    • zookeeper
    • 点评 cat ( V3.0.0+ 做数据大盘统计上报等使用,可不配置)
    • AOP,反射代理等

    技术架构

    Koalas 架构图

    序列化

    考察了很多个序列化组件,其中包括 jdk 原生,kryo、hessian、protoStuff,thrift,json 等,最终选择了 Thrift,原因如下:原生 JDK 序列化反序列化效率堪忧,其序列化内容太过全面 kryo 和 hessian,json 相对来说比原生 JDK 强一些,但是对跨语言支持一般,所以舍弃了,最终想在 protoBuf 和 Thrift 协议里面选择一套框架,这俩框架很相通,支持跨语言,需要静态编译等等。但是 protoBuf 不带 RPC 服务,本着提供多套服务端模式( thrift rpc,netty )的情况下,最终选择了 Thrift 协议。

    IO 线程模型

    原生 socket 可以模拟出简单的 RPC 框架,但是对于大规模并发,要求吞吐量的系统来说,也就算得上是一个 demo 级别的,所以 BIO 肯定是不考虑了,NIO 的模型在序列化技术选型的时候已经说了,Thrift 本身支持很多个 io 线程模型,同步,异步,半同步异步等( SimpleServer,TNonblockingServer,THsHaServer,TThreadedSelectorServer,TThreadPoolServer ),其中吞吐量最高的肯定是半同步半异步的 IO 模 TThreadedSelectorServer 了,具体原因大家可自行 google,这次不做多的阐述,选择好了模型之后,发现 thrift 简直就是神器一样的存在,再一想,对于服务端来说,IO 模型怎么能少得了 Netty 啊,所以下决心也要支持 Netty,但是很遗憾 Netty 目前没有对 Thrift 的序列化解析,拆包粘包的处理,但是有 protoBuf,和 http 协议的封装,怎么办,自己在 netty 上写对 thrift 的支持呗,虽然工作量大了一些,但是一想 netty 不就是干这个事儿的嘛- -!

    服务发现

    支持集群的 RPC 框架里面,像 dubbo,或者是其他三方框架,对服务发现都进行的封装,那么自研 RPC 的话,服务发现就要自己来写了,那么简单小巧容易上手的 zookeeper 肯定是首选了。

    内容展示

    实际性能压测

    8C 16G mac 开发本,单机 10000 次请求耗时截图

    10w 次请求,大约耗时 12s,平均 qps 在 8000 左右,在集群环境下会有不错的性能表现

    数据大盘展示

    koalas2.0 已经接入了 cat 服务,cat 服务支持 qps 统计,可用率,tp90line,tp99line,丰富自定义监控报警等,接入效果图

    丰富的可视参数,流量统计,日,周,月报表展示等。

    链路跟踪

    对 RPC 服务来说,系统间的调用和排查异常接口,确定耗时代码是非常重要的,只要接入了 cat,koalsa-rpc 天然的支持链路跟踪,一切尽在眼前!

    最后

    作者非常具有技术情怀,在聊天中说就剩这点爱好了,要坚持下去。听了这句话啥都不说了,点击下方链接,先 Star 为敬。

    https://gitee.com/a1234567891/koalas-rpc

    3 条回复    2019-05-05 10:48:59 +08:00
    zuoyouTU
        1
    zuoyouTU  
       2019-05-05 09:57:27 +08:00
    加入了 996License !
    十分优秀了
    loveCoding
        2
    loveCoding  
       2019-05-05 10:00:07 +08:00
    收藏,恰好在研究 motan 源码
    sujin190
        3
    sujin190  
       2019-05-05 10:48:59 +08:00
    Thrift 编码协议自己也用了很久了,我感觉设计上还是有很多缺点的,效率也不高,感觉 grpc 和 protobuf 设计更好一点吧,如果自己重写 gen,那么工作量不小吧,如果修改 thrift rpc 协议,感觉兼容性或弱很多了
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5428 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 45ms · UTC 08:49 · PVG 16:49 · LAX 01:49 · JFK 04:49
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.