【里程碑】计算存储引擎Linkis 1.0.0 正式发布

Linkis是一个打通了多个计算存储引擎如:Spark、TiSpark、Hive、Python和HBase等,对外提供统一REST/WebSocket/JDBC接口,提交执行SQL、Pyspark、HiveQL、Scala等脚本的计算中间件。
Linkis基于微服务架构,提供了金融级多租户隔离、资源管控、权限隔离等企业级特性,支持统一变量、UDF、函数、用户资源文件管理,具备高并发、高性能、高可用的大数据作业/请求全生命周期管理能力。

项目地址

github.com/WeBankFinTe…

gitee.com/WeBank/Link…

Linkis 1.0.0 作为正式版,主要提供了Linkis-Orchetrator计算编排、优化了大量“计算治理”的架构代码、增加了对OnceEngineConn一次性作业的支持,用于OLAP作业和Streaming作业、同时还简化了Linkis的安装部署。

通过 Orchestrator计算编排 和强大的标签管理能力,Linkis 1.0.0已经为跨集群/跨IDC 的细粒度路由、负载均衡、多租户、流量控制、资源管控和编排策略,例如 双活、混合计算等提供了扩展性足够强的架构基石,接下来只需要编写转换规则即可实现各个计算编排的能力。


新特性

Orchestrator

  • Linkis-746 新增Linkis Orchestrator核心模块,为Orchestrator模块提供顶层架构和扩展接口。
  • Linkis-739 新增Linkis交互式场景的Orchestrator模块。
  • Linkis-733 新增linkis-code-orchestrator模块,用于支持脚本编排场景。

EngineConn

  • Linkis-799 新增linkis-once-engineconn模块,用于支持一次性作业,如OLAP Job和Streaming Job。

Web

  • Linkis-757 新增Linkis前端web模块,提供全局历史、资源管理、参数配置、全局变量等模块。

Client

  • Linkis-754 新增Linkis-Cli模块,提供shell命令提交代码的新方式。

增强

  • Linkis-818 将Eureka中EngineConn修改为 Linkis-CG-EngineConn,以遵循命名规范。
  • Linkis-807 增强Linkis1.0.0通用模块,为其他模块提供大量工具类。
  • Linkis-805 使用Utils.tryCatch 捕获异常,而不是try…catch 直接catch异常。
  • Linkis-797 为所有日志添加中英文支持。
  • Linkis-789 一部分常量替换优化。
  • Linkis-788 优化 DESUtil 类中的一些魔法值。
  • Linkis-782 优化Linkis代码中的一些魔法值。
  • Linkis-781 优化错误码的定义。
  • Linkis-777 将publicservice与其他publicenhancement微服务合并,并增加了组合打包方式。
  • Linkis-775 优化Linkis计算治理模块,适配Linkis1.0新架构。
  • Linkis-768 删除所有注释代码并优化 HttpBmlClient 。
  • Linkis-767 优化类的规范性,去掉类顶部的所有@author和@Date。
  • Linkis-752 优化Linkis engineconn模块,适配Linkis1.0新架构。
  • Linkis-751 优化Linkis micro-service模块,适配Linkis1.0新架构。
  • Linkis-749 添加一个新的linkis-io-file-client 模块,修改一些注释并添加License。
  • Linkis-748 优化public-enhancements模块,适配Linkis1.0新架构。

Bugs修复

  • Linkis-825 解决SparkPythonExecutor的close方法中递归调用问题。
  • Linkis-816 修复多executor 的EngineConn场景下,仅关闭默认的executor而不是关闭所有executor的缺陷。
  • Linkis-815 修复 Orchestrator AsyncExec ResultSet等待器不会收到通知的缺陷并删除 Orchestrator 限制5000条结果集的约束。
  • Linkis-804 修复用户提交sql如’select*’时不会自动添加’limit 5000’的bug,可能会导致全表搜索,导致结果集很大。
  • Linkis-803 修复SSOUtils线程安全问题,可能导致OOM异常。
  • Linkis-787 修复hive版本升级导致的包冲突问题。
  • Linkis-780 修复Yarn capacity scheduler中RM模块的值转换问题。
  • Linkis-729 解决登录后cookies不生效,添加到Action的cookies没有被HttpClient传递到网关的问题.

贡献者

Linkis 1.0.0 的发布离不开 WeDataSphere 社区的贡献者。在此感谢各位社区的贡献者!


云资源

  1. 腾讯云:

osp-1257653870.cos.ap-guangzhou.myqcloud.com/WeDataspher…

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享