Linkis 1.0.0是 Linkis 践行“计算治理”的里程碑,提供了计算编排、一次性作业、Web前端和Linkis-Cli的全新shell命令提交代码方式,标志着 Linkis 正式进入1.0版本时代。
Linkis 1.0.0 作为正式版,主要提供了Linkis-Orchetrator计算编排、优化了大量“计算治理”的架构代码、增加了对OnceEngineConn一次性作业的支持,用于OLAP作业和Streaming作业、同时还简化了Linkis的安装部署。
通过 Orchestrator计算编排 和强大的标签管理能力,Linkis 1.0.0已经为跨集群/跨IDC 的细粒度路由、负载均衡、多租户、流量控制、资源管控和编排策略,例如 双活、混合计算等提供了扩展性足够强的架构基石,接下来只需要编写转换规则即可实现各个计算编排的能力。
新特性
Orchestrator
-
Linkis-746 新增Linkis Orchestrator核心模块,为Orchestrator模块提供顶层架构和扩展接口。
-
Linkis-739 新增Linkis交互式场景的Orchestrator模块。
-
Linkis-733 新增linkis-code-orchestrator模块,用于支持脚本编排场景。
EngineConn
- Linkis-799 新增linkis-once-engineconn模块,用于支持一次性作业,如OLAP Job和Streaming Job。
Web
- Linkis-757 新增Linkis前端web模块,提供全局历史、资源管理、参数配置、全局变量等模块。
Client
- Linkis-754 新增Linkis-Cli模块,提供shell命令提交代码的新方式。
增强
-
Linkis-818 将Eureka中EngineConn修改为 Linkis-CG-EngineConn,以遵循命名规范。
-
Linkis-807 增强Linkis1.0.0通用模块,为其他模块提供大量工具类。
-
Linkis-805 使用Utils.tryCatch 捕获异常,而不是try…catch 直接catch异常。
-
Linkis-797 为所有日志添加中英文支持。
-
Linkis-789 一部分常量替换优化。
-
Linkis-788 优化 DESUtil 类中的一些魔法值。
-
Linkis-782 优化Linkis代码中的一些魔法值。
-
Linkis-781 优化错误码的定义。
-
Linkis-777 将publicservice与其他publicenhancement微服务合并,并增加了组合打包方式。
-
Linkis-775 优化Linkis计算治理模块,适配Linkis1.0新架构。
-
Linkis-768 删除所有注释代码并优化 HttpBmlClient 。
-
Linkis-767 优化类的规范性,去掉类顶部的所有@author和@Date。
-
Linkis-752 优化Linkis engineconn模块,适配Linkis1.0新架构。
-
Linkis-751 优化Linkis micro-service模块,适配Linkis1.0新架构。
-
Linkis-749 添加一个新的linkis-io-file-client 模块,修改一些注释并添加License。
-
Linkis-748 优化public-enhancements模块,适配Linkis1.0新架构。
Bugs修复
-
Linkis-825 解决SparkPythonExecutor的close方法中递归调用问题。
-
Linkis-816 修复多executor 的EngineConn场景下,仅关闭默认的executor而不是关闭所有executor的缺陷。
-
Linkis-815 修复 Orchestrator AsyncExec ResultSet等待器不会收到通知的缺陷并删除 Orchestrator 限制5000条结果集的约束。
-
Linkis-804 修复用户提交sql如’select*’时不会自动添加’limit 5000’的bug,可能会导致全表搜索,导致结果集很大。
-
Linkis-803 修复SSOUtils线程安全问题,可能导致OOM异常。
-
Linkis-787 修复hive版本升级导致的包冲突问题。
-
Linkis-780 修复Yarn capacity scheduler中RM模块的值转换问题。
-
Linkis-729 解决登录后cookies不生效,添加到Action的cookies没有被HttpClient传递到网关的问题.
贡献者
Linkis 1.0.0 的发布离不开 WeDataSphere 社区的贡献者。在此感谢各位社区的贡献者!
云资源
- 腾讯云: