Dlink 1.0.0 已经发布,交互式的 FlinkSQL Studio


Dlink 1.0.0 已经发布,交互式的 FlinkSQL Studio

此版本更新内容包括:

升级说明

  • Dinky 1.0 是一个重构版本,对已有的功能进行重构,并新增了若干企业级功能,修复了 0.7 的一些局限性问题。 目前无法直接从 0.7 升级到 1.0。建议重新部署 1.0 版本。
  • 自 Dinky 1.0 版本起,Dinky 社区将不再维护 1.0 之前的所有版本。
  • 自 Dinky 1.0 版本起,Dinky 社区将对 Flink 1.14.x 及以上版本提供支持,不再维护 Flink 1.14 以下的版本。同时 Flink 新增一些特性,Dinky 也会逐步支持。
  • Dinky 1.0 及以后版本, Flink 每新增一个大版本,Dinky 也会新增一个大版本,同时会视情况剔除一个 Dinky-Client 版本。剔除版本可能会进行投票,投票结果决定剔除的版本。
  • 在重构过程中陆续发布了 4 个 RC 版本,RC 版本可以进行升级,但是仍建议重新部署 1.0-RELEASE 版本。避免出现一些位置问题。
  • Dinky 0.7 版本的用户可以继续使用 0.7 版本,但是不再提供任何维护和支持。建议尽快安装 1.0 版本。

不兼容变更

  • CDCSOURCE 动态变量定义由${}改为#{}
  • _CURRENT_DATE_ 等全局变量移除,使用表达式变量代替
  • Flink Jar 任务定义由表单改为 EXECUTE JAR 语法
  • Application 模式的 dinky-app-xxxx.jar 的定义移到集群配置中
  • 数据库DDL 部分不兼容升级
  • Dinky内置Catalog的类型属性由 dlink_catalog 变更为 dinky_catalog

重构

  • 重构数据开发
  • 重构运维中心
  • 重构注册中心
  • 重构 Flink 任务提交流程
  • 重构 Flink Jar 任务提交方式
  • 重构 CDCSOURCE 整库同步代码架构
  • 重构 Flink 任务监控与告警
  • 重构权限管理
  • 重构系统配置为在线配置
  • 重构推送DolphinScheduler
  • 重构打包方式

新功能

  • 数据开发支持代码片段提示
  • 支持实时打印 Flink 表数据
  • 控制台实时打印任务提交 log
  • 支持 Flink CDC 3.0 整库同步
  • 支持自定义告警规则和自定义告警模板
  • 支持Flink k8s operator 提交
  • 支持代理 Flink webui 访问
  • 新增 Flink 任务 Metrics监控自定义图表
  • 支持 Dinky jvm 监控
  • 新增资源中心功能(local,hdfs,oss)并扩展 rs 协议
  • 新增 Git UDF/JAR 项目托管及整体构建流程
  • 支持全模式Flink jar 任务提交
  • 新增 ADD CUSTOMJAR 语法动态加载依赖
  • 新增 ADD FILE 语法动态加载文件
  • openapi 支持自定义参数提交
  • 权限系统升级,支持租户,角色,token,菜单权限
  • 支持LDAP
  • 数据开发页面新增小工具功能
  • 支持推送依赖任务至 DolphinScheduler
  • 实现 Flink 实例停止功能
  • 实现 CDCSOURCE 整库同步多并行度下数据有序
  • 实现可配置方式的告警防重发功能
  • 实现普通 SQL 可被 DolphinScheduler 调度执行
  • 新增获取系统内加载的依赖 JAR,并进行分组, 便于排查 JAR 相关问题
  • 实现集群配置测试连接功能
  • 支持 H2、Mysql、Postgre 部署,默认为 H2

新语法

  • CREATE TEMPORAL FUNCTION 用于定义临时表函数
  • ADD FILE 用于动态加载类/配置等文件
  • ADD CUSTOMJAR 用于动态加载JAR依赖
  • PRINT TABLE 用于实时预览表数据
  • EXECUTE JAR 用于定义 Flink Jar 任务
  • EXECUTE PIPELINE 用于定义 Flink CDC 3.x 整库同步任务

修复

  • 修复 auto.sh 的 CLASS_PATH 中缺少 extends 路径的问题
  • 修复发布/下线后作业列表生命周期状态值没有重新渲染的问题
  • 修复 Flink 1.18 set 语法不工作并产生 null 错误
  • 修复提交历史的保存点机制问题
  • 修复 Dinky Catalog 中创建视图的问题
  • 修复 Flink application 不会抛出异常
  • 修复告警选项渲染不正确
  • 修复作业生命周期的问题
  • 修复集群配置中 k8s 的 YAML 无法显示
  • 修复运维中心作业列表耗时格式化错误
  • 修复 Flink dag 提示框问题
  • 修复 checkpoint 的路径未找到
  • 修复向海豚调度推送作业时节点位置错误
  • 修复当 set 配置中包含单引号时作业参数未生效的问题
  • 升级 jmx_prometheus_javaagent 到 0.20.0 来解决一些 CVE
  • 修复 checkpoint 展示问题
  • 修复作业实例始终处于运行中状态
  • 修复 Yarn Application 提交任务失败后缺少日志打印
  • 修复作业配置不能渲染 yarn prejob 集群
  • 修复 URL 拼错导致请求失败
  • 修复多用户登录时出现相同令牌值插入错误的问题
  • 修复告警实例表单渲染问题
  • 修复FlinkSQLEnv 无法检查的问题
  • 修复 set 语句无法生效的问题
  • 修复yarn集群配置自定义Flink,hadoop配置无效问题
  • 修复运维中心检查点信息获取不到问题
  • 修复Yarn Application作业结束后状态无法检测问题
  • 修复yarn作业提交失败控制台日志无打印问题
  • 修复从集群配置启动的Flink 实例无法在作业配置中选择的问题
  • 修复RECONNECT状态作业状态识别错误
  • 修复 FlinkJar 任务在提交到 PreJob 模式的问题
  • 修复Dinky启动检测pid问题
  • 修复内置 Paimon 与用户集成版本不一致时,导致冲突的问题(使用 shade 实现)
  • 修复FlinkJar 任务在 Application 模式下CheckPoint 参数不生效问题
  • 修复修改 Task 作业时名称和备注信息更新错误的问题
  • 修复注册数据源时密码为必填的问题
  • 修复集群实例心跳检测不正确的问题
  • 修复 Jar 任务提交不能使用 set 语法的问题
  • 修复数据开发-> 作业列表部分情况下无法折叠的问题
  • 修复多线程下告警信息重复发送的问题
  • 修复数据开发-> 打开作业的 tag 高度问题
  • 修复运维中心作业详情的 jobmanager 日志部分情况下无法正常展示的问题
  • 修复 Catalog NPE 的问题
  • 修复prejob 任务状态错误的问题
  • 修复 add customjar 语法问题
  • 修复 jar 任务无法监控的问题
  • 修复 Token 无效异常
  • 修复语句分隔符导致的一系列问题, 并移除系统内配置
  • 修复运维中心任务状态渲染问题
  • 修复作业实例不存在时删除任务失败的问题
  • 修复重复异常告警
  • 修复 PythonFlink 提交的一些问题
  • 修复 Application Mode 无法使用全局变量的问题
  • 修复 K8s 任务由于未初始化资源类型导致无法启动问题
  • 修复 Jar 任务的 pipeline 获取错误导致前端无法正常使用
  • 修复 SqlServer 时间戳转换为字符串
  • 修复带有 UDF的任务发布时 NPE问题
  • 修复 Jar 任务无法获取执行历史问题
  • 修复 Doris 数据源获取 DDL 以及查询时 NPE 导致前端崩溃问题

优化

  • 添加作业配置项的键宽度
  • 优化查询作业目录树
  • 优化 Flink on yarn 的 app 提交
  • 优化 Explainer 类使用建造者模式来构建结果
  • 优化文档管理
  • 通过 SPI 来实现 operator
  • 优化文档表单弹出层
  • 优化 Flink 实例的类型渲染
  • 优化数据源详情搜索框
  • 获取版本方式优化为后端接口返回
  • 优化CANCEL作业逻辑,对于失联作业可强制停止
  • 优化注册中心部分删除时的检测引用逻辑
  • 优化作业创建时可指定作业模版
  • 优化Task 删除逻辑
  • 优化部分前端国际化
  • 优化执行预览时控制台与结果 Tag 自动切换
  • 优化 K8S的 UDF 下载逻辑
  • 优化整库同步之分库分表
  • 优化注册中心->数据源列表跳转到详情页的逻辑
  • 作业配置逻辑优化(作业已发布状态下作业配置不可编辑)
  • 优化数据开发中作业配置的集群实例渲染逻辑
  • 优化Flink集群的心跳检测
  • 优化数据源获取数据异常未反馈前端问题
  • 优化程序停机策略为优雅停机
  • CDCSOURCE 支持最早偏移和时间戳 scanStartupMode
  • 取消任务表保存点路径唯一性限制
  • 优化CDCSOURCE从Mysql到Doris的light_schema_change
  • 优化启动脚本类路径添加 FLINK_HOME
  • 优化一些前端的绝对路径为相对路径
  • 修改默认的 admin 账户的密码为强密码

文档

  • 完善注册中心的集群实例列表文档
  • 完善注册中心的告警文档
  • 完善注册中心的Git项目文档
  • 修改域名
  • 完善注册中心和认证中心的文档
  • 完善贡献者开发文档
  • 在 CDCSOURCE 添加参数描述 debezium.*
  • 修改官网文档结构
  • 添加部分数据开发相关文档
  • 删除一些弃用/错误的文档
  • 添加快速开始文档
  • 添加部署文档
  • 优化分库分表的文档
  • 优化常规部署文档
  • 添加告警防重发相关文档
  • 优化 openapi 文档
  • 添加 HDFS HA 配置文档
  • 优化 LDAP 相关文档
  • 修复一些文档单词错误问题
  • 修复集成DolphinScheduler文档中版本错误问题

安全

  • CVE-2023-2976
  • CVE-2020-8908

其他

  • 增加一些自动化 Action

详情查看:https://gitee.com/DataLinkDC/Dinky/releases/1.0.0


相關推薦

2023-10-22

开源PHP办公室,我们一起聊 AI!>>> Dlink v0.7.5 已经发布,交互式的 FlinkSQL Studio 此版本更新内容包括: 特性: [Feature-2370][connect] 在 flink-connector-jdbc-1.16 中添加过滤能力 [Feature-2381][udf] AGGTABLE 支持表值聚合函数在 Flink 1.16 中使用

2022-07-24

Dlink v0.6.6 已经发布,交互式的 FlinkSQL Studio。 此版本更新内容包括: 新特性: 新增运维中心的作业历史版本列表 新增数据开发的历史版本对比功能 新增 Flink MySql Catalog 新增 FlinkSQLEnv 默认的 Flink Mysql Catalog 新增 1.13

2022-04-07

湖仓一体 的建设与实践。 其主要目标如下: 可视化交互式 FlinkSQL 和 SQL 的数据开发平台:自动提示补全、语法高亮、调试执行、语法校验、语句美化、全局变量等 支持全面的多版本的 FlinkSQL 作业提交方式:Local、Standal

2022-08-05

和 Web 上的默认设置)的用户,该版本向标题栏引入更多交互式内容。虽然已经有单独隐藏这些元素的设置,但现在可以右键单击标题栏,以访问切换菜单栏(暂不支持 macOS)、命令中心和布局控件的上下文菜单。 折叠选

2023-03-02

  Git 行取消暂存 为了继续改进线路暂存(也称为交互式暂存)功能,此版本添加了 unstage。 .NET C# 的 IntelliCode API 使用示例 IntelliCode API 使用示例功能可查看其他开发人员对函数的真实使用示例,显示的示例来自 GitHub

2023-02-18

使用个人访问令牌(PAT)或 Azure AD CLI 访问工作区 访问交互式集群或创建集群的权限 创建 Databricks Repos 的权限 目前这个 Databricks 扩展已经上架 Visual Studio Marketplace,同时还托管到了 GitHub 平台。支持 Windows(ARM + x64)、Linux

2023-02-11

链接来搭建自己的图数据系统吧~ NebulaGraph v3.4.0 版本已经发布,可阅读 NebulaGraph v3.4.0 release note,增强稳定性和优化内存管理 了解详情。

2022-07-08

的同一底层服务器构建的服务,以及一些额外的功能,如交互式 CLI 和促进与 vscode.dev 的安全连接,无需 SSH 连接。 更多详情可查看官方公告。

2022-12-03

Android Studio 2022.1.1 (Electric Eel) 发布了首个 RC 版本。 下载地址:https://developer.android.com/studio/preview/index.html Android Studio 2022.1.1 值得关注的变化: Live Edit 在 Android Studio Electric Eel 中,开发者可以使用 Live Edit 将代码的变化实

2023-06-19

微软宣布,Build Insights 现已与 Visual Studio 2022 集成。 根据公告,Build Insights 目前可在 Visual Studio 2022 17.7 Preview 2 中使用,它提供了开发环境的关键信息。使用 Build Insights 创建的分析,开发者现在将拥有有效优化构建时间的能力

2023-06-15

Visual Studio 17.7 发布第二个预览版,此版本包括改进的调试功能、外部 .NET 代码的自动反编译、多项 C++ 嵌入式和游戏开发改进等。 改进的文件比较 可在解决方案资源管理器中选择两个文件,并使用新的“比较所选”选项比较

2023-12-02

Android Studio 2023.1.1 稳定版已发布,代号 "Hedgehog"。 下载地址:https://developer.android.com/studio Android Studio Hedgehog 将底层 IntelliJ 平台升级到了 2023.1,添加了新功能,旨在提高应用程序性能和电池寿命,使升级到最新 Android 版本

2022-08-11

于自定义或禁用单个声音。 Git 工具 行暂存支持,即交互式暂存,能够直接从编辑器和差异视图暂存特定行和/或代码块。 若要开始,请通过选择相应的颜色边距并利用速览差异 UI 暂存更改来暂存最近的更改之一。 阅读我

2023-07-25

亮点更新内容如下: “cmake(1)”现在支持 CMake 语言的交互式调试。参阅“--debugger”选项。 VS 2015 及更高版本的 Visual Studio Generators 学会了使用“CMAKE_GENERATOR_PLATFORM”变量中的“version=”字段显式选择 Windows SDK 版本。参阅 Visu