国产数据迁移同步工具 CloudCanal v4.4.1.0 发布


CloudCanal 免费社区版  ClouGence 公司推出的一款全自研可视化自动化数据迁移同步工具,具备 结构迁移数据迁移数据同步数据校验数据订正 等功能,支持 30+ 款流行关系型数据库、实时数仓、消息中间件、缓存数据库和搜索引擎之间数据互通,其中包含国产数据库 OceanBasePolarDBTiDBStarRocksDorisRocketMQ  等。

结合开源项目 CloudCanalProcess ,可方便实现如下功能:

  • wide-table : 打宽表数据处理插件,主要包括事实表和单维表组合处理
  • data-transform : 数据通用转换插件,比如做操作变幻、额外加字段、清洗回填数据
  • data-gather : 数据汇聚插件,将分库分表、垂直拆分、异地数据进行实时汇聚
  • data-compare : 数据对比插件,根据源端数据变化进行业务对账
  • business-alert : 业务告警插件,根据数据变化趋势做出相应告警

CloudCanal 产品功能对标阿里云 DTS、亚马逊 DMS、StreamSets、AirByte,助力开发、DBA 或运维同学快速构建在线数据应用。

Release-Note

新特性

  • 支持 TiDB 4.x 版本结构迁移、全量同步、增量同步
  • 支持 MySQL -> MySQL/TiDB RANGE 分区结构迁移,MySQL->MySQL 支持分区增减 DDL 同步
  • 支持 MySQL -> MySQL/StarRocks/TiDB,PostgreSQL -> MySQL 表字段值转换表达式设置(Data Transformation),当前支持 11 种常用表达式,后续不断增加
  • 支持 StarRocks 全量源端从各 BE 节点并行读取数据能力(新增任务参数:scanMode、feHttpAddr、beThriftAddr、scanMaxRetries、keepAliveMin、queryTimeout、memLimit)
  • 支持 修改 MongoDB 目标端写入模式,默认替换部分(UPSERT_PART)可修改为整行替换(UPSERT_ALL)(新增任务参数:writeStrategy)
  • 支持 在 Oracle 和 TiDB 作为目标端时,全量写入时根据对端表字段定义生成 INSERT SQL(参数:useDeflnFullTask)
  • 支持 设置子账号可拥有与主账号一样的资源权限,方便 DBA 团队使用

优化

  • 优化 StarRocks、Redis 对端支持同步源端无主键但有唯一键的表
  • 优化 PostgreSQL 源端数据同步,因 DDL 同步源端要创建 Event Trigger,需要较大权限,所以创建任务默认不勾选 DDL 同步
  • 优化 Console、Sidecar 和 任务的告警日志,子账号角色只要拥有 告警记录-告警记录查看 权限,即可查看相应的告警日志
  • 优化 Docker 容器系统参数,设置最大文件数(65535)和 最大进程打开数(131072)
  • 优化 添加数据源时,新增数据源按钮添加 Loading 样式
  • 优化 对 Hana 源端表级位点的展示

问题修复

 

  • 修复 StarRocks 对端订正任务进度卡住无法结束的问题
  • 修复 源端变更主键 StarRocks 对端出现两条数据的问题
  • 修复 MongoDB -> MongoDB sub-list 类型写入为字符串的问题
  • 修复 StarRocks / Doris 校验任务包含字符串类型主键数据校验范围计算不正确的问题
  • 修复 Oracle RAC 环境下其中一个 Thread 长时间没有归档导致漏扫数据的问题
  • 修复 SQLServer、PostgreSQL、Db2 源端数据校验时 char 类型字段尾部携带用于补长的空格导致的校验不一致的问题
  • 修复 CloudCanal 3.x 升级到 4.x 内部用户丢失导致的 NPE 问题
  • 修复 PostgreSQL 源端删除任务时,PostgreSQL 中 publication 未清理干净的问题
  • 修复 设置目标主键为唯一索引下拉框不展示设置值的问题
  • 修复 License 包含未授权数据源的任务不能修改订阅的问题
  • 修复 修改手机号/邮箱后日志详情显示 oldphone/oldemail 和 newphone/newemail 相同的问题
  • 修复 LDAP 和 AD 用户无法登陆问题
  • 修复 LDAP 和 AD 用户登陆后无法修改自己的手机号、邮箱的问题
  • 修复 创建角色时,包含权限不会自动添加的问题
  • 修复 安全漏洞,升级 Docker 镜像 MySQL 版本到 8.0.39,升级产品三方依赖包版本

免费下载和使用

  • 快速上手:https://www.clougence.com/cc-doc/quick/quick_star

相關推薦

2024-09-28

CloudCanal 免费社区版 是 ClouGence 公司推出的一款全自研、可视化、自动化数据迁移同步工具,具备 结构迁移、数据迁移、数据同步、数据校验、数据订正 等功能,支持 30+ 款流行关系型数据库、实时数

2024-08-01

CloudCanal 免费社区版 是 ClouGence 公司推出的一款全自研、可视化、自动化数据迁移同步工具,具备 结构迁移、数据迁移、数据同步、数据校验、数据订正 等功能,支持 30+ 款流行关系型数据库、实时数

2024-07-05

CloudCanal 免费社区版 是 ClouGence 公司推出的一款全自研、可视化、自动化数据迁移同步工具,具备 结构迁移、数据迁移、数据同步、数据校验、数据订正 等功能,支持 30+ 款流行关系型数据库、实时数

2024-10-17

计页面里日志路径显示问题,现在可以区分出 CloudDM 和 CloudCanal。 [优化] 优化内置角色会在角色名称后面增加“内” 提示用以区分用户新建角色和系统内置角色重名时区分不明显的问题。 [优化] 优化 Docker 版在启动时

2022-10-26

、技术大咖以及专业媒体代表百余人莅临活动现场,共话国产操作系统迁移落地进展与未来。 统信技术开放日是统信软件打造的一个面向开发者、合作伙伴和用户朋友的实用性和知识性活动平台,致力于赋能开发者与合作伙

2023-03-18

件:支持数据迁移、主题、API 安全等高达22款插件 国产:能更好的理解国内用户的需求,与开发团队沟通无障碍 完善的用户文档:跟着操作就能快速上手   多提 Issue !多反馈!   在使用过程中有任何

2024-07-31

CloudDM 个人版是 ClouGence 公司推出的一款一站式多数据源开发管理工具,使用它可以方便地访问和管理 MySQL、Oracle、PostgreSQL、阿里云RDS、Greenplum、TiDB、Redis、StarRocks、Doris、SelectDB、SQL SERVER、ClickHouse、OceanBase 、PolarDB-X 、IBM Db2 等

2022-12-22

的开源微服务套件,也为了让社区应用开发者可以多一个国产的 Spring Cloud 套件的选择。 腾讯在同期也将 Spring Cloud Tencent 进行了开源 ,默认对接了北极星强大的微服务能力,也是国内首个支持了 Spring Boot 3.0 及 JDK17 的 Spring Clo

2023-09-20

dbMigration .NET 是一个简单、方便、直观的多数据库迁移和同步工具,你可以轻松地将数据迁移和同步到 PostgreSQL,反之亦然,无需复杂的程序。 从 15.1 到 16.4 版的主要新功能和改进包括: 添加了对 PostgreSQL 16 (Ver 8.x~16.x)

2024-08-03

新功能 社区版 支持以 OceanBase 作为元数据库 为强化对国产数据库的适配和优化,推动数据库国产化进程,SQLE 平台现已支持将 OceanBase(MySQL 模式)作为元数据库。如您日常使用的数据库类型均为 OceanBase(MySQL 模式),您

2023-03-22

它是一个有自己接口标准规范的开放生态,可为应用软件国产化提供支持,助力信创建设。 150来个生态插件,覆盖各种不同的应用开发场景: 相对于 Spring Boot 和 Spring Cloud 的项目: 启动快 5 ~ 10 倍。 (更快) qps 高 2

2023-11-08

开源地址: github: https://github.com/sagframe/sagacity-sqltoy gitee: https://gitee.com/sagacity/sagacity-sqltoy idea 插件 (可直接在 idea 中检索安装):  https://github.com/threefish/sqltoy-idea-plugins sqltoy 脚手架项目:https://gitee.com/momoljw/ss

2023-11-18

开源地址: github: https://github.com/sagframe/sagacity-sqltoy gitee: https://gitee.com/sagacity/sagacity-sqltoy idea 插件 (可直接在 idea 中检索安装):  https://github.com/threefish/sqltoy-idea-plugins sqltoy 脚手架项目:https://gitee.com/momoljw/ss

2024-11-01

别总是再mybatis了,最近信创被mybatis坑惨了,一堆xml中乱七八糟的的sql,再强调mybatis真的是坑害大家! 开源地址: github: https://github.com/sagframe/sagacity-sqltoy gitee: https://gitee.com/sagacity/sagacity-sqltoy idea 插件 (可直接在 i