GreatSQL 8.0.32-24 今日发布


  • 1.新增特性

    • 1.1 SQL兼容性
    • 1.2 MGR
    • 1.3 性能优化
    • 1.4 安全
  • 2.稳定性提升

  • 3.其他调整

  • 4.bug修复

  • 5. GreatSQL VS MySQL

  • 6. GreatSQL Release Notes


GreatSQL 8.0.32-24版本发布,增加并行load data、(逻辑 & CLONE)备份加密、MGR读写节点可绑定动态VIP、Oracle兼容扩展、审计日志增强等重磅特性。

直播预告:GreatSQL 8.0.32-24发布会

直播时间:2023.06.05 15:00 - 16:00

扫码预约发布会或点击下方阅读原文进行报名

image-20230605090721995

0.项目信息

  • 代码仓库:https://gitee.com/GreatSQL/GreatSQL
  • 最新下载:https://gitee.com/GreatSQL/GreatSQL/releases/tag/GreatSQL-8.0.32-24
  • 项目文档:https://greatsql.cn/docs
  • 项目官网:https://greatsql.cn

 

1.新增特性

1.1 SQL兼容性

在GreatSQL 8.0.32-24中,实现了多项SQL兼容性功能,包括数据类型扩展、SQL语法等超过20个兼容特性。

1.1.1 数据类型扩展

  • CLOB
  • VARCHAR2

1.1.2 SQL语法

  • DATETIME 运算
  • ROWNUM
  • 子查询无别名
  • EXPLAIN PLAN FOR

1.1.3 函数

  • ADD_MONTHS()
  • CAST()
  • DECODE()
  • INSTR()
  • LENGTH()
  • LENGTHB()
  • MONTHS_BETWEEN()
  • NVL()
  • SUBSTRB()
  • SYSDATE()
  • TO_CHAR()
  • TO_DATE()
  • TO_NUMBER()
  • TO_TIMESTAMP()
  • TRANSLATE()
  • TRUNC()
  • SYS_GUID()

更多信息详见文档:GreatSQL中的SQL兼容性**(https://gitee.com/GreatSQL/GreatSQL-Doc/blob/master/relnotes/greatsql-803224/sql-compat.md)**

1.2 MGR

1.2.1 MGR内置动态VIP

在GreatSQL 8.0.32-24中,新增MGR读写节点支持绑定VIP(虚拟IP)特性。利用该特性,使得MGR在单主模式下运行时,能自动识别读写节点并绑定VIP,支持应用端即可通过VIP对数据库发起读写请求,当读写节点角色发生变化时,VIP也会随之自动漂移并重新绑定,应用端无需修改VIP配置。

更多信息详见文档:GreatSQL中MGR支持内置vip特性**(https://gitee.com/GreatSQL/GreatSQL-Doc/blob/master/relnotes/greatsql-803224/mgr-vip.md)**

1.2.2 新增applier queue批处理机制

新增相应选项 group_replication_applier_batch_size_threshold。当MGR中的并发事务太大,或者个别Secondary节点(磁盘I/O)性能较差时,可能会导致applier queue堆积越来越大,一直无法及时跟上Primary节点。

这时候有效的办法就是让applier queue落地时采用批量的方式,提高落盘效率。默认地,applier queue里的event是逐个落盘的,这种方式效率很低。当applier queue超过 group_replication_applier_batch_size_threshold 设定的阈值时,就会触发批量落盘模式,每100个event批量落盘,就能大大提高落盘效率。

在生产环境中,选项 group_replication_applier_batch_size_threshold 值不要设置太小,建议不低于10000。默认值 100000,最小值10(仅用于开发、测试环境),最大值100000000(基本上等于禁用)。一个大事务会包含很多个event,当该选项设置太低时,可能会导致一个事务中的event没办法及时落盘,会造成relay log不完整,节点crash时,就需要从Primary节点重新读取binlog进行恢复。

System Variable Name group_replication_applier_batch_size_threshold
Variable Scope Global
Dynamic Variable YES
Permitted Values [10 ~ 100000000]
Default 100000
Description 当applier queue超过 group_replication_applier_batch_size_threshold 设定的阈值时,就会触发批量落盘模式,每100个event批量落盘,提高落盘效率。

1.2.3 Xcom cache分配静态化

在MySQL 5.7里,Xcom cache size最大值1G,且不可动态调整。从MySQL 8.0开始,可对其动态调整。在 <= MySQL 8.0.20的版本中,最小值1G。在>= MySQL 8.0.21的版本中,最小值128M。

在MySQL中,是动态按需分配Xcom cache的,如果太多有空闲,就释放;如果不够用,再动态分配更多内存,一次分配大概250000个cache item,很容易造成约150ms的响应延迟。也就是说,会随着事务多少的变化而可能频繁产生响应延迟。

在GreatSQL中,对Xcom cache采用了静态化分配机制,即一开始就预分配约1GB内存用于Xcom cache,这可以避免前面提到的响应延迟抖动风险,不过“副作用”是mysqld进程所占用的内存会比原来多,在内存特别紧张的服务器上不太适合。

新增相应选项 group_replication_xcom_cache_mode 用于设置Xcom cache静态化初始大小:

System Variable Name group_replication_xcom_cache_mode
Variable Scope Global
Dynamic Variable YES
Permitted Values [0 ~ 4]
Default 2
Description 设置Xcom cache静态化初始大小,对应关系如下: 0:约能缓存50万个Xcom条目,相应内存消耗约200MB; 1:约能缓存100万个Xcom条目,相应内存消耗约500MB; 2:约能缓存200万个Xcom条目,相应内存消耗约1GB; 3:约能缓存400万个Xcom条目,相应内存消耗约2GB; 4:约能缓存800万个Xcom条目,相应内存消耗约4GB;

1.2.4 其他优化

  • 优化了孟子算法,使得无论是单主模式还是多主模式下,均有不同程度的性能提升。
  • 消除了杀节点进程场景下的性能抖动。
  • 优化了加入节点时可能导致性能剧烈抖动的问题。
  • 优化手工选主机制,解决了长事务造成无法选主的问题。
  • 完善MGR中的外键约束机制,降低或避免从节点报错退出MGR的风险。
  • 提升了Secondary节点上大事务并发应用回放的速度。
  • 增加Xcom cache条目,提升了在网络延迟较大或事务应用较慢场景下的性能。
  • 新增参数选项:group_replication_broadcast_gtid_executed_period 用于设置节点之间各自广播节点的gtid值的频率,单位为毫秒,默认为1000,最小200,最大60 000,配合新的事务认证队列清理算法,进行认证数据库的清理操作。收到所有节点的gtid后,就可以清理都执行完毕的gtid的认证信息了。
  • 新增参数选项:group_replication_flow_control_max_wait_time,用于设置每次触发流控时,流控等待的最大时长,默认为3600s,最大为86400s(1天)。

1.3 性能优化

1.3.1 并行load data

MySQL原生的load data采用单线程读取本地文件(或收取client传来的网络数据包),逐行获取内容后再插入数据。

当导入的单个文件很大时,单线程处理模式无法充分利用数据库的资源,导致执行时间很长。又由于load data导入的数据在一个事务内,当binlog事务超过2G时,可能会导致无法使用binlog在MGR集群间同步。

为解决上述两个问题,GreatSQL支持了load data并行导入。开启并行导入后,会自动切分文件成小块(可配置),然后启动多个worker线程(数量可配置)导入文件块。并行导入与engine无关,理论上支持任何存储引擎。

更多信息详见文档:GreatSQL中的并行load data特性**(https://gitee.com/GreatSQL/GreatSQL-Doc/blob/master/relnotes/greatsql-803224/parallel_load_data.md)**

1.3.2 优化器优化

优化了执行计划,使得benchmark tpcc测试吞吐量更高,也更加稳定。

1.4 安全

1.4.1 mysqldump备份加密

GreatSQL 8.0.32-24支持在mysqldump进行逻辑备份时产生加密备份文件,并且也支持对加密后的备份文件解密导入。

更多信息详见文档:GreatSQL中的逻辑备份加密特性**(https://gitee.com/GreatSQL/GreatSQL-Doc/blob/master/relnotes/greatsql-803224/mysqldump-encrypt.md)**

1.4.2 审计日志入表

GreatSQL支持将审计日志写入数据表中,并且设置审计日志入表规则,以便达到不同的审计需求。

审计内容将包括操作账户、客户端ip、被操作的数据库对象、操作的完整语句、操作结果。

更多信息详见文档:GreatSQL中的审计日志入表特性**(https://gitee.com/GreatSQL/GreatSQL-Doc/blob/master/relnotes/greatsql-803224/audit-log-in-table.md)**

1.4.3 表空间国密加密

在开源MySQL原有keyring架构,通过国密算法,增强开源MySQL keyring架构的安全性。MySQL的表空间加密keyring架构包含2层加密,master key 和 tablespace key。

  • master key用于加密tablespace key,加密后的结果存储在tablespace的header中。
  • tablespace key用于加密数据

当用户想访问加密的表时,InnoDB会先用master key对之前存储在header中的加密信息进行解密,得到tablespace key。再用tablespace key解密数据信息。tablespace key是不会被改变的,而master key可以随时改变。开源MySQL的master key采用keyring_file插件,key file直接存储在磁盘上。

本功能点通过基于国密算法sm4,增加了数据库的安全性。

创建国密算法加密表

CREATE TABLE test.t1(c1 INT, c2 INT) ENGINE = InnoDB ENCRYPTION = 'Y';

更多信息详见文档:GreatSQL中的表空间加密国密支持**(https://gitee.com/GreatSQL/GreatSQL-Doc/blob/master/relnotes/greatsql-803224/innodb-tablespace-encrypt.md)**

1.4.4 CLONE备份加密

GreatSQL支持在利用CLONE备份时同步进行加密操作,提升备份文件安全性,避免备份文件被盗或泄漏时造成损失。

更多信息详见文档:CLONE备份加密**(https://gitee.com/GreatSQL/GreatSQL-Doc/blob/master/relnotes/greatsql-803224/clone-encrypt.md)**

2.稳定性提升

3.其他调整

4.bug修复

  • 修复InnoDB并行查询可能导致查询hang住,甚至crash的问题。

5. GreatSQL VS MySQL

特性 GreatSQL 8.0.32-24 MySQL 8.0.32
开源
ACID完整性
MVCC特性
支持行锁
Crash自动修复
表分区(Partitioning)
视图(Views)
子查询(Subqueries)
触发器(Triggers)
存储过程(Stored Procedures)
外键(Foreign Keys)
窗口函数(Window Functions)
通用表表达式CTE
地理信息(GIS)
基于GTID的复制
组复制(MGR)
MyRocks引擎
SQL兼容扩展 1.数据类型扩展 2.SQL语法扩展 共超过20个扩展新特性
MGR提升 1.地理标签 2.仲裁节点 3.读写节点绑定VIP 4.快速单主模式 5.智能选主机制 6.全新流控算法
性能提升 1.InnoDB并行查询 2.并行load data
安全提升 1.国密支持 2.备份加密 3.审计日志入库

此外,GreatSQL 8.0.32-24基于Percona Server for MySQL 8.0.32-24版本,它在MySQL 8.0.32基础上做了大量的改进和提升以及众多新特性,详情请见:Percona Server for MySQL feature comparison**(https://docs.percona.com/percona-server/8.0/feature_comparison.html#percona-server-for-mysql-feature-comparison)**,这其中包括线程池、审计、数据脱敏等MySQL企业版才有的特性,以及PFS提升、IFS提升、性能和可扩展性提升、用户统计增强、processlist增强、slow log增强等大量改进和提升,这里不一一重复列出。

6. GreatSQL Release Notes

  • Changes in GreatSQL 8.0.25-17 (2023-3-13)
  • Changes in GreatSQL 8.0.25-16 (2022-5-16)
  • Changes in GreatSQL 8.0.25-15 (2022-8-26)
  • Changes in GreatSQL 5.7.36-39 (2022-4-7)

相關推薦

2023-12-30

GreatSQL 8.0.32-25 今日发布 版本信息 发布时间:2023年12月28日 版本号:8.0.32-25, Revision db07cc5cb73 下载链接:RPM包、TAR包、源码包 用户手册:GreatSQL 8.0.32-25 User Manual 特性增强 GreatSQL 8.0.32-25版本中首次推出支持高性

2023-07-25

同时该标志也出现在了推特的总部大楼上。 马斯克今日发布推文称,X.com 现已定向至 Twitter 原网址 twitter.com ,临时 X Logo 将于今日晚些时候启用。 根据马斯克转发的现任 Twttier CEO 推文,X 和他之前提到过的“超级 App”愿

2023-03-07

道,gt-checksum工具是数据校验工具。 没错,gt-checksum 是GreatSQL社区新增的成员,它是 一款静态数据库校验修复工具,支持MySQL、Oracle等主流数据库,采用Go语言开发,今天正式开源。 1. 背景介绍 作为MySQL DBA,相信应该都听说过

2023-02-10

Google 于今天发布了 Android 14 的首个开发者预览版,这一发布时间与以往的发布时间类似,预计 Android 14 正式版将于今年第三季度推出。 支持多用户登录 一家人共用同一个设备的情况十分常见,尤其是共用平板电脑。除此之

2022-07-06

rby ,神通,达梦,华为高斯,人大金仓,PolarDB,GBase8s,GreatSQL 等 大数据:HBase,ClickHouse,Cassandar,Hive,GreenPlum 物联网时序数据库:Machbase,TD-Engine,IotDB SQL 查询引擎:Drill,Presto,Druid 内存数据库:ignite,CouchBase 阅读

2023-12-06

乐聚机器人今日发布了一款人形机器人——「夸父」,并称其是“国内首款可跳跃、可适应多地形行走的开源鸿蒙人形机器人”。 基本参数: 官方介绍称,“夸父”搭载深开鸿基于开源鸿蒙研发的 KaihongOS,采用全栈开源

2023-11-10

魅族科技今日发布公告称,集魅友力量,为 Flyme 征集中文 OS 名称。 魅族在公告写道:“再一次,华为、小米、魅族奔跑在了同一条道路上,一条由中国企业定义、引领的手机、汽车、AR 等多终端全场景生态融合发展的道路。

2024-08-03

中国电信今日发布“中国电信研究院2024年面向数据中心的RISC-V基础软件生态技术研究项目RISC-V服务器采购项目询价公告”,采购人为中国电信股份有限公司北京研究院。 采购内容为RISC-V云服务器4台、RISC-V边缘服务器3台。应答

2023-12-05

今日晚间,大量网友反馈称腾讯视频陆续出现网络故障,具体表现包括不限于首页无法加载内容、VIP 用户看不了会员视频等等。 针对这一问题,腾讯视频回应称:目前腾讯视频出现了短暂技术问题,正在加紧修复,各项功能

2023-07-22

n 确认彻底放弃上架 Steam 平台。 Dolphin 开发团队在今天发布的博文中表示,任天堂官方并未向该团队或者 Valve 发送 DMCA 通知,来阻止该软件上架 Steam 平台。 实际情况是当得知 Dolphin 要上架 Steam 后,Valve 法务部门联系了任天

2022-02-14

备定制的操作系统叫"rOS"。 目前还不知道苹果何时发布运行 realityOS 的设备,有报道认为苹果今年会推出一款头显设备,但也有报道认为是明年即 2023 年。 另外,知名分析师郭明錤曾表示,这款设备将会配备自己专属的 M

2023-07-12

今天,SUSE 宣布,它将 fork 公开可用的 Red Hat Enterprise Linux (RHEL),并将开发和维护与 RHEL 兼容的发行版所有人都可以不受限制地使用。未来几年,SUSE 计划向该项目投资超过 1000 万美元。 SUSE 首席执行官 Dirk-Peter van Leeuwen 表示:

2023-09-25

引发的用户争议与不满,Unity Create 负责人 Marc Whitten 正式发布了一封致社区的道歉公开信,并详细解释了其定价策略的变更。 我想以此开始:对不起。  在宣布新的 Runtime Fee 政策之前,我们本应与大家进行更多的沟通,

2022-11-01

rby ,神通,达梦,华为高斯,人大金仓,PolarDB,GBase8s,GreatSQL 等 大数据:HBase,ClickHouse,Cassandar,Hive,GreenPlum 物联网时序数据库:Machbase,TD-Engine,IotDB SQL 查询引擎:Drill,Presto,Druid 内存数据库:ignite,CouchBase 阅读