ETL & 流批一体化框架 bboss v7.2.6 发布


ETL & 流批一体化框架 bboss v7.2.6 发布---简版Flink。文件输出插件新增将生成的数据文件写入oss数据库minio功能以及若干改进。

v7.2.6 功能改进-20240812

  1. 问题修复:修复部分Postgresql分页查询失败问题

  2. 功能改进:将框架中部分缓存功能中使用的HashMap调整为ConcurrentHashMap,消除可能存在多线程安全隐患

  3. 文件输出插件改进:增加将文件写入oss数据库minio功能,使用案例:抽取Elasticsearch数据生成文件,并写入oss数据库minio

  4.  问题修复:修复大数据量excel文件采集失败问题

  5. 持久层改进:优化持久层查询元数据缓冲机制和结构,去除不必要的缓冲和冗余信息,节约内存,提升性能

  6. 持久层改进:映射记录为Map类型时,默认关闭将查询列名称转换为大写值作为map key功能,如果需要开启(不建议开启),则进行相应设置即可:db.columnLableUpperCase=true

  7. 文件采集插件改进:为文本文件采集增加内存缓冲区机制,大幅提升文本采集性能(近20倍性能提升)

  8. 并行数据采集改进:增加判断记录集是否为空逻辑,解决可能存在输入内容为空异常

bboss使用案例

https://esdoc.bbossgroups.com/#/bboss-datasyn-demo

数据采集ETL工具使用集成指南

https://esdoc.bbossgroups.com/#/db-es-tool

数据采集&流批一体化处理使用指南

https://esdoc.bbossgroups.com/#/etl-metrics

bboss-datatran插件清单

https://esdoc.bbossgroups.com/#/datatran-plugins

基于源码构建bboss

https://esdoc.bbossgroups.com/#/bboss-build


相關推薦

2023-09-26

数据采集 ETL & 流批一体化框架 bboss v7.1.0 发布 --- 高效、稳定、快速、安全 bboss --- 简化版 Flink,一个基于开源协议 Apache License 发布的开源项目,由开源团队 bboss 运维,主要由以下三部分构成: Elasticsearch Hi

2023-11-07

数据采集 ETL & 流批一体化框架 bboss v7.1.1发布 --- 高效、稳定、快速、安全 本次版本最大亮点:新增MongoDB CDC输入插件,可以增量模式采集MongoDB 增、删、改数据,也可每次作业重启从最新位置采集MongoDB 增、删、改数据,

2024-06-19

ETL & 流批一体化框架 bboss v7.2.1 发布,持久层及相关模块的扩展。 v7.2.1 功能改进-20240616 持久层改进:增加tdengine数据库的适配器 数据库输出插件改进:同步sql 输出到log日志 数据库输入、输出插件改进:增加直接

2023-07-06

数据采集 ETL & 流批一体化框架 bboss v7.0.2 发布 --- 高效、稳定、快速、安全 bboss 由三部分构成 Elasticsearch Highlevel Java Restclient 数据采集同步 ETL 流批一体化计算框架 bboss版本最新版本号从以下文档章节获取:

2023-02-24

数据采集ETL&流批一体化计算工具 bboss v6.8.2 发布。 bboss-datatran由 bboss 开源的数据采集同步ETL工具,提供数据采集、数据清洗转换处理入库以及流批一体化数据指标统计计算处理功能。 v6.8.2功能改进 FTP文件输入/

2022-11-03

多振奋人心的功能。 Flink 已经是流计算领域的领跑者,流批一体的概念逐渐得到大家的认可,并在越来越多的公司成功落地。之前的流批一体更强调统一的 API 和统一的计算框架。今年,在此基础上,Flink 推出了 Streaming Ware

2022-11-06

11月5日,在2022云栖大会一体化大数据智能峰会上,由开放原子开源基金会、X-lab开放实验室和阿里巴巴开源委员会联合出品的《2022年开源大数据热力报告》重磅发布。 开放原子开源基金会副秘书长刘京娟女士对报告进行了深度

2024-10-18

效率和可扩展性。 1-1 湖仓查询加速 查询加速是湖仓一体化进程中的重要一环。借助 Apache Doris 强大的分布式查询引擎,可以帮助用户对湖仓数据进行快速分析。在 TPC-H 和 TPC-DS 标准测试集上,Apache Doris 的平均查询性能是 Tri

2022-10-28

集成和增量集成三类同步模式,并支持分布式水平扩展和流批一体架构,在各种数据量和各种场景下,一个框架即可解决数据集成需求。此外,BitSail采用插件式架构,支持运行时解耦,从而具备极强的灵活性,企业可以很方便

2023-04-27

式数据源,Text、PB、Parquet 等数据类型。 目前 Primus 流批一体训练框架在字节内部支持了抖音、头条、Tiktok、广告等大部分业务,每天运行在 Primus 上的作业总核数达到几百万。相比旧的基于Hadoop Streaming的框架,训练性能提

2022-07-20

SON 文档,可以部署在分布式集群中。 RavenDB 5.4 近日正式发布,更新内容如下: 特性 [ETL] 为 ETL 添加了 Kafka 支持 [ETL] 在 ETL 中添加了 RabbitMQ 支持 [Corax] 新的实验性搜索和索引引擎 Client API [Graph API] 将所有的 API 标记

2023-08-09

ve 之上添加了更多实时场景的能力;并且面向 DataOps 提供流批统一、开箱即用的元数据服务,让数据湖更加好用和实用。 公告指出,项目更名的原因是 Arctic 与一些知名软件商标冲突,不利于长期规划。譬如: Man Gro

2023-12-06

新的流式数据处理优先、统一历史数据从存储到计算原生一体化的实时数据平台。这意味着企业现在可以使用统一 SQL 语言实时无缝地查询流式数据和历史数据,进行实时处理分析,实时生成报表。相对于其他流式数据处理技术

2022-04-07

和 数据湖 等众多框架的 一站式 实时计算平台,致力于 流批一体 和 湖仓一体 的建设与实践。 其主要目标如下: 可视化交互式 FlinkSQL 和 SQL 的数据开发平台:自动提示补全、语法高亮、调试执行、语法校验、语句美化、