刷新
深入解析Apache DolphinScheduler容错机制

博主头像 简述 Apache Dolphinscheduler Master和Worker都是支持多节点部署,无中心化的设计。 Master主要负责是流程DAG的切分,最终通过RPC将任务分发到Worker节点上以及Worker上任务状态的处理 Worker主要负责是真正任务的执行,最后将任务状态汇报给Mas ...

@dailai,欢迎成为Apache SeaTunnel Committer一员!

博主头像 Apache SeaTunnel社区最近又迎来了一位新Committer,他是来自中电信翼康的大数据架构师,作为医疗健康行业从业者,他给SeaTunnel项目带来了此专业领域相关的技术支持,探索了医疗数据的价值挖掘与AI模型应用与SeaTunnel相结合的潜能。来看看他是如何成为SeaTunnel社 ...

mysql的执行逻辑

本篇章为构建mysql在执行过程中简单的业务流程,为后续的代码优化和面试构建基础。 1、首先一条sql在执行时sql会通过网络传送给mysql 2、在Mysql收到sql语句后会先在分析器中先判断一下SQL语句有没有语法错误。 3、判断完语法之后语法无误,优化器会根据你写的sql判断执行什么索引。( ...

国产数据库的崛起与挑战:谁将在激烈市场洗牌中脱颖而出

博主头像 国产数据库的崛起与挑战:谁将在激烈市场洗牌中脱颖而出 数据 先看一下当前企业数据 截至最新的公开数据,中国的企业数量总量非常庞大。 截至2022年底,民营企业已超过4500万家,在各类企业中占比极大。 截至2022年底,国有企业约有15万家,其中中央企业有97家。 目前国情 在数据库领域,国家的政策 ...

读数据工程之道:设计和构建健壮的数据系统16源系统实际细节(下)

博主头像 1. 数据共享 1.1. 云数据共享的核心概念是,多租户系统支持租户之间共享数据的安全策略 1.2. 任何具有细粒度权限系统的公有云对象存储系统都可以成为数据共享的平台 1.3. 数据共享也简化了数据市场的概念,在几个流行的云和数据平台上都可用 1.4. 数据共享还可以简化组织内的数据管道 1.5. ...

Newstar_week1-2_wp

博主头像 week1 wp crypto 一眼秒了 n费马分解再rsa flag: import libnum import gmpy2 from Crypto.Util.number import * p = 9648423029010515676590551740010426534945737639235 ...

为什么说Kafka还不是完美的实时数据通道

博主头像 本文主要谈谈Kafka用于实时数据通道场景的缺陷,以及如何在架构上进行弥补。 Kafka归属于消息队列类产品,其他竞品还有RabbitMQ、RocketMQ等,总的来说它们都是基于生产者、中介和消费者三种角色,提供高并发、大数据量场景下的消息传递。Kafka诞生自Hadoop生态,与生态中的其他组件 ...

RockyLinux安装redis

博主头像 本文介绍RockyLinux使用dnf在线安装redis并修改密码设置远程登陆。 本博客使用RetHat系的新版本系统,如使用Debian系的系统如Ubuntu,只需使用apt安装,其余部分类似。 1、使用如下命令安装redis sudo dnf install redis-server 2、安装完 ...

RockyLinux安装MySQL

博主头像 本文介绍RockyLinux使用dnf在线安装MySQL并修改密码设置远程登陆。 本博客使用RetHat系的新版本系统,如使用Debian系的系统如Ubuntu,只需使用apt安装,其余部分类似。 1、使用如下命令安装MySQL sudo dnf install mysql-server 2、安装完 ...

Mysql高级-day01

博主头像 Mysql高级-day01 MySQL高级课程简介 序号 Day01 Day02 Day03 Day04 1 Linux系统安装MySQL 体系结构 应用优化 MySQL 常用工具 2 索引 存储引擎 查询缓存优化 MySQL 日志 3 视图 优化SQL步骤 内存管理及优化 MySQL 主从复制 4 ...

读数据工程之道:设计和构建健壮的数据系统14源系统

博主头像 1. 源系统中的数据生成 1.1. 数据工程师的工作是从源系统获取数据,对其进行处理,使其有助于为下游用例提供服务 1.2. 数据工程师的角色将在很大程度上转向理解数据源和目的地之间的相互作用 1.3. 数据工程的最基本的数据管道任务——将数据从A移动到B 2. 数据源 2.1. 数据是无组织的、缺 ...

[20241018]21c x$mutex_sleep_history记录的变化.txt

[20241018]21c x$mutex_sleep_history记录的变化.txt--//mutex很少会成为主要等待事件,如果遇到多数情况非常特别,比如bug。mutex本身和保护对象是一体的,不像latch一样有单独的--//latch,而且mutex本身占内存也更小,mutex没有等待和 ...

Mysql高级-day04

博主头像 Mysql高级-day04 1. MySql中常用工具 1.1 mysql 该mysql不是指mysql服务,而是指mysql的客户端工具。 语法 : mysql [options] [database] 1.1.1 连接选项 参数 : -u, --user=name 指定用户名 -p, --pas ...

SuperSet安装

博主头像 安装Python环境 mkdir /opt/soft curl -O https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh 回车之后,一 ...

读数据工程之道:设计和构建健壮的数据系统13无服务器

博主头像 1. 无服务器 1.1. 云供应商的一个大趋势是无服务器,允许开发人员和数据工程师无须在后台管理服务器即可运行应用程序 1.1.1. 无服务器快速将价值投入到其正确的用例 1.2. 无服务器真正开始流行是在2014年AWS Lambda全面投入使用之后 1.2.1. 由于无须管理服务器,只需在无服务 ...

PostgreSQL流复制主从切换

博主头像 0,前提 确保PostgreSQL主从流复制是正常状态 1,从节点执行promote提升为主节点: 1.1 ###修改原从节点的pg_hba.conf,设置复制用户的IP为主节点 host replication replica_user 原始主节点IP/32 md5 1.2 ###原从节点上创建s ...

TB 级数据入库无压力:Apache DolphinScheduler 助力 ClickHouse 优化

博主头像 引言 如今,随着大数据、物联网、人工智能等技术的快速发展,数据量呈现指数级增长。企业迫切需要一个既能快速处理大规模数据,又能保障性能稳定的数据库系统。ClickHouse 在数据分析与查询性能方面表现优异,但随着数据规模不断增长,其在数据写入与合并阶段的瓶颈也日渐凸显。 不少企业尝试通过简单的 ...