技术标签: python linux mysql 数据库 大数据
点击上方“芋道源码”,选择“设为星标”
管她前浪,还是后浪?
能浪的浪,才是好浪!
每天 10:33 更新文章,每天掉亿点点头发...
源码精品专栏
来源:blog.csdn.net/weixin_46902396/
DataX 使用介绍
或者我们公司将项目的数据报告并存储到最高五,但是因为那块数据准确,业务库和报告库又是库操作,所以不能同时使用 SQL 来进行。当时的打算是mysqldump
通过的方式来进行同步,但尝试后发现这些方案都不切实际:
mysqldump
:备份时间时间,同步,而且在备份的时间也需要,可能还有数据需要同步(不需要同步)
存储方式:效率太慢了,这个数据量少了还好,我们用这个方式的时候,三个才每小时同步两千条数据……
后面在网上快之后,发现DataX这个工具用同步速度查看,而且同步的数据量基本也无几。
基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能。
项目地址:https://github.com/YunaiV/ruoyi-vue-pro
DataX 是阿里云DataWorks的各种数据集成的开源版本,就是实现数据间的 离线同步。DataX主要实现关系数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等构数据源(即不同的数据库) 间稳定的数据同步功能。
为了解决数据源X的数据源同步,数据源将复杂的星网状网络问题同步形成数据类型 ,DataX作为数据源之间的载体连接;
当需要接入一个新的数据源时,只需将一个新的数据源对X个数据源进行同步,就可以将现有的数据源作为源数据。
DataX采用架构,将数据源读取和写入称为框架+读写器插件,加入到整个同步框架中。
角色 | 作用 |
---|---|
阅读器(采集模块) | 负责采集数据源的数据,将其发送给Framework 。 |
Writer(写入模块) | 负责不断向Framework 中取数据,并将数据写入到目的端。 |
框架(中间商) | 负责连接Reader 和Writer ,作为另一个数据传输通道,并处理缓冲,流控,同时,数据等技术问题。 |
DataX 完成数据同步的作业,称为 Job,DataX 接收到一个 Job 后,启动整个流程完成作业同步 DataX Job 模块是单个作业的中枢管理节点,承担了数据采集、子任务切割分、任务组管理等功能。
1、 DataX启动后,会根据不同源端的分工策略,将工作切分任务(子任务),以便于同时执行。
2、 会调用Data Job模块,根据配置的调度任务数量,将分解成的任务重新组合,组合成任务组(Task Group)
3、 每一个Task都由TaskGroup负责启动,Task启动后,会固定启动Reader --> Channel -->
Writer线程来完成任务同步工作。
4、 DataX作业运行启动后,Job监控后未结束TaskGroup时完成操作,Job就会成功完成(等待所有TaskGroup结束时 )
DataX调度过程:
1、 DataX会根据分库分表分配:分配好模块运行个任务,然后根据用户配置多少个数,来计算需要的任务组;2、 计算过程Task/Channel=TaskGroup
中,由任务组根据任务组来计算数量(任务);
基于微服务的思想,构建在 B2C 电商场景下的项目实战。核心技术栈,是 Spring Boot + Dubbo 。未来,会重构成 Spring Cloud Alibaba 。
项目地址:https://github.com/YunaiV/onemall
准备工作:
JDK(1.8以上,推荐1.8)
Python(2,3版本都可以)
Apache Maven 3.x(Compile DataX)(手动打包使用,使用tar包方式无需安装)
主机名 | 操作系统 | IP地址 | 餐食 |
---|---|---|---|
MySQL-1 | CentOS 7.4 | 192.168.1.1 | jdk-8u181-linux-x64.tar.gz datax.tar.gz |
MySQL-2 | CentOS 7.4 | 192.168.1.2 |
安装JDK:下载地址(需要创建Oracle账号)
[[email protected] ~]# ls
anaconda-ks.cfg jdk-8u181-linux-x64.tar.gz
[[email protected] ~]# tar zxf jdk-8u181-linux-x64.tar.gz
[[email protected] ~]# ls
anaconda-ks.cfg jdk1.8.0_181 jdk-8u181-linux-x64.tar.gz
[[email protected] ~]# mv jdk1.8.0_181 /usr/local/java
[[email protected] ~]# cat <<END >> /etc/profile
export JAVA_HOME=/usr/local/java
export PATH=$PATH:"$JAVA_HOME/bin"
END
[[email protected] ~]# source /etc/profile
[[email protected] ~]# java -version
因为 Cent 7 上自带 Python 2.7 的软件包,所以不需要安装。
[[email protected] ~]# wget http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz
[[email protected] ~]# tar zxf datax.tar.gz -C /usr/local/
[[email protected] ~]# rm -rf /usr/local/datax/plugin/*/._* # 需要删除隐藏文件 (重要)
当未删除时,可能会输出:[/usr/local/datax/plugin/reader/._drdsreader/plugin.json] 不存在。请检查您的配置文件。
验证:
[[email protected] ~]# cd /usr/local/datax/bin
[[email protected] ~]# python datax.py ../job/job.json # 用来验证是否安装成功
输出:
2021-12-13 19:26:28.828 [job-0] INFO JobContainer - PerfTrace not enable!
2021-12-13 19:26:28.829 [job-0] INFO StandAloneJobContainerCommunicator - Total 100000 records, 2600000 bytes | Speed 253.91KB/s, 10000 records/s | Error 0 records, 0 bytes | All Task WaitWriterTime 0.060s | All Task WaitReaderTime 0.068s | Percentage 100.00%
2021-12-13 19:26:28.829 [job-0] INFO JobContainer -
任务启动时刻 : 2021-12-13 19:26:18
任务结束时刻 : 2021-12-13 19:26:28
任务总计耗时 : 10s
任务平均流量 : 253.91KB/s
记录写入速度 : 10000rec/s
读出记录总数 : 100000
读写失败总数 : 0
查看streamreader --> streamwriter
的模板:
[[email protected] ~]# python /usr/local/datax/bin/datax.py -r streamreader -w streamwriter
输出:
DataX (DATAX-OPENSOURCE-3.0), From Alibaba !
Copyright (C) 2010-2017, Alibaba Group. All Rights Reserved.
Please refer to the streamreader document:
https://github.com/alibaba/DataX/blob/master/streamreader/doc/streamreader.md
Please refer to the streamwriter document:
https://github.com/alibaba/DataX/blob/master/streamwriter/doc/streamwriter.md
Please save the following configuration as a json file and use
python {
DATAX_HOME}/bin/datax.py {
JSON_FILE_NAME}.json
to run the job.
{
"job": {
"content": [
{
"reader": {
"name": "streamreader",
"parameter": {
"column": [],
"sliceRecordCount": ""
}
},
"writer": {
"name": "streamwriter",
"parameter": {
"encoding": "",
"print": true
}
}
}
],
"setting": {
"speed": {
"channel": ""
}
}
}
}
可以编写模板json
文件
[[email protected] ~]# cat <<END > test.json
{
"job": {
"content": [
{
"reader": {
"name": "streamreader",
"parameter": {
"column": [ # 同步的列名 (* 表示所有)
{
"type":"string",
"value":"Hello."
},
{
"type":"string",
"value":"河北彭于晏"
},
],
"sliceRecordCount": "3" # 打印数量
}
},
"writer": {
"name": "streamwriter",
"parameter": {
"encoding": "utf-8", # 编码
"print": true
}
}
}
],
"setting": {
"speed": {
"channel": "2" # 并发 (即 sliceRecordCount * channel = 结果)
}
}
}
}
输出:(要复制我的内容,需要把#带的内容去掉)
分别在两台主机上安装:
[[email protected] ~]# yum -y install mariadb mariadb-server mariadb-libs mariadb-devel
[[email protected] ~]# systemctl start mariadb # 安装 MariaDB 数据库
[[email protected] ~]# mysql_secure_installation # 初始化
NOTE: RUNNING ALL PARTS OF THIS SCRIPT IS RECOMMENDED FOR ALL MariaDB
SERVERS IN PRODUCTION USE! PLEASE READ EACH STEP CAREFULLY!
Enter current password for root (enter for none): # 直接回车
OK, successfully used password, moving on...
Set root password? [Y/n] y # 配置 root 密码
New password:
Re-enter new password:
Password updated successfully!
Reloading privilege tables..
... Success!
Remove anonymous users? [Y/n] y # 移除匿名用户
... skipping.
Disallow root login remotely? [Y/n] n # 允许 root 远程登录
... skipping.
Remove test database and access to it? [Y/n] y # 移除测试数据库
... skipping.
Reload privilege tables now? [Y/n] y # 重新加载表
... Success!
1 、准备同步数据(要同步的两台主机都有这个表)
MariaDB [(none)]>` create database course-study;
Query OK, 1 row affected (0.00 sec)
MariaDB [(none)]>` create table course-study.t_member(ID int,Name varchar(20),Email varchar(30));
Query OK, 0 rows affected (0.00 sec)
因为是使用DataX同步进行的,所以需要在程序双方的数据库上开放权限:
grant all privileges on *.* to [email protected]'%' identified by '123123';
flush privileges;
2、创建存储过程:
DELIMITER $$
CREATE PROCEDURE test()
BEGIN
declare A int default 1;
while (A < 3000000)do
insert into course-study.t_member values(A,concat("LiSa",A),concat("LiSa",A,"@163.com"));
set A = A + 1;
END while;
END $$
DELIMITER ;
call test();
1 、生成MySQL到MySQL同步的模板:
[[email protected] ~]# python /usr/local/datax/bin/datax.py -r mysqlreader -w mysqlwriter
{
"job": {
"content": [
{
"reader": {
"name": "mysqlreader", # 读取端
"parameter": {
"column": [], # 需要同步的列 (* 表示所有的列)
"connection": [
{
"jdbcUrl": [], # 连接信息
"table": [] # 连接表
}
],
"password": "", # 连接用户
"username": "", # 连接密码
"where": "" # 描述筛选条件
}
},
"writer": {
"name": "mysqlwriter", # 写入端
"parameter": {
"column": [], # 需要同步的列
"connection": [
{
"jdbcUrl": "", # 连接信息
"table": [] # 连接表
}
],
"password": "", # 连接密码
"preSql": [], # 同步前. 要做的事
"session": [],
"username": "", # 连接用户
"writeMode": "" # 操作类型
}
}
}
],
"setting": {
"speed": {
"channel": "" # 指定并发数
}
}
}
}
2 、编写json
文件:
[[email protected] ~]# vim install.json
{
"job": {
"content": [
{
"reader": {
"name": "mysqlreader",
"parameter": {
"username": "root",
"password": "123123",
"column": ["*"],
"splitPk": "ID",
"connection": [
{
"jdbcUrl": [
"jdbc:mysql://192.168.1.1:3306/course-study?useUnicode=true&characterEncoding=utf8"
],
"table": ["t_member"]
}
]
}
},
"writer": {
"name": "mysqlwriter",
"parameter": {
"column": ["*"],
"connection": [
{
"jdbcUrl": "jdbc:mysql://192.168.1.2:3306/course-study?useUnicode=true&characterEncoding=utf8",
"table": ["t_member"]
}
],
"password": "123123",
"preSql": [
"truncate t_member"
],
"session": [
"set session sql_mode='ANSI'"
],
"username": "root",
"writeMode": "insert"
}
}
}
],
"setting": {
"speed": {
"channel": "5"
}
}
}
}
3 、验证
[[email protected] ~]# python /usr/local/datax/bin/datax.py install.json
输出:
2021-12-15 16:45:15.120 [job-0] INFO JobContainer - PerfTrace not enable!
2021-12-15 16:45:15.120 [job-0] INFO StandAloneJobContainerCommunicator - Total 2999999 records, 107666651 bytes | Speed 2.57MB/s, 74999 records/s | Error 0 records, 0 bytes | All Task WaitWriterTime 82.173s | All Task WaitReaderTime 75.722s | Percentage 100.00%
2021-12-15 16:45:15.124 [job-0] INFO JobContainer -
任务启动时刻 : 2021-12-15 16:44:32
任务结束时刻 : 2021-12-15 16:45:15
任务总计耗时 : 42s
任务平均流量 : 2.57MB/s
记录写入速度 : 74999rec/s
读出记录总数 : 2999999
读写失败总数 : 0
全部的方式是完全同步的,但是当数据量测时,是同步的时间被中断的很安慰的事情;
所以在某种情况下,增量同步还是蛮重要的。
使用DataX全量同步和增量同步的唯一区别是:增量同步需要使用 where
进行条件筛选。 (即,同步进行筛选后的SQL)
1 、编写json
文件:
[[email protected] ~]# vim where.json
{
"job": {
"content": [
{
"reader": {
"name": "mysqlreader",
"parameter": {
"username": "root",
"password": "123123",
"column": ["*"],
"splitPk": "ID",
"where": "ID <= 1888",
"connection": [
{
"jdbcUrl": [
"jdbc:mysql://192.168.1.1:3306/course-study?useUnicode=true&characterEncoding=utf8"
],
"table": ["t_member"]
}
]
}
},
"writer": {
"name": "mysqlwriter",
"parameter": {
"column": ["*"],
"connection": [
{
"jdbcUrl": "jdbc:mysql://192.168.1.2:3306/course-study?useUnicode=true&characterEncoding=utf8",
"table": ["t_member"]
}
],
"password": "123123",
"preSql": [
"truncate t_member"
],
"session": [
"set session sql_mode='ANSI'"
],
"username": "root",
"writeMode": "insert"
}
}
}
],
"setting": {
"speed": {
"channel": "5"
}
}
}
}
需要注意的就是:where(条件筛选)部分和preSql(同步前,做的事情)参数。
2 、验证:
[[email protected] ~]# python /usr/local/data/bin/data.py where.json
输出:
2021-12-16 17:34:38.534 [job-0] INFO JobContainer - PerfTrace not enable!
2021-12-16 17:34:38.534 [job-0] INFO StandAloneJobContainerCommunicator - Total 1888 records, 49543 bytes | Speed 1.61KB/s, 62 records/s | Error 0 records, 0 bytes | All Task WaitWriterTime 0.002s | All Task WaitReaderTime 100.570s | Percentage 100.00%
2021-12-16 17:34:38.537 [job-0] INFO JobContainer -
任务启动时刻 : 2021-12-16 17:34:06
任务结束时刻 : 2021-12-16 17:34:38
任务总计耗时 : 32s
任务平均流量 : 1.61KB/s
记录写入速度 : 62rec/s
读出记录总数 : 1888
读写失败总数 : 0
主要是 where 配置:"where": "ID > 1888 AND ID <= 2888" # 通过条件筛选来进行增量同步
同时需要将我上面的 preSql 删除(因为我上面做的操作时 truncate 表)
欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢:
已在知识星球更新源码解析如下:
最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。
提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。
获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。
文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
文章目录一、引入所需库二、化学反应实例三、化学反应模板四、化学反应注意事项RDKit提供化学反应引擎,其中化学反应模板是基于smarts构建。反应物+反应引擎就可以生成产物。一、引入所需库#! /usr/bin/python# coding: utf-8from rdkit import Chemfrom rdkit.Chem import AllChemfrom rdkit.Chem import Draw二、化学反应实例示例反应rxn = AllChem.ReactionFro
scanf是C语言中的标准输入函数。函数原型:int scanf( const char *format, ... );其调用格式为: scanf("&lt;格式化字符串&gt;",&lt;地址表&gt;);举例如下:scanf("%d%d", &amp;a, &amp;b); // 接收用户从键盘输入的2个整数,分别赋值给变量a函数的返回值为 被成功读入的数据项个数。如果a和b都被成功读入,那么...
这一节先不进行后续,我们需要对Three.js的一些属性进行了解。1、相机 常用相机除了前一篇博客用到的PerspectiveCamera相机(透视相机), 还有一款名叫正交相机; 【a】透视相机: 类名:THREE.PerspectiveCamera ,重要参数:fov, near, far,aspect; Fov – 相机的视锥体的垂直视野角...
文接上篇,这部分主要是我的踩坑过程:[[email protected] Downloads]$ sudo su[[email protected] Downloads]# wget https://updates.atomicorp.com/installers/atomic--2020-09-26 19:42:39-- https://updates.atomicorp.com/installers/atomicResolving updates.atomicorp.com (.
1007:DNA排序总时间限制: 1000ms内存限制: 65536kB描述现在有一些长度相等的DNA串(只由ACGT四个字母组成),请将它们按照逆序对的数量多少排序。逆序对指的是字符串A中的两个字符A[i]、A[j],具有i A[j] 的性质。如字符串”ATCG“中,T和C是一个逆序对,T和G是另一个逆序对,这个字符串的逆序对数为2。输入第1行:两个整数
1.安装Eigen3,使用简单命令安装sudo apt-get install libeigen3-dev 安装成功之后,在/usr/include/eigen3/Eigen/src/Core/util/Macros.h 文件里面可以看到安装的版本,安装成功后,头文件路径在 /usr/local/include/eigen3/2.测试程序:https://www.jianshu.com/p/41ff7b4502d53.安装opencv3.0.0:系统更新:利用ubuntu自带的更新管理器
客户端:XShell + Xmanager配置流程:1.使用XShell建立连接时,设置连接属性,在 SSH --> tunneling 选项下勾选 ForwardX11 connections to:勾选 Xmanager。2.登陆用户名为你安装数据库的用户安装配置gtk+2.0:采用yum方法安装gtk很方便。(一定要联网) yum-yinstall gtk2 gtk2-...
这篇文章简要介绍了苹果于WWDC 2014发布的编程语言——Swift。Swift是什么?Swift是苹果于WWDC 2014发布的编程语言,这里引用The Swift Programming Language的原话:Swift is a new programming language for iOS and OS X apps that builds on th
物联网平台介绍 目前项目中也有涉及到物联网平台这方面工作,也学习了物联网方面的一些技术内容并进行总结。 物联网万顾名思义就是用于大规模设备数据采集和不同设备类型的协议采集,实现通过网络控制及采集终端数据的目的;物联网平台主要实现几个目标:网络设备管理、终端设备指令管理、底层网络协议适配、组态设计、组态展示、前后端通信、对外接口。最终目的通过物联网平台实现对各类Io...
今天跟大家分享一下如何把俩列内容合并成一列内容1.如下图表格中含有两列数据,现在我们先要将这两列数据合并到一个单元格中。2.第一步我们选中全部单元格区域3.然后我们点击下图选项(Excel工具箱,百度即可了解详细下载安装信息,本文这里就不做详细解说。)4.接着点击【合并转换】,选择【按行合并】5.然后我们点击【确定】6.最后我们选择一个单元格作为存放位置,最后点击【确定】即可完成7.完成效果如下图
以下摘自:《卓有成效的程序员》之自动化 我经常会一次往Subversion里添加一批文件。在使用命令行做这件事时,你必须指定所有想要添加的文件名。如果文件不多的话这还不算太糟糕,但如果你要添加20个文件,那就费事了。当然你也可以用通配符,但这样一来就可能匹配到已经在版本控制之下的文件(这不会有什么损害,只不过会输出一堆错误信息,可能会跟别的错误信息混淆)。为了解决这个问题
说起可变参数,立即想到的就是printf(),scanf()了。可变参数就是有一个固定的格式控制参数,后面再根据格式控制参数接若干参数。 这里先讨论可变参数宏。 我们一般在Debug需要打印调试信息的时候,需要可变参数的宏。 一, vc(C99)的复杂宏。 参考msdn(http://msdn2.microsoft.com/en-us/library/ms177415.aspx )。使用这种复杂宏时,省略号是格式控制参数,而标识符__VA_AR