QuickStart
1.几点说明
有一点特别注意：目前canal支持mixed,row,statement多种日志协议的解析，但配合otter进行数据库同步，目前仅支持row协议的同步，使用时需要注意.
环境准备
操作系统
a. otter为纯java编写，windows/linux均可支持
b. jdk建议使用1.6.25以上的版本，稳定可靠，目前阿里巴巴使用基本为此版本
整个otter同步由几部分组成，需要预先进行安装，后续会有专门的篇幅展开介绍
manager
node
otter node依赖于zookeeper进行分布式调度，需要安装一个zookeeper节点或者集群.
重要：考虑异地机房的地域性，node机器会优先选择就近的zookeeper节点进行访问，比如国际站会在杭州和美国各部署node，针对美国的node会选择美国的zookeeper进行访问，提升读效率. ps. 不同机房的zookeeper集群组成一个物理大集群，只不过是根据地域不同划分为不同逻辑集群，所有地域的node机器对zookeeper进行写操作都会发到一个地域的zookeeper进行paoxs算法仲裁.
所以，manager启动完成后，需要首先定义不同机房的zookeeper机器集群。
比如：目前otter使用的zookeeper集群，在杭州会有3个机房，分别部署3+2+2台机器组成一个leader/follower集群，在美国一个机房部署2台机器，做为杭州机房zookeeper的observer(读镜像)，(observer模式特点：读请求在自己本地，写请求代理到leader/follower上投票处理，然后异步接收leader的写结果反馈. )
image
说明：添加了zookeeper集群后，会在添加node和canal时自动出现在可选列表里。 这也是添加node和canal的一个前提
2.环境安装
2.1 manager安装
Otter Manager QuickStart： Manager_Quickstart
2.2 node安装
Otter Node QuickStart : Node_Quickstart
2.3 网友分享
3. 操作演示
演示视频(5分钟教你配置一个同步任务)：请点击图片或者这里
搭建一个数据库同步任务，源数据库ip为：10.20.144.25，目标数据库ip为：10.20.144.29. 源数据库已开启binlog，并且binlog_format为ROW.
mysql> show variables like '%binlog_format%';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | ROW |
+---------------+-------+
数据同步精确到一张表进行测试，测试的表名为test.example，简单包含两个子段，测试过程中才创建.
配置完成后，手动在源库插入数据，然后快速在目标库进行查看数据，验证数据是否同步成功.
视频中的演示文本：
CREATE TABLE `test`.`example` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`name` varchar(32) COLLATE utf8_bin DEFAULT NULL ,
PRIMARY KEY (`ID`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
insert into test.example(id,name) values(null,'hello');
-----
Otter QuickStart 如何配置一个任务
-----
操作步骤：
1. 添加数据库
a. 源库 jdbc:mysql://10.20.144.25:3306
b. 目标库 jdbc:mysql://10.20.144.29:3306
2. 添加canal
a. 提供数据库ip信息
3. 添加同步表信息
a. 源数据表 test.example
b. 目标数据表 test.example
4. 添加channel
5. 添加pipeline
a. 选择node节点
b. 选择canal
6. 添加同步映射规则
a. 定义源表和目标表的同步关系
7. 启动
8. 测试数据
Manager_Quickstart
KingZzz edited this page on 1 Feb · 9 revisions
1.环境准备
otter manager依赖于mysql进行配置信息的存储，所以需要预先安装mysql，并初始化otter manager的系统表结构
a. 安装mysql，这里不展开，网上一搜一大把
b. 初始化otter manager系统表：
下载：
wget https://raw.github.com/alibaba/otter/master/manager/deployer/src/main/resources/sql/otter-manager-schema.sql
载入：
source otter-manager-schema.sql
整个otter架构依赖了zookeeper进行多节点调度，所以需要预先安装zookeeper，不需要初始化节点，otter程序启动后会自检.
a. manager需要在otter.properties中指定一个就近的zookeeper集群机器
2.启动步骤
下载otter manager
直接下载 ，可访问：https://github.com/alibaba/otter/releases ，会列出所有历史的发布版本包下载方式，比如以x.y.z版本为例子：
wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/manager.deployer-x.y.z.tar.gz
or
自己编译
git clone git@github.com:alibaba/otter.git
cd otter;
mvn clean install -Dmaven.test.skip -Denv=release
编译完成后，会在根目录下产生target/manager.deployer-$version.tar.gz
解压缩
mkdir /tmp/manager
tar zxvf manager.deployer-$version.tar.gz -C /tmp/manager
配置修改
## otter manager domain name #修改为正确访问ip，生成URL使用
otter.domainName = 127.0.0.1
## otter manager http port
otter.port = 8080
## jetty web config xml
otter.jetty = jetty.xml
otter manager database config ，修改为正确数据库信息
otter.database.driver.class.name = com.mysql.jdbc.Driver
otter.database.driver.url = jdbc:mysql://127.0.01:3306/ottermanager
otter.database.driver.username = root
otter.database.driver.password = hello
otter communication port
otter.communication.manager.port = 1099
otter communication pool size
otter.communication.pool.size = 10
default zookeeper address，修改为正确的地址，手动选择一个地域就近的zookeeper集群列表
otter.zookeeper.cluster.default = 127.0.0.1:2181
default zookeeper session timeout = 90s
otter.zookeeper.sessionTimeout = 90000
otter arbitrate connect manager config
otter.manager.address = ${otter.domainName}:${otter.communication.manager.port}
准备启动
sh startup.sh
查看日志
vi logs/manager.log
2013-08-14 13:19:45.911 [] WARN com.alibaba.otter.manager.deployer.JettyEmbedServer - ##Jetty Embed Server is startup!
2013-08-14 13:19:45.911 [] WARN com.alibaba.otter.manager.deployer.OtterManagerLauncher - ## the manager server is running now
出现类似日志，代表启动成功
验证
访问： http://127.0.0.1:8080/，出现otter的页面，即代表启动成功
image
访问：http://127.0.0.1:8080/login.htm，初始密码为：admin/admin，即可完成登录. 目前：匿名用户只有只读查看的权限，登录为管理员才可以有操作权限
关闭
sh stop.sh
Node_Quickstart
1.环境准备
otter node会受otter manager进行管理，所以需要预先安装otter manager，参见：Otter Manager Quickstart.
完成manager安装后，需要在manager页面为node定义配置信息，并生一个唯一id.
a. 首先访问manager页面的机器管理页面，点击添加机器按钮
image
几点说明：
机器名称：可以随意定义，方便自己记忆即可
机器ip：对应node节点将要部署的机器ip，如果有多ip时，可选择其中一个ip进行暴露. (此ip是整个集群通讯的入口，实际情况千万别使用127.0.0.1，否则多个机器的node节点会无法识别)
机器端口：对应node节点将要部署时启动的数据通讯端口，建议值：2088
下载端口：对应node节点将要部署时启动的数据下载端口，建议值：9090
外部ip ：对应node节点将要部署的机器ip，存在的一个外部ip，允许通讯的时候走公网处理。
zookeeper集群：为提升通讯效率，不同机房的机器可选择就近的zookeeper集群.
node这种设计，是为解决单机部署多实例而设计的，允许单机多node指定不同的端口
b. 机器添加完成后，跳转到机器列表页面，获取对应的机器序号nid
通过这两部操作，获取到了node节点对应的唯一标示，称之为node id，简称：nid. 记录该nid，后续启动nid时会使用
node节点进行跨机房传输时，会使用到HTTP多线程传输技术，目前主要依赖了aria2c做为其下载客户端，后续会推出java版本.
当前测试过多个HTTP多线程下载客户端，比如wget,curl,axel,oget,proz,aria2c，测试结果aria2c下载效率最快，基本可以压满网卡.
注意：下载完成或者编译完成后，将对应的aria2c包加入到PATH路径即可.
2.启动步骤
下载otter node
直接下载 ，可访问：https://github.com/alibaba/otter/releases ，会列出所有历史的发布版本包下载方式，比如以x.y.z版本为例子：
wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/node.deployer-x.y.z.tar.gz
or自己编译:
git clone git@github.com:alibaba/otter.git
cd otter;
mvn clean install -Dmaven.test.skip -Denv=release
编译完成后，会在根目录下产生target/node.deployer-$version.tar.gz
解压缩
mkdir /tmp/node
tar zxvf node.deployer-$version.tar.gz -C /tmp/node
配置修改
a. nid配置 (将环境准备中添加机器后获取到的序号，保存到conf目录下的nid文件，比如我添加的机器对应序号为1)
echo 1 > conf/nid
b. otter.properties配置修改
# otter node root dir
otter.nodeHome = ${user.dir}/../node
## otter node dir
otter.htdocs.dir = ${otter.nodeHome}/htdocs
otter.download.dir = ${otter.nodeHome}/download
otter.extend.dir= ${otter.nodeHome}/extend
default zookeeper sesstion timeout = 90s
otter.zookeeper.sessionTimeout = 90000
otter communication pool size
otter.communication.pool.size = 10
otter arbitrate & node connect manager config ， 修改为正确的manager服务地址
otter.manager.address = 127.0.0.1:1099
准备启动
sh startup.sh
查看日志
如果manager页面的ip配置不正确，会出现类似错误：
打开日志： vi logs/node/node.log
Exception in thread "main" java.lang.IllegalArgumentException: node[1] ip[127.0.0.1] port[2088] , but your host ip[10.12.48.215] is not matched!
at com.alibaba.otter.node.etl.OtterController.checkNidVaild(OtterController.java:245)
at com.alibaba.otter.node.etl.OtterController.initNid(OtterController.java:230)
at com.alibaba.otter.node.etl.OtterController.start(OtterController.java:73)
at com.alibaba.otter.node.deployer.OtterLauncher.main(OtterLauncher.java:25)
此时修改ip为对应的host ip后，再次启动即可。
vi logs/node/node.log
2013-08-14 15:42:16.886 [main] INFO com.alibaba.otter.node.deployer.OtterLauncher - INFO ## the otter server is running now ......
看到如下日志，代表node启动完成.
验证
访问： http://127.0.0.1:8080/node_list.htm，查看对应的节点状态，如果变为了已启动，代表已经正常启动。(ps，如果是未启动，会是一个红色高亮)
image
关闭
sh stop.sh
关闭后，可查看下manager页面，检查下节点状态.
