什么是Zookeeper
- Zookeeper是一个分布式协调服务,可以在分布式系统中共享配置,协调锁资源,提供命名服务。
- Zookeeper的数据模型很像数据结构当中的树,也很像文件系统的目录。
- Zookeeper的数据存储基于节点,这种节点叫做Znode。Znode包含了数据、子节点引用、访问权限等等。
- data:Znode存储的数据信息。
- ACL:记录Znode的访问权限,即哪些人或哪些IP可以访问本节点。
- stat:包含Znode的各种元数据,比如事务ID、版本号、时间戳、大小等等。
- child:当前节点的子节点引用,类似于二叉树的左孩子右孩子。
- Zookeeper是为读多写少的场景所设计。Znode并不是用来存储大规模业务数据,而是用于存储少量的状态和配置信息,每个节点的数据最大不能超过1MB。
- Zookeeper包含的基本操作:
- create:创建节点
- delete:删除节点
- exists:判断节点是否存在
- getData:获得一个节点的数据
- setData:设置一个节点的数据
- getChildren:获取节点下的所有子节点
- Zookeeper客户端在请求读操作的时候,可以选择是否设置Watch。Watch可以理解成是注册在特定Znode上的触发器。当这个Znode发生改变,也就是调用了create,delete,setData方法的时候,将会触发Znode上注册的对应事件,请求Watch的客户端会接收到异步通知。
Zookeeper的一致性
- Zookeeper Service集群是一主多从结构。
- 在更新数据时,首先更新到主节点(这里的节点是指服务器,不是Znode),再同步到从节点。
- 在读取数据时,直接读取任意从节点。
- 为了保证主从节点的数据一致性,Zookeeper采用了ZAB(ZooKeeper Atomic Broadcast)协议,这种协议非常类似于一致性算法Paxos和Raft。
- ZAB协议所定义的三种节点状态:
- Looking :选举状态。
- Following :Follower节点(从节点)所处的状态。
- Leading :Leader节点(主节点)所处状态。
- 最大ZXID也就是节点本地的最新事务编号,包含epoch和计数两部分。epoch是纪元的意思,相当于Raft算法选主时候的term。
ZAB的崩溃恢复
- 假如Zookeeper当前的主节点挂掉了,集群会进行崩溃恢复。ZAB的崩溃恢复分成三个阶段:
1、Leader election
- 选举阶段,此时集群中的节点处于Looking状态。它们会各自向其他节点发起投票,投票当中包含自己的服务器ID和最新事务ID(ZXID)。
- 接下来,节点会用自身的ZXID和从其他节点接收到的ZXID做比较,如果发现别人家的ZXID比自己大,也就是数据比自己新,那么就重新发起投票,投票给目前已知最大的ZXID所属节点。
- 每次投票后,服务器都会统计投票数量,判断是否有某个节点得到半数以上的投票。如果存在这样的节点,该节点将会成为准Leader,状态变为Leading。其他节点的状态变为Following。
2、Discovery
- 发现阶段,用于在从节点中发现最新的ZXID和事务日志。或许有人会问:既然Leader被选为主节点,已经是集群里数据最新的了,为什么还要从节点中寻找最新事务呢?
- 这是为了防止某些意外情况,比如因网络原因在上一阶段产生多个Leader的情况。
- 所以这一阶段,Leader集思广益,接收所有Follower发来各自的最新epoch值。Leader从中选出最大的epoch,基于此值加1,生成新的epoch分发给各个Follower。
- 各个Follower收到全新的epoch后,返回ACK给Leader,带上各自最大的ZXID和历史事务日志。Leader选出最大的ZXID,并更新自身历史日志。
3.Synchronization
- 同步阶段,把Leader刚才收集得到的最新历史事务日志,同步给集群中所有的Follower。只有当半数Follower同步成功,这个准Leader才能成为正式的Leader。
- 自此,故障恢复正式完成。
Broadcast
- 什么是Broadcast呢?简单来说,就是Zookeeper常规情况下更新数据的时候,由Leader广播到所有的Follower。其过程如下:
- 1.客户端发出写入数据请求给任意Follower。
- 2.Follower把写入数据请求转发给Leader。
- 3.Leader采用二阶段提交方式,先发送Propose广播给Follower。
- 4.Follower接到Propose消息,写入日志成功后,返回ACK消息给Leader。
- 5.Leader接到半数以上ACK消息,返回成功给客户端,并且广播Commit请求给Follower。
Zab协议既不是强一致性,也不是弱一致性,而是处于两者之间的单调一致性。它依靠事务ID和版本号,保证了数据的更新和读取是有序的。
Zookeeper的应用
- 1.分布式锁:这是雅虎研究员设计Zookeeper的初衷。利用Zookeeper的临时顺序节点,可以轻松实现分布式锁。
- 2.服务注册和发现:利用Znode和Watcher,可以实现分布式服务的注册和发现。最著名的应用就是阿里的分布式RPC框架Dubbo。
- 3.共享配置和状态信息:Redis的分布式解决方案Codis,就利用了Zookeeper来存放数据路由表和 codis-proxy 节点的元信息。同时 codis-config 发起的命令都会通过 ZooKeeper 同步到各个存活的 codis-proxy。
- 此外,Kafka、HBase、Hadoop,也都依靠Zookeeper同步节点信息,实现高可用。
什么是分布式锁
- Redis分布式锁:
set keyname val ex 5 nx
,当keyname不存在时,设置key,过期时间是5秒
如何用Zookeeper实现分布式锁
Znode分为四种类型:
- 1.持久节点 (PERSISTENT):默认的节点类型。创建节点的客户端与zookeeper断开连接后,该节点依旧存在 。
- 2.持久节点顺序节点(PERSISTENT_SEQUENTIAL):所谓顺序节点,就是在创建节点时,Zookeeper根据创建的时间顺序给该节点名称进行编号
- 3.临时节点(EPHEMERAL):和持久节点相反,当创建节点的客户端与zookeeper断开连接后,临时节点会被删除。
- 4.临时顺序节点(EPHEMERAL_SEQUENTIAL):临时顺序节点结合和临时节点和顺序节点的特点:在创建节点时,Zookeeper根据创建的时间顺序给该节点名称进行编号;当创建节点的客户端与zookeeper断开连接后,临时节点会被删除。
Zookeeper分布式锁的原理
Zookeeper分布式锁恰恰应用了临时顺序节点。具体如何实现呢?让我们来看一看详细步骤:
获取锁
首先,在Zookeeper当中创建一个持久节点ParentLock。当第一个客户端想要获得锁时,需要在ParentLock这个节点下面创建一个临时顺序节点 Lock1。 之后,Client1查找ParentLock下面所有的临时顺序节点并排序,判断自己所创建的节点Lock1是不是顺序最靠前的一个。如果是第一个节点,则成功获得锁。 这时候,如果再有一个客户端 Client2 前来获取锁,则在ParentLock下载再创建一个临时顺序节点Lock2。 Client2查找ParentLock下面所有的临时顺序节点并排序,判断自己所创建的节点Lock2是不是顺序最靠前的一个,结果发现节点Lock2并不是最小的。 于是,Client2向排序仅比它靠前的节点Lock1注册Watcher,用于监听Lock1节点是否存在。这意味着Client2抢锁失败,进入了等待状态。 这时候,如果又有一个客户端Client3前来获取锁,则在ParentLock下载再创建一个临时顺序节点Lock3。 Client3查找ParentLock下面所有的临时顺序节点并排序,判断自己所创建的节点Lock3是不是顺序最靠前的一个,结果同样发现节点Lock3并不是最小的。 于是,Client3向排序仅比它靠前的节点Lock2注册Watcher,用于监听Lock2节点是否存在。这意味着Client3同样抢锁失败,进入了等待状态。 这样一来,Client1得到了锁,Client2监听了Lock1,Client3监听了Lock2。这恰恰形成了一个等待队列,很像是Java当中ReentrantLock所依赖的AQS(AbstractQueuedSynchronizer)。
释放锁
释放锁分为两种情况: 1.任务完成,客户端显示释放 当任务完成时,Client1会显示调用删除节点Lock1的指令。 2.任务执行过程中,客户端崩溃 获得锁的Client1在任务执行过程中,如果Duang的一声崩溃,则会断开与Zookeeper服务端的链接。根据临时节点的特性,相关联的节点Lock1会随之自动删除。 由于Client2一直监听着Lock1的存在状态,当Lock1节点被删除,Client2会立刻收到通知。这时候Client2会再次查询ParentLock下面的所有节点,确认自己创建的节点Lock2是不是目前最小的节点。如果是最小,则Client2顺理成章获得了锁。 同理,如果Client2也因为任务完成或者节点崩溃而删除了节点Lock2,那么Client3就会接到通知。 最终,Client3成功得到了锁。