Zookeeper 是如何保证数据一致性的
  4cUZdr0QxHGA 2023年11月02日 181 0


zk目录


文章目录


思考:Zookeeper 是如何保证数据一致性的?这也是困扰分布式系统框架的一个难题。

1、Paxos算法

1.1、Paxos算法-解决什么问题

Paxos 算法 :一种基于消息传递且具有高度容错特性的 一致性算法。

Paxos 算法解决的问题:就是如何快速正确的在一个分布式系统中对某个数据值达成一致,并且保证不论发生任何异常,都不会破坏整个系统的一致性。


Zookeeper 是如何保证数据一致性的_zk如何保证数据的一致性

1.2、Paxos算法描述

在一个Paxos系统中,首先将所有节点划分为Proposer(提议者),Acceptor(接受者),和Learner(学习者)。(注意:每个节点都可以身兼数职)。


Zookeeper 是如何保证数据一致性的_zk如何保证数据的一致性_02

一个完整的Paxos算法流程分为三个阶段:

  • Prepare准备阶段
  • Proposer向多个Acceptor发出Propose请求Promise(承诺)
  • Acceptor针对收到的Propose请求进行Promise(承诺)
  • Accept接受阶段
  • Proposer收到多数Acceptor承诺的Promise后,向Acceptor发出Propose请求
  • Acceptor针对收到的Propose请求进行Accept处理
  • Learn学习阶段:Proposer将形成的决议发送给所有Learners

1.3、Paxos算法流程


Zookeeper 是如何保证数据一致性的_服务器_03

(1)Prepare: Proposer生成全局唯一且递增的Proposal ID,向所有Acceptor发送Propose请求,这里无需携带提案内容,只携带Proposal ID即可。

(2)Promise: Acceptor收到Propose请求后,做出“两个承诺,一个应答”。

  • 不再接受Proposal ID小于等于(注意:这里是<= )当前请求的Propose请求。
  • 不再接受Proposal ID小于(注意:这里是< )当前请求的Accept请求。
  • 不违背以前做出的承诺下,回复已经Accept过的提案中Proposal ID最大的那个提案的Value和Proposal ID,没有则返回空值。

(3)Propose: Proposer收到多数Acceptor的Promise应答后,从应答中选择Proposal ID最大的提案的Value,作为本次要发起的提案。如果所有应答的提案Value均为空值,则可以自己随意决定提案Value。然后携带当前Proposal ID,向所有Acceptor发送Propose请求。

(4)Accept: Acceptor收到Propose请求后,在不违背自己之前做出的承诺下,接受并持久化当前Proposal ID和提案Value。

(5)Learn: Proposer收到多数Acceptor的Accept后,决议形成,将形成的决议发送给所有Learner。

下面我们针对上述描述做三种情况的推演举例:为了简化流程,我们这里不设置 Learner。

1.3.1、情况1

有A1, A2, A3, A4, A5 5位议员,就税率问题进行决议。


Zookeeper 是如何保证数据一致性的_服务器_04

  • A1发起1号Proposal的Propose,等待Promise承诺;
  • A2-A5回应Promise;
  • A1在收到两份回复时就会发起税率10%的Proposal;
  • A2-A5回应Accept;
  • 通过Proposal,税率10%。

1.3.2、情况2

现在我们假设在A1提出提案的同时, A5决定将税率定为20%


Zookeeper 是如何保证数据一致性的_zk如何保证数据的一致性_05

  • A1,A5同时发起Propose(序号分别为1,2)
  • A2承诺A1,A4承诺A5,A3行为成为关键
  • 情况1:A3先收到A1消息,承诺A1。
  • A1发起Proposal(1,10%),A2,A3接受。
  • 之后A3又收到A5消息,回复A1:(1,10%),并承诺A5。
  • A5发起Proposal(2,20%),A3,A4接受。之后A1,A5同时广播决议

Paxos 算法缺陷:在网络复杂的情况下,一个应用 Paxos 算法的分布式系统,可能很久无法收敛,甚至陷入活锁的情况。

1.3.3、情况3

现在我们假设在A1提出提案的同时, A5决定将税率定为20%


Zookeeper 是如何保证数据一致性的_数据_06

  • A1,A5同时发起Propose(序号分别为1,2)
  • A2承诺A1,A4承诺A5,A3行为成为关键
  • 情况2:A3先收到A1消息,承诺A1。之后立刻收到A5消息,承诺A5。
  • A1发起Proposal(1,10%),无足够响应,A1重新Propose (序号3),A3再次承诺A1。
  • A5发起Proposal(2,20%),无足够相应。A5重新Propose (序号4),A3再次承诺A5。
  • ……

造成这种情况的原因是系统中有一个以上的 Proposer,多个 Proposers 相互争夺 Acceptor,造成迟迟无法达成一致的情况。针对这种情况,一种改进的 Paxos 算法被提出:从系统中选出一个节点作为 Leader,只有 Leader 能够发起提案。这样,一次 Paxos 流程中只有一个Proposer,不会出现活锁的情况,此时只会出现例子中第一种情况。

2、ZAB 协议

2.1、什么是 ZAB 算法

Zab 借鉴了 Paxos 算法,是特别为 Zookeeper 设计的支持崩溃恢复的原子广播协议。基于该协议,Zookeeper 设计为只有一台客户端(Leader)负责处理外部的写事务请求,然后Leader 客户端将数据同步到其他 Follower 节点。即 Zookeeper 只有一个 Leader 可以发起提案。

2.2、Zab 协议内容

Zab 协议包括两种基本的模式: 消息广播 、 崩溃恢复

2.2.1、消息广播

ZAB协议针对事务请求的处理过程类似于一个两阶段提交过程:
(1)广播事务阶段
(2)广播提交操作

这两阶段提交模型如下,有可能因为Leader宕机带来数据不一致,比如
( 1 ) Leader 发 起 一 个 事 务Proposal1后就宕机,Follower都没有Proposal1
(2)Leader收到半数ACK宕机,没来得及向Follower发送Commit

怎么解决呢?ZAB 引入了崩溃恢复模式。


Zookeeper 是如何保证数据一致性的_服务器_07

(1)客户端发起一个写操作请求。

(2)Leader服务器将客户端的请求转化为事务Proposal 提案,同时为每个Proposal 分配一个全局的ID,即zxid。

(3)Leader服务器为每个Follower服务器分配一个单独的队列,然后将需要广播的 Proposal依次放到队列中去,并且根据FIFO策略进行消息发送。

(4)Follower接收到Proposal后,会首先将其以事务日志的方式写入本地磁盘中,写入成功后向Leader反馈一个Ack响应消息。

(5)Leader接收到超过半数以上Follower的Ack响应消息后,即认为消息发送成功,可以发送commit消息。

(6)Leader向所有Follower广播commit消息,同时自身也会完成事务提交。Follower 接收到commit消息后,会将上一条事务提交。

(7)Zookeeper采用Zab协议的核心,就是只要有一台服务器提交了Proposal,就要确保所有的服务器最终都能正确提交Proposal。

2.2.2、崩溃恢复

1)崩溃恢复—异常假设

一旦Leader服务器出现崩溃或者由于网络原因导致Leader服务器失去了与过半 Follower的联系,那么就会进入 崩溃恢复模式


Zookeeper 是如何保证数据一致性的_zookeeper_08

  • 假设两种 服务器 异常情况:
  • (1)假设一个事务在Leader提出之后,Leader挂了。
  • (2)一个事务在Leader上提交了,并且过半的Follower都响应Ack了,但是Leader在Commit消息发出之前挂了。
  • Zab 协议崩溃恢复要求满足以下两个要求:
  • (1)确保已经被Leader提交的提案Proposal,必须最终被所有的Follower服务器提交。(已经产生的提案,Follower 必须执行)
  • (2)确保 丢弃已经被Leader提出的,但是没有被提交的Proposal。(丢弃胎死腹中的提案)
2)崩溃恢复—Leader 选举

崩溃恢复主要包括两部分:Leader 选举和 数据恢复。


Zookeeper 是如何保证数据一致性的_zk如何保证数据的一致性_09

Leader 选举:根据上述要求,Zab协议需要保证选举出来的Leader需要满足以下条件:

(1)新选举出来的Leader不能包含未提交的Proposal。 即新Leader 必须都是已经提交了Proposal 的Follower 服务器节点。

(2) 新选举的Leader 节点中含有最大的zxid。 这样做的好处是可以避免Leader服务器检查Proposal的提交和丢弃工作。

3)崩溃恢复—数据恢复

崩溃恢复主要包括两部分:Leader 选举和 数据恢复。


Zookeeper 是如何保证数据一致性的_数据_10

Zab 如何数据同步:

(1)完成Leader选举后,在正式开始工作之前(接收事务请求,然后提出新的Proposal),Leader 服务器会首先确认事务日志中的所有的Proposal 是否已经被集群中过半的服务器Commit。

(2)Leader服务器需要确保所有的Follower服务器能够接收到每一条事务的Proposal,并且能将所有已经提交的事务Proposal应用到内存数据中。等到Follower 将所有尚未同步的事务Proposal 都从Leader 服务器上同步过, 并且应用到内存数据中以后 ,Leader才会把该Follower加入到真正可用的Follower列表中。

3、CAP理论

CAP理论告诉我们,一个分布式系统不可能同时满足以下三种

  • 一致性(C:Consistency)
  • 可用性(A:Available)
  • 分区容错性(P:Partition Tolerance)

这三个基本需求,最多只能同时满足其中的两项,因为P是必须的,因此往往选择就在CP或者AP中。

一致性(C:Consistency):

  • 在分布式环境中,一致性是指数据在多个副本之间是否能够保持数据一致的特性。在一致性的需求下,当一个系统在数据一致的状态下执行更新操作后,应该保证系统的数据仍然处于一致的状态。

可用性(A:Available):

  • 可用性是指系统提供的服务必须一直处于可用的状态,对于用户的每一个操作请求总是能够在有限的时间内返回结果。

分区容错性(P:Partition Tolerance):

  • 分布式系统在遇到任何网络分区故障的时候,仍然需要能够保证对外提供满足一致性和可用性的服务,除非是整个网络环境都发生了故障。

ZooKeeper 保证的是CP

  • ZooKeeper 不能保证每次服务请求的可用性。(注:在极端环境下,ZooKeeper可能会丢弃一些请求,消费者程序需要重新请求才能获得结果)。所以说,ZooKeeper不能保证服务可用性。
  • 进行Leader 选举时集群都是不可用。


【版权声明】本文内容来自摩杜云社区用户原创、第三方投稿、转载,内容版权归原作者所有。本网站的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@moduyun.com

  1. 分享:
最后一次编辑于 2023年11月08日 0

暂无评论

4cUZdr0QxHGA