? 上一篇下一篇 ?

什么是ZooKeeper,史上最便捷搭建Zookeeper服務器的方法(推薦)

   我們在集群服務器的維護當中經常遇到ZooKeeper這個名詞,那么什么是ZooKeeper,它有什么好處呢,下面就讓我們來探索一下。

 由于 ZooKeeper 便捷的使用方式、卓越的性能和良好的穩定性,被廣泛地應用于諸如 Hadoop、HBase、Kafka 和 Dubbo 等大型分布式系統中。這篇文章主要介紹了史上最便捷搭建Zookeeper服務器的方法,需要的朋友可以參考

 

什么是 ZooKeeper

ZooKeeper是Hadoop的正式子項目,它是一個針對大型分布式系統的可靠協調系統,提供的功能包括:配置維護、名字服務、分布式同步、組服務等。ZooKeeper的目標就是封裝好復雜易出錯的關鍵服務,將簡單易用的接口和性能高效、功能穩定的系統提供給用戶。

  Zookeeper是Google的Chubby一個開源的實現.是高有效和可靠的協同工作系統.Zookeeper能夠用來leader選舉,配置信息維護等.在一個分布式的環境中,我們需要一個Master實例或存儲一些配置信息,確保文件寫入的一致性等.Zookeeper能夠保證如下3點:

ZooKeeper 是 Apache 的一個頂級項目,為分布式應用提供高效、高可用的分布式協調服務,提供了諸如數據發布/訂閱、負載均衡、命名服務、分布式協調/通知和分布式鎖等分布式基礎服務。由于 ZooKeeper 便捷的使用方式、卓越的性能和良好的穩定性,被廣泛地應用于諸如 Hadoop、HBase、Kafka 和 Dubbo 等大型分布式系統中。

Zookeeper 有三種運行模式:單機模式、偽集群模式和集群模式。

  • 單機模式:這種模式一般適用于開發測試環境,一方面我們沒有那么多機器資源,另外就是平時的開發調試并不需要極好的穩定性。

  • 集群模式:一個 ZooKeeper 集群通常由一組機器組成,一般 3 臺以上就可以組成一個可用的 ZooKeeper 集群了。組成 ZooKeeper 集群的每臺機器都會在內存中維護當前的服務器狀態,并且每臺機器之間都會互相保持通信。

  • 偽集群模式:這是一種特殊的集群模式,即集群的所有服務器都部署在一臺機器上。當你手頭上有一臺比較好的機器,如果作為單機模式進行部署,就會浪費資源,這種情況下,ZooKeeper允許你在一臺機器上通過啟動不同的端口來啟動多個 ZooKeeper 服務實例,以此來以集群的特性來對外服務。

ZooKeeper 的相關知識

  • Zookeeper 中的角色領導者(leader):負責進行投票的發起和決議,更新系統狀態

  • 跟隨者(follower):用于接收客戶端請求并給客戶端返回結果,在選主過程中進行投票

  • 觀察者(observer):可以接受客戶端連接,將寫請求轉發給 leader,但是observer不參加投票的過程,只是為了擴展系統,提高讀取的速度。

Zookeeper 的數據模型

  • 層次化的目錄結構,命名符合常規文件系統規范,類似于Linux

  • 每個節點在zookeeper中叫做znode,并且其有一個唯一的路徑標識

  • 節點Znode可以包含數據和子節點,但是EPHEMERAL類型的節點不能有子節點

  • Znode中的數據可以有多個版本,比如某一個路徑下存有多個數據版本,那么查詢這個路徑下的數據就需要帶上版本

  • 客戶端應用可以在節點上設置監視器

  • 節點不支持部分讀寫,而是一次性完整讀寫

ZooKeeper 的節點特性

ZooKeeper 節點是生命周期的,這取決于節點的類型。在 ZooKeeper 中,節點根據持續時間可以分為持久節點(PERSISTENT)、臨時節點(EPHEMERAL),根據是否有序可以分為順序節點(SEQUENTIAL)、和無序節點(默認是無序的)。

持久節點一旦被創建,除非主動移除,不然一直會保存在Zookeeper中(不會因為創建該節點的客戶端的會話失效而消失),臨時節點

Zookeeper 的應用場景

ZooKeeper 是一個高可用的分布式數據管理與系統協調框架。基于對 Paxos 算法的實現,使該框架保證了分布式環境中數據的強一致性,也正是基于這樣的特性,使得 ZooKeeper 解決很多分布式問題。

值得注意的是,ZooKeeper 并非天生就是為這些應用場景設計的,都是后來眾多開發者根據其框架的特性,利用其提供的一系列API接口(或者稱為原語集),摸索出來的典型使用方法。

數據發布與訂閱(配置中心)

發布與訂閱模型,即所謂的配置中心,顧名思義就是發布者將數據發布到ZK節點上,供訂閱者動態獲取數據,實現配置信息的集中式管理和動態更新。例如全局的配置信息,服務式服務框架的服務地址列表等就非常適合使用。

應用中用到的一些配置信息放到ZK上進行集中管理。這類場景通常是這樣:應用在啟動的時候會主動來獲取一次配置,同時,在節點上注冊一個Watcher,這樣一來,以后每次配置有更新的時候,都會實時通知到訂閱的客戶端,從來達到獲取最新配置信息的目的。 分布式搜索服務中,索引的元信息和服務器集群機器的節點狀態存放在ZK的一些指定節點,供各個客戶端訂閱使用。 分布式日志收集系統。這個系統的核心工作是收集分布在不同機器的日志。收集器通常是按照應用來分配收集任務單元,因此需要在ZK上創建一個以應用名作為path的節點P,并將這個應用的所有機器ip,以子節點的形式注冊到節點P上,這樣一來就能夠實現機器變動的時候,能夠實時通知到收集器調整任務分配。 系統中有些信息需要動態獲取,并且還會存在人工手動去修改這個信息的發問。通常是暴露出接口,例如JMX接口,來獲取一些運行時的信息。引入ZK之后,就不用自己實現一套方案了,只要將這些信息存放到指定的ZK節點上即可。 注意:在上面提到的應用場景中,有個默認前提是:數據量很小,但是數據更新可能會比較快的場景。

負載均衡

   這里說的負載均衡是指軟負載均衡。在分布式環境中,為了保證高可用性,通常同一個應用或同一個服務的提供方都會部署多份,達到對等服務。而消費者就須要在這些對等的服務器中選擇一個來執行相關的業務邏輯,其中比較典型的是消息中間件中的生產者,消費者負載均衡。

命名服務(Naming Service)

命名服務也是分布式系統中比較常見的一類場景。在分布式系統中,通過使用命名服務,客戶端應用能夠根據指定名字來獲取資源或服務的地址,提供者等信息。被命名的實體通常可以是集群中的機器,提供的服務地址,遠程對象等等——這些我們都可以統稱他們為名字(Name)。其中較為常見的就是一些分布式服務框架中的服務地址列表。通過調用ZK提供的創建節點的API,能夠很容易創建一個全局唯一的path,這個path就可以作為一個名稱。

阿里巴巴集團開源的分布式服務框架Dubbo中使用ZooKeeper來作為其命名服務,維護全局的服務地址列表。在Dubbo實現中: 服務提供者在啟動的時候,向ZK上的指定節點/dubbo/${serviceName}/providers目錄下寫入自己的URL地址,這個操作就完成了服務的發布。 服務消費者啟動的時候,訂閱/dubbo/${serviceName}/providers目錄下的提供者URL地址, 并向/dubbo/${serviceName} /consumers目錄下寫入自己的URL地址。 注意,所有向ZK上注冊的地址都是臨時節點,這樣就能夠保證服務提供者和消費者能夠自動感應資源的變化。

另外,Dubbo還有針對服務粒度的監控,方法是訂閱/dubbo/${serviceName}目錄下所有提供者和消費者的信息。

分布式通知/協調

   ZooKeeper中特有watcher注冊與異步通知機制,能夠很好的實現分布式環境下不同系統之間的通知與協調,實現對數據變更的實時處理。使用方法通常是不同系統都對ZK上同一個znode進行注冊,監聽znode的變化(包括znode本身內容及子節點的),其中一個系統update了znode,那么另一個系統能夠收到通知,并作出相應處理。

另一種心跳檢測機制:檢測系統和被檢測系統之間并不直接關聯起來,而是通過zk上某個節點關聯,大大減少系統耦合。 另一種系統調度模式:某系統有控制臺和推送系統兩部分組成,控制臺的職責是控制推送系統進行相應的推送工作。管理人員在控制臺作的一些操作,實際上是修改了ZK上某些節點的狀態,而ZK就把這些變化通知給他們注冊Watcher的客戶端,即推送系統,于是,作出相應的推送任務。

另一種工作匯報模式:一些類似于任務分發系統,子任務啟動后,到zk來注冊一個臨時節點,并且定時將自己的進度進行匯報(將進度寫回這個臨時節點),這樣任務管理者就能夠實時知道任務進度。

分布式鎖

分布式鎖,這個主要得益于ZooKeeper為我們保證了數據的強一致性。鎖服務可以分為兩類,一個是保持獨占,另一個是控制時序。

所謂保持獨占,就是所有試圖來獲取這個鎖的客戶端,最終只有一個可以成功獲得這把鎖。通常的做法是把zk上的一個znode看作是一把鎖,通過create znode的方式來實現。所有客戶端都去創建/distribute_lock節點,最終成功創建的那個客戶端也即擁有了這把鎖。 控制時序,就是所有視圖來獲取這個鎖的客戶端,最終都是會被安排執行,只是有個全局時序了。做法和上面基本類似,只是這里/distribute_lock已經預先存在,客戶端在它下面創建臨時有序節點(這個可以通過節點的屬性控制:CreateMode.EPHEMERAL_SEQUENTIAL來指定)。Zk的父節點(/distribute_lock)維持一份sequence,保證子節點創建的時序性,從而也形成了每個客戶端的全局時序。

由于同一節點下子節點名稱不能相同,所以只要在某個節點下創建znode,創建成功即表明加鎖成功。注冊監聽器監聽此znode,只要刪除此znode就通知其他客戶端來加鎖。創建臨時順序節點:在某個節點下創建節點,來一個請求則創建一個節點,由于是順序的,所以序號最小的獲得鎖,當釋放鎖時,通知下一序號獲得鎖。

分布式隊列

隊列方面,簡單來說有兩種,一種是常規的先進先出隊列,另一種是等隊列的隊員聚齊以后才按照順序執行。對于第一種的隊列和上面講的分布式鎖服務中控制時序的場景基本原理一致,這里就不贅述了。

第二種隊列其實是在FIFO隊列的基礎上作了一個增強。通常可以在/queue這個znode下預先建立一個/queue/num節點,并且賦值為n(或者直接給/queue賦值n),表示隊列大小,之后每次有隊列成員加入后,就判斷下是否已經到達隊列大小,決定是否可以開始執行了。這種用法的典型場景是,分布式環境中,一個大任務Task A,需要在很多子任務完成(或條件就緒)情況下才能進行。這個時候,凡是其中一個子任務完成(就緒),那么就去/taskList下建立自己的臨時時序節點(CreateMode.EPHEMERAL_SEQUENTIAL),當/taskList發現自己下面的子節點滿足指定個數,就可以進行下一步按序進行處理了。

使用 dokcer-compose 搭建集群

上面我們介紹了關于 ZooKeeper 有這么多的應用場景,那么接下來我們就先學習如何搭建 ZooKeeper 集群然后再進行實戰上面的應用場景。

文件的目錄結構如下:

├── docker-compose.yml

編寫 docker-compose.yml 文件

docker-compose.yml文件內容如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
version: '3.4'
services:
 zoo1:
 image: zookeeper
 restart: always
 hostname: zoo1
 ports:
  - 2181:2181
 environment:
  ZOO_MY_ID: 1
  ZOO_SERVERS: server.1=0.0.0.0:2888:3888;2181 server.2=zoo2:2888:3888;2181 server.3=zoo3:2888:3888;2181
 zoo2:
 image: zookeeper
 restart: always
 hostname: zoo2
 ports:
  - 2182:2181
 environment:
  ZOO_MY_ID: 2
  ZOO_SERVERS: server.1=zoo1:2888:3888;2181 server.2=0.0.0.0:2888:3888;2181 server.3=zoo3:2888:3888;2181
 zoo3:
 image: zookeeper
 restart: always
 hostname: zoo3
 ports:
  - 2183:2181
 environment:
  ZOO_MY_ID: 3
  ZOO_SERVERS: server.1=zoo1:2888:3888;2181 server.2=zoo2:2888:3888;2181 server.3=0.0.0.0:2888:3888;218

  在這個配置文件中,docker 運行了 3 個 zookeeper 鏡像,通過 ports 字段分別將本地的 2181, 2182, 2183 端口綁定到對應容器的 2181 端口上。

ZOO_MY_ID和ZOO_SERVERS是搭建 Zookeeper 集群需要的兩個環境變量。ZOO_MY_ID標識服務的 id,為 1-255 之間的整數,必須在集群中唯一。ZOO_SERVERS是集群中的主機列表。

在docker-compose.yml所在目錄下執行docker-compose up,可以看到啟動的日志。

連接 ZooKeeper

將集群啟動起來以后我們可以連接 ZooKeeper 對其進行節點的相關操作。

首先我們需要將 ZooKeeper 下載下來。ZooKeeper 下載地址。將其解壓進入其conf目錄中,將zoo_sample .cfg改成zoo.cfg

配置文件說明

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
# The number of milliseconds of each tick
# tickTime:CS通信心跳數
# Zookeeper 服務器之間或客戶端與服務器之間維持心跳的時間間隔,也就是每個 tickTime 時間就會發送一個心跳。tickTime以毫秒為單位。
tickTime=2000
 
# The number of ticks that the initial
# synchronization phase can take
# initLimit:LF初始通信時限
# 集群中的follower服務器(F)與leader服務器(L)之間初始連接時能容忍的最多心跳數(tickTime的數量)。
initLimit=5
 
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
# syncLimit:LF同步通信時限
# 集群中的follower服務器與leader服務器之間請求和應答之間能容忍的最多心跳數(tickTime的數量)。
syncLimit=2
 
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
# dataDir:數據文件目錄
# Zookeeper保存數據的目錄,默認情況下,Zookeeper將寫數據的日志文件也保存在這個目錄里。
dataDir=/data/soft/zookeeper-3.4.12/data
 
 
# dataLogDir:日志文件目錄
# Zookeeper保存日志文件的目錄。
dataLogDir=/data/soft/zookeeper-3.4.12/logs
 
# the port at which the clients will connect
# clientPort:客戶端連接端口
# 客戶端連接 Zookeeper 服務器的端口,Zookeeper 會監聽這個端口,接受客戶端的訪問請求。
clientPort=2181
 
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
 
 
# 服務器名稱與地址:集群信息(服務器編號,服務器地址,LF通信端口,選舉端口)
# 這個配置項的書寫格式比較特殊,規則如下:
 
# server.N=YYY:A:B
 
# 其中N表示服務器編號,YYY表示服務器的IP地址,A為LF通信端口,表示該服務器與集群中的leader交換的信息的端口。B為選舉端口,表示選舉新leader時服務器間相互通信的端口(當leader掛掉時,其余服務器會相互通信,選擇出新的leader)。一般來說,集群中每個服務器的A端口都是一樣,每個服務器的B端口也是一樣。但是當所采用的為偽集群時,IP地址都一樣,只能時A端口和B端口不一樣。

可以不修改zoo.cfg,默認配置就行,接下來在解壓后的 bin 目錄中執行命令./zkCli.sh -server 127.0.0.1:2181就能進行連接了。

Welcome to ZooKeeper!
2020-06-01 15:03:52,512 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@1025] - Opening socket connection to server localhost/127.0.0.1:2181. Will not attempt to authenticate using SASL (unknown error)
JLine support is enabled
2020-06-01 15:03:52,576 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@879] - Socket connection established to localhost/127.0.0.1:2181, initiating session
2020-06-01 15:03:52,599 [myid:] - INFO  [main-SendThread(localhost:2181):ClientCnxn$SendThread@1299] - Session establishment complete on server localhost/127.0.0.1:2181, sessionid = 0x100001140080000, negotiated timeout = 30000

WATCHER::

WatchedEvent state:SyncConnected type:None path:null
[zk: 127.0.0.1:2181(CONNECTED) 0]

接下來我們可以使用命令查看節點了

使用 ls 命令查看當前 ZooKeeper 中所包含的內容

命令:ls /

[zk: 127.0.0.1:2181(CONNECTED) 10] ls /

[zookeeper] ```

創建了一個新的 znode 節點“ zk ”以及與它關聯的字符串

命令:create /zk myData

[zk: 127.0.0.1:2181(CONNECTED) 11] create /zk myData

Created /zk [zk: 127.0.0.1:2181(CONNECTED) 12] ls / [zk, zookeeper] [zk: 127.0.0.1:2181(CONNECTED) 13] ```

獲取znode節點zk

命令:get /zk

[zk: 127.0.0.1:2181(CONNECTED) 13] get /zk

myData cZxid = 0x400000008 ctime = Mon Jun 01 15:07:50 CST 2020 mZxid = 0x400000008 mtime = Mon Jun 01 15:07:50 CST 2020 pZxid = 0x400000008 cversion = 0 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 6 numChildren = 0

```

刪除znode節點zk

命令:delete /zk

[zk: 127.0.0.1:2181(CONNECTED) 14] delete /zk

[zk: 127.0.0.1:2181(CONNECTED) 15] ls / [zookeeper] ```

由于篇幅有限,下篇文章會根據上面提到的 ZooKeeper 應用場景逐一進行用代碼進行實現。

ZooKeeper 的Docker配置文件存放處

ZooKeeper 的Docker配置文件存放處

ZooKeeper 的Docker配置文件存放處

大家可以直接從上面拉取項目,啟動RocketMQ只需要兩步

從GitHub 上面拉取項目在 ZooKeeper 文件夾中執行docker-compose up命令