分布式架构概述.docx
- 文档编号:25588957
- 上传时间:2023-06-10
- 格式:DOCX
- 页数:33
- 大小:833.77KB
分布式架构概述.docx
《分布式架构概述.docx》由会员分享,可在线阅读,更多相关《分布式架构概述.docx(33页珍藏版)》请在冰豆网上搜索。
分布式架构概述
分布式设计与开发
(一)------宏观概述
分类:
技术积累2010-08-1413:
07 13232人阅读 评论(35) 收藏 举报
在IDF05(IntelDeveloperForum2005)上,Intel首席执行官CraigBarrett就取消4GHz芯片计划一事,半开玩笑当众单膝下跪致歉,给广大软件开发者一个明显的信号,单纯依靠垂直提升硬件性能来提高系统性能的时代已结束,分布式开发的时代实际上早已悄悄地成为了时代的主流,吵得很热的云计算实际上只是包装在分布式之外的商业概念,很多开发者(包括我)都想加入研究云计算这个潮流,在google上通过“云计算”这个关键词来查询资料,查到的都是些概念性或商业性的宣传资料,其实真正需要深入的还是那个早以被人熟知的概念------分布式。
分布式可繁也可以简,最简单的分布式就是大家最常用的,在负载均衡服务器后加一堆web服务器,然后在上面搞一个缓存服务器来保存临时状态,后面共享一个数据库,其实很多号称分布式专家的人也就停留于此,大致结构如下图所示:
这种环境下真正进行分布式的只是webserver而已,并且webserver之间没有任何联系,所以结构和实现都非常简单。
有些情况下,对分布式的需求就没这么简单,在每个环节上都有分布式的需求,比如LoadBalance、DB、Cache和文件等等,并且当分布式节点之间有关联时,还得考虑之间的通讯,另外,节点非常多的时候,得有监控和管理来支撑。
这样看起来,分布式是一个非常庞大的体系,只不过你可以根据具体需求进行适当地裁剪。
按照最完备的分布式体系来看,可以由以下模块组成:
分布式任务处理服务:
负责具体的业务逻辑处理
分布式节点注册和查询:
负责管理所有分布式节点的命名和物理信息的注册与查询,是节点之间联系的桥梁
分布式DB:
分布式结构化数据存取
分布式Cache:
分布式缓存数据(非持久化)存取
分布式文件:
分布式文件存取
网络通信:
节点之间的网络数据通信
监控管理:
搜集、监控和诊断所有节点运行状态
分布式编程语言:
用于分布式环境下的专有编程语言,比如Elang、Scala
分布式算法:
为解决分布式环境下一些特有问题的算法,比如解决一致性问题的Paxos算法
因此,若要深入研究云计算和分布式,就得深入研究以上领域,而这些领域每一块的水都很深,都需要很底层的知识和技术来支撑,所以说,对于想提升技术的开发者来说,以分布式来作为切入点是非常好的,可以以此为线索,探索计算机世界的各个角落。
分布式设计与开发
(二)------几种必须了解的分布式算法
分类:
技术积累2010-08-1511:
53 12827人阅读 评论
(2) 收藏 举报
分布式设计与开发中有些疑难问题必须借助一些算法才能解决,比如分布式环境一致性问题,感觉以下分布式算法是必须了解的(随着学习深入有待添加):
∙Paxos算法
∙一致性Hash算法
Paxos算法
1)问题描述
分布式中有这么一个疑难问题,客户端向一个分布式集群的服务端发出一系列更新数据的消息,由于分布式集群中的各个服务端节点是互为同步数据的,所以运行完客户端这系列消息指令后各服务端节点的数据应该是一致的,但由于网络或其他原因,各个服务端节点接收到消息的序列可能不一致,最后导致各节点的数据不一致。
举一个实例来说明这个问题,下面是客户端与服务端的结构图:
当client1、client2、client3分别发出消息指令A、B、C时,Server1~4由于网络问题,接收到的消息序列就可能各不相同,这样就可能由于消息序列的不同导致Server1~4上的数据不一致。
对于这么一个问题,在分布式环境中很难通过像单机里处理同步问题那么简单,而Paxos算法就是一种处理类似于以上数据不一致问题的方案。
2)算法本身
算法本身我就不进行完整的描述和推导,网上有大量的资料做了这个事情,但我学习以后感觉莱斯利·兰伯特(LeslieLamport,paxos算法的奠基人,此人现在在微软研究院)的PaxosMadeSimple 是学习paxos最好的文档,它并没有像大多数算法文档那样搞一堆公式和数学符号在那里吓唬人,而是用人类语言让你搞清楚Paxos要解决什么问题,是如何解决的。
这里也借机抨击一下那些学院派的研究者,要想让别人认可你的成果,首先要学会怎样让大多数人乐于阅读你的成果,而这个描述Paxos算法的文档就是我们学习的榜样。
言归正传,透过Paxos算法的各个步骤和约束,其实它就是一个分布式的选举算法,其目的就是要在一堆消息中通过选举,使得消息的接收者或者执行者能达成一致,按照一致的消息顺序来执行。
其实,以最简单的想法来看,为了达到大伙执行相同序列的指令,完全可以通过串行来做,比如在分布式环境前加上一个FIFO队列来接收所有指令,然后所有服务节点按照队列里的顺序来执行。
这个方法当然可以解决一致性问题,但它不符合分布式特性,如果这个队列down掉或是不堪重负这么办?
而Paxos的高明之处就在于允许各个client互不影响地向服务端发指令,大伙按照选举的方式达成一致,这种方式具有分布式特性,容错性更好。
说到这个选举算法本身,可以联想一下现实社会中的选举,一般说来都是得票者最多者获胜,而Paxos算法是序列号更高者获胜,并且当尝试提交指令者被拒绝时(说明它的指令所占有的序列号不是最高),它会重新以一个更好的序列参与再次选举,通过各个提交者不断参与选举的方式,达到选出大伙公认的一个序列的目的。
也正是因为有这个不断参与选举的过程,所以Paxos规定了三种角色(proposer,acceptor,和learner)和两个阶段(accept和learn),三种角色的具体职责和两个阶段的具体过程就见PaxosMadeSimple ,另外一个国内的哥们写了个不错的PPT ,还通过动画描述了paxos运行的过程。
不过还是那句话不要一开始就陷入算法的细节中,一定要多想想设计这些游戏规则的初衷是什么。
Paxos算法的最大优点在于它的限制比较少,它允许各个角色在各个阶段的失败和重复执行,这也是分布式环境下常有的事情,只要大伙按照规矩办事即可,算法的本身保障了在错误发生时仍然得到一致的结果。
3)算法的实现
Paxos的实现有很多版本,最有名的就是googlechubby ,不过看不了源码。
开源的实现可见libpaxos 。
另外,ZooKeeper 也基于paxos解决数据一致性问题,也可以看看它是如果实现paxos的。
4)适用场景
弄清楚paxos的来龙去脉后,会发现它的适用场景非常多,Tim有篇blog《Paxos在大型系统中常见的应用场景》专门谈这个问题。
我所见到的项目里,namingservice是运用Paxos最广的领域,具体应用可参考ZooKeeper
一致性Hash算法
1)问题描述
分布式常常用Hash算法来分布数据,当数据节点不变化时是非常好的,但当数据节点有增加或减少时,由于需要调整Hash算法里的模,导致所有数据得重新按照新的模分布到各个节点中去。
如果数据量庞大,这样的工作常常是很难完成的。
一致性Hash算法是基于Hash算法的优化,通过一些映射规则解决以上问题
2)算法本身
对于一致性Hash算法本身我也不做完整的阐述,有篇blog《一致性hash算法-consistenthashing》 描述这个算法非常到位,我就不重复造轮子了。
实际上,在其他设计和开发领域我们也可以借鉴一致性Hash的思路,当一个映射或规则导致有难以维护的问题时,可以考虑更一步抽象这些映射或规则,通过规则的变化使得最终数据的不变。
一致性hash实际就是把以前点映射改为区段映射,使得数据节点变更后其他数据节点变动尽可能小。
这个思路在操作系统对于存储问题上体现很多,比如操作系统为了更优化地利用存储空间,区分了段、页等不同纬度,加了很多映射规则,目的就是要通过灵活的规则避免物理变动的代价
3)算法实现
一致性Hash算法本身比较简单,不过可以根据实际情况有很多改进的版本,其目的无非是两点:
∙节点变动后其他节点受影响尽可能小
∙节点变动后数据重新分配尽可能均衡
实现这个算法就技术本身来说没多少难度和工作量,需要做的是建立起你所设计的映射关系,无需借助什么框架或工具,sourceforge上倒是有个项目libconhash ,可以参考一下
以上两个算法在我看来就算从不涉及算法的开发人员也需要了解的,算法其实就是一个策略,而在分布式环境常常需要我们设计一个策略来解决很多无法通过单纯的技术搞定的难题,学习这些算法可以提供我们一些思路。
分布式设计与开发(三)------高一致性服务ZooKeeper
分类:
技术积累2010-08-1822:
57 10096人阅读 评论(5) 收藏 举报
分布式环境中大多数服务是允许部分失败,也允许数据不一致,但有些最基础的服务是需要高可靠性,高一致性的,这些服务是其他分布式服务运转的基础,比如namingservice、分布式lock等,这些分布式的基础服务有以下要求:
∙高可用性
∙高一致性
∙高性能
对于这种有些挑战CAP原则 的服务该如何设计,是一个挑战,也是一个不错的研究课题,Apache的ZooKeeper也许给了我们一个不错的答案。
ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务, 它暴露了一个简单的原语集,分布式应用程序可以基于它实现同步服务,配置维护和命名服务等。
关于ZooKeeper更多信息可以参见 官方文档
ZooKeeper的基本使用
搭一个分布式的ZooKeeper环境比较简单,基本步骤如下:
1)在各服务器安装 ZooKeeper
下载ZooKeeper后在各服务器上进行解压即可
tar-xzf zookeeper-3.2.2.tar.gz
2)配置集群环境
分别各服务器的zookeeper安装目录下创建名为zoo.cfg的配置文件,内容填写如下:
1.# The number of milliseconds of each tick
2.tickTime=2000
3.# The number of ticks that the initial
4.# synchronization phase can take
5.initLimit=10
6.# The number of ticks that can pass between
7.# sending a request and getting an acknowledgement
8.syncLimit=5
9.# the directory where the snapshot is stored.
10.dataDir=/home/admin/zookeeper-3.2.2/data
11.# the port at which the clients will connect
12.clientPort=2181
13.server.1=zoo1:
2888:
3888
14.server.2=zoo2:
2888:
3888
其中zoo1和zoo2分别对应集群中各服务器的机器名或ip,server.1和server.2中1和2分别对应各服务器的zookeeperid,id的设置方法为在dataDir配置的目录下创建名为myid的文件,并把id作为其文件内容即可,在本例中就分为设置为1和2。
其他配置具体含义可见官方文档。
3)启动集群环境
分别在各服务器下运行zookeeper启动脚本
/home/admin/zookeeper-3.2.2/bin/zkServer.shstart
4)应用zookeeper
应用zookeeper可以在是shell中执行命令,也可以在java或c中调用程序接口。
在shell中执行命令,可运行以下命令:
bin/zkCli.sh-server10.20.147.35:
2181
其中 10.20.147.35为集群中任一台机器的ip或机器名。
执行后可进入zookeeper的操作面板,具体如何操作可见官方文档
在java中通过调用程序接口来应用zookeeper较为复杂一点,需要了解watch和callback等概念,不过试验最简单的CURD倒不需要这些,只需要使用ZooKeeper这个类即可,具体测试代码如下:
1.public static void main(String[] args) {
2. try {
3. ZooKeeper zk = new ZooKeeper("10.20.147.35:
2181", 30000, null);
4. String name = zk.create("/company", "alibaba".getBytes(),
5. Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT_SEQUENTIAL);
6. Stat stat = new Stat();
7. System.out.println(new String(zk.getData(name, null, stat)));
8. zk.setData(name, "taobao".getBytes(), stat.getVersion(), null, null);
9. System.out.println(new String(zk.getData(name, null, stat)));
10. stat = zk.exists(name, null);
11. zk.delete(name, stat.getVersion(), null, null);
12. System.out.println(new String(zk.getData(name, null, stat)));
13. } catch (Exception e) {
14. e.printStackTrace();
15. }
16.}
以上代码比较简单,查看一下zooKeeper的apidoc就知道如何使用了
ZooKeeper的实现机理
ZooKeeper的实现机理是我看过的开源框架中最复杂的,它的解决是分布式环境中的一致性问题,这个场景也决定了其实现的复杂性。
看了两三天的源码还是有些摸不着头脑,有些超出了我的能力,不过通过看文档和其他高人写的文章大致清楚它的原理和基本结构。
1)ZooKeeper的基本原理
ZooKeeper是以FastPaxos算法为基础的,在前一篇 blog 中大致介绍了一下paxos,而没有提到的是paxos存在活锁的问题,也就是当有多个 proposer交错提交时,有可能互相排斥导致没有一个proposer能提交成功,而FastPaxos作了一些优化,通过选举产生一个leader,只有leader才能提交propose,具体算法可见FastPaxos 。
因此,要想弄得ZooKeeper首先得对FastPaxos有所了解。
2)ZooKeeper的基本运转流程
ZooKeeper主要存在以下两个流程:
∙选举Leader
∙同步数据
选举Leader过程中算法有很多,但要达到的选举标准是一致的:
∙Leader要具有最高的zxid
∙集群中大多数的机器得到响应并follow选出的Leader
同步数据这个流程是ZooKeeper的精髓所在,并且就是FastPaxos算法的具体实现。
一个牛人画了一个ZooKeeper数据流动图,比较直观地描述了ZooKeeper是如何同步数据的。
以上两个核心流程我暂时还不能悟透其中的精髓,这也和我还没有完全理解FastPaxos算法有关,有待后续深入学习
ZooKeeper的应用领域
Tim在blog中提到了Paxos所能应用的几个主要场景,包括databasereplication、namingservice、config配置管理、accesscontrollist等等,这也是ZooKeeper可以应用的几个主要场景。
此外, ZooKeeper官方文档中提到了几个更为基础的分布式应用,这也算是ZooKeeper的妙用吧
1)分布式Barrier
Barrier是一种控制和协调多个任务触发次序的机制,简单说来就是搞个闸门把欲执行的任务给拦住,等所有任务都处于可以执行的状态时,才放开闸门。
它的机理可以见下图所示:
在单机上JDK提供了CyclicBarrier这个类来实现这个机制,但在分布式环境中JDK就无能为力了。
在分布式里实现Barrer需要高一致性做保障,因此 ZooKeeper可以派上用场,所采取的方案就是用一个Node作为Barrer的实体,需要被Barrer的任务通过调用exists()检测这个Node的存在,当需要打开Barrier的时候,删掉这个Node,ZooKeeper的watch机制会通知到各个任务可以开始执行。
2) 分布式 Queue
与 Barrier类似 分布式环境中 实现Queue也需要高一致性做保障, ZooKeeper提供了一个种简单的方式,ZooKeeper通过一个Node来维护Queue的实体,用其children来存储Queue的内容,并且 ZooKeeper的create方法中提供了顺序递增的模式,会自动地在name后面加上一个递增的数字来插入新元素。
可以用其 children来构建一个queue的数据结构,offer的时候使用create,take的时候按照children的顺序删除第一个即可。
ZooKeeper保障了各个server上数据是一致的,因此也就实现了一个 分布式 Queue。
take和offer的实例代码如下所示:
1./**
2. * Removes the head of the queue and returns it, blocks until it succeeds.
3. * @return The former head of the queue
4. * @throws NoSuchElementException
5. * @throws KeeperException
6. * @throws InterruptedException
7. */
8.public byte[] take() throws KeeperException, InterruptedException {
9. TreeMap
10. // Same as for element. Should refactor this.
11. while(true){
12. LatchChildWatcher childWatcher = new LatchChildWatcher();
13. try{
14. orderedChildren = orderedChildren(childWatcher);
15. }catch(KeeperException.NoNodeException e){
16. zookeeper.create(dir, new byte[0], acl, CreateMode.PERSISTENT);
17. continue;
18. }
19. if(orderedChildren.size() == 0){
20. childWatcher.await();
21. continue;
22. }
23. for(String headNode :
orderedChildren.values()){
24. String path = dir +"/"+headNode;
25. try{
26. byte[] data = zookeeper.getData(path, false, null);
27. zookeeper.delete(path, -1);
28. return data;
29. }catch(KeeperException.NoNodeException e){
30. // Another client deleted the node first.
31. }
32. }
33. }
34.}
35./**
36. * Inserts data into queue.
37. * @param data
38. * @return true if data was successfully added
39. */
40.public boolean offer(byte[] data) throws KeeperException, InterruptedException{
41. for(;;){
42. try{
43. zookeeper.create(dir+"/"+prefix, data, acl, CreateMode.PERSISTENT_SEQUENTIAL);
44. return true;
45. }catch(KeeperException.NoNodeException e){
46. zookeeper.create(dir, new byte[0], acl, CreateMode.PERSISTENT);
47. }
48. }
49.}
3)分布式lock
利用 ZooKeeper实现 分布式lock,主要是通过一个Node来代表一个Lock,当一个client去拿锁的时候,会在这个Node下创建一个自增序列的child,然后通过getChildren()方式来check创建的child是不是最靠前的,如果是则拿到锁,否则就调用exist()来check第二靠前的child,并加上watch来监视。
当拿到锁的child执行完后归还锁,归还锁仅仅需要删除自己创建的child,这时watch机制会通知到所有没有拿到锁的client,这些child就会根据前面所讲的拿锁规则来竞争锁。
分布式设计与开发(四)------数据拆分
分类:
技术积累2010-08-2616:
50 5115人阅读 评论(5) 收藏 举报
一个大型系统里各个环节中最容易出性能和可用性问题的往往是数据库,因此分布式设计与开发
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 分布式 架构 概述