适应异构集群的Mesos多资源调度DRF增强算法
时间:2016-06-01 10:42来源:核心期刊网 作者:柯尊旺 于炯等 点击:
次
【论文摘要】云计算集群环境下多资源分配的公平性是考量资源调度子系统最重要的指标之一,DRF作为通用的多资源公平分配算法,在异构异质的集群环境下可能有失公平性。在研究Mesos框架中DRF多资源公平分配算法的基础上,设计并实现了增加机器性能评估影响因子
【论文摘要】云计算集群环境下多资源分配的公平性是考量资源调度子系统最重要的指标之一,DRF作为通用的多资源公平分配算法,在异构异质的集群环境下可能有失公平性。在研究Mesos框架中DRF多资源公平分配算法的基础上,设计并实现了增加机器性能评估影响因子的meDRF分配算法。将计算节点的机器性能得分,作为DRF主导份额计算的因子,使得计算任务有均等的机会获得优质计算资源和劣质计算资源。通过选取Kmeans、Bayes及PageRank 等多种作业进行实验,实验结果表明:meDRF较DRF分配算法更能体现多资源分配的公平性,且资源分配具有更好的稳定性,能有效提高系统资源的利用率。
【论文关键词】资源分配;DRF分配算法;公平性;Mesos
Abstract:The fairness of multiresource allocation is one of the most important indicators in the resource scheduling subsystem, Dominant Resource Fairness (DRF), as a general resource allocation algorithm for multiresources scenarios, it may be unfair in heterogeneous cluster environment. On the basis of the research on the DRF multiresource fair allocation algorithm under Mesos framework environment, meDRF allocation algorithm was designed and implemented to evaluate the influence factors of the performance of the server. The machine performance scores of computing nodes, as the dominant factor of DRF share calculation, made computing tasks have equal chance to obtain high quality computing resources and poor computing resources. Experiments were conducted by using Kmeans, Bayes and PageRank jobs under Hadoop. The experimental results show that, compared with DRF allocation algorithm, the meDRF algorithm can reflect more fairness of the allocation of resources, and the allocation of resources has better stability, which effectively improves the utilization of system resources.
Key words:resource allocation; Dominant Resource Fairness (DRF) allocation algorithm; fairness; Mesos
0 引言
随着云计算、大数据等新技术及应用的高速发展以及智能终端爆炸式增长,以Hadoop[1]、Spark[2]、Cloudra及Strom等为代表的大数据计算框架得到了快速发展。但是,传统数据中心的资源管理模式无法有效应对种类繁多的上层计算框架的个性化资源管理需求。在这样的背景下,作为下一代数据中心的创新者,软件定义数据中心(Software Defined Data Center,SDDC)[3]将服务器进行虚拟化、软件化数据中心的一切物理资源,并适应上层应用程序不断变化的资源需求,动态地进行资源分配。SDDC通过整合多种计算资源实现资源的统一管理和调度,在计算资源有限的情况下,为确保各计算任务节点的利益最大化,资源调度子系统应该提供一种公平的资源分配策略,使得各计算任务节点具有均等的机会获得计算资源来完成任务。另一方面,不同的计算任务(或作业)对不同资源类型的需求也存在着不同程度的差异,如:计算密集型的MapReduce[4-10]作业更多地需要CPU资源,而I/O密集型的MapReduce作业则需要更多的磁盘及内存资源。因此,SDDC集群中资源调度子系统需要解决多类型资源分配的公平性问题。
当前,资源公平分配方面的研究工作及实践主要集中在单资源类型的场景,以至于在多种资源类型和异质资源混合的应用场景下,仍采用首先将单资源进行抽象,然后再进行资源的分配工作,如Hadoop的slotbased[11]公平调度策略[12-13]。在单资源公平分配场景下,maxmin fairness[14-15]是最通用的单资源公平分配算法,它通过使资源分配向量最小值的最大化,确保任何资源请求不被饿死,是一种优秀的兼顾有效性和公平性的分配策略。而在多资源类型公平分配方面,DRF(Dominant Resource Fairness)[16]是一种针对多资源应用场景的maxmin fairness算法。DRF通过对“主导资源份额(Dominant Share)”进行maxmin fairness,比较合理地解决了多资源类型的分配公平性问题。经过大量的测试工作表明:DRF算法比slotbased算法更能够满足多资源分配的应用场景,资源分配的效率及公平性表现更佳[17]。
在DRF的实践中,资源调度管理框架Mesos[18-19]采用了DRF作为它的多资源公平分配算法,在集群节点的计算资源同构(即集群中的节点配置不存在差异)的情况下,DRF算法表现出优秀的性能,并能很好地权衡资源调度的有效性和公平性。但在实际的应用场景中,同一集群中的不同节点之间的资源质量可能存在着不同程度的差异,而DRF算法并没有考虑因为计算资源质量的差异性而导致的资源分配不公平性问题。为了改进DRF算法对异构集群环境的适应能力,本文通过增加节点性能评估影响因子,提出一种增强的DRF资源分配算法meDRF,使资源调度的各上层应用计算任务之间能够有均等的机会分配到满足需求的计算资源。
1 DRF分配算法
1.1 DRF算法简介
|
核心期刊网(www.hexinqk.com)秉承“诚以为基,信以为本”的宗旨,为广大学者老师提供投稿辅导、写作指导、核心期刊推荐等服务。
核心期刊网专业期刊发表机构,为学术研究工作者解决北大核心、CSSCI核心、统计源核心、EI核心等投稿辅导咨询与写作指导的问题。
投稿辅导咨询电话:18915033935
投稿辅导客服QQ:
1002080872、
1003158336
投稿辅导投稿邮箱:1003158336@qq.com
|
------分隔线----------------------------