`

Hadoop的几个明显缺点

阅读更多
Hadoop的几个明显缺点如下:
1. 采用Java实现。Java的IO处理虽然没有性能瓶颈,但是对于CPU密集型的任务是一个噩耗。这点可以通过对比HBase和Hypertable两个开源的Bigtable实现来做初步的验证。
2. 开源项目。开源本身是一柄双刃剑,它方便了大多数人,但是对于一个有一定规模的公司,项目发展方向的把握,技术保密,技术支持等都是采用Hadoop这种开源项目必须考虑的问题。另外,Hadoop作为一个比较新的项目,性能和稳定性的提升还需要一定时间。
1. 简化运维:在大规模集群中,机器宕机,网络异常,磁盘错都属于正常现象,因此错误检查,自动恢复是核心架构目标。Google的解决方案就已经做到了机器随时加入/离开集群。
2. 高吞吐量:高吞吐量和低延迟是两个矛盾的目标,Hadoop优先追求高吞吐量,设计和实现中采用了小操作合并,基于操作日志的更新等提高吞吐量的技术。
3. 节省机器成本:Hadoop鼓励部署时利用大容量的廉价机器(性价比高但是机器故障概率大),数据的存储和服务也分为HDFS和HBase两个层次,从而最大限制地利用机器资源。
4. 采用单Master的设计:单Master的设计极大地简化了系统的设计和实现,由此带来了机器规模限制和单点失效问题。对于机器规模问题,由于 Hadoop是数据/计算密集型系统,而不是元数据密集型系统,单Master设计的单个集群可以支持成千上万台机器,对于现在的几乎所有应用都不成问题;而单点失效问题可以通过分布式锁服务或其它机制有效地解决。
分享到:
评论
1 楼 Prepared 2017-06-01  
  

相关推荐

    基于Hadoop的集群部署与管理系统的设计与实现毕业论文(62页27073字数).doc

    着重研究Hadoop相关系统的设计思想和基本框架,并设计和实现一个自动化、可扩展、可监控、可管理的应用于大规模Hadoop集群的部署管理系统,本文主要研究内容包含几个部分: 1.说明项目背景,分析项目的研究意义和...

    Hadoop现有测试框架探幽

    这样的开发模式已经持续了好几年,但是可以从中发现的一个现象:对于我们修复的bug或者开发的功能,一直都没有一种很规范,很统一,高效,好管理,并且一目了然的测试的方式。常常的现象是:开发了一个功能或修复了...

    MapReduce、Spark、Phoenix、Disco、Mars浅析及性能测试

    目前开源社区有许多并行计算模型和框架可供选择,按照实现方式、运行机制、依附的产品生态圈等可以被划分为几个类型,每个类型各有优缺点,如果能够对各类型的并行计算框架都进行深入研究及适当的缺点修复,就可以为...

    基于云计算的虚拟银行海量数据存储设计

    本论文的主要工作是在基于云计算理论的...因为我们的系统是针对JEPAY 虚拟银行的,所以我们的系统设计是基于关系数据模型的,在设计中主要包括如下几个方面:系统的查询,事务处理,目录管理,容错处理,和安全性等等。

    常用的几种大数据架构剖析

    本文来自于jianshu,文章主要分析了目前数据处理领域使用比较多的几种架构,详细对架构优缺点和使用场景进行了介绍。数据分析工作虽然隐藏在业务系统背后,但是具有非常重要的作用,数据分析的结果对决策、业务发展...

    五种基于MapReduce的并行计算框架介绍及性能测试

    目前开源社区有许多并行计算模型和框架可供选择,按照实现方式、运行机制、依附的产品生态圈等可以被划分为几个类型,每个类型各有优缺点,如果能够对各类型的并行计算框架都进行深入研究及适当的缺点修复,就可以为...

    research-pse:部分投机执行

    这种我们称之为完全推测执行 (FSE) 的从头开始的执行有几个缺点。 首先,推测映射任务必须重新读取输入数据,这会增加 I/O 成本,因为输入数据总是来自 Hadoop 分布式文件系统 (HDFS)。 其次,一个推测性的reduce...

    37篇经过消化云计算论文打包下载

    本文讨论了云应用程序编程面临的挑战与发展,通过几个应用程序的讨论,演示了可能的解决方案。同时讨论了怎样正确使用抽象的编程接口,框架使其更有效,可扩展,最重要的独立于系统,这些接口框架支持普通的编程执行...

    37篇经过消化的云计算论文

    本文讨论了云应用程序编程面临的挑战与发展,通过几个应用程序的讨论,演示了可能的解决方案。同时讨论了怎样正确使用抽象的编程接口,框架使其更有效,可扩展,最重要的独立于系统,这些接口框架支持普通的编程执行...

Global site tag (gtag.js) - Google Analytics