码迷,mamicode.com
首页 >  
搜索关键字:hdfs architecture    ( 6541个结果
Symbol(s) not found for architecture arm64
修改 Project --> BuildSetting --》Architectures:Build Active Architecture Only = YES;Valid Architectures = arm64 armv7 armv7s armv6;原文:http://stackoverfl...
分类:其他好文   时间:2014-09-09 15:44:09    阅读次数:203
[Architecture Design] 3-Layer基础架构
[Architecture Design] 3-Layer基础架构三层式体系结构只要是软件从业人员,不管是不是本科系出身的,相信对于三层式体系结构一定都不陌生。在三层式体系结构中,将软件开发所产出的程序代码,依照不同用途归类为:系统表示层、领域逻辑层、数据存取层。其中:系统表示层 (Presenta...
分类:其他好文   时间:2014-09-09 12:05:28    阅读次数:138
redis在.net架构中的应用(1)--使用servicestack连接redis(转)
引言:作为少有的.net架构下的大型网站,stackoverflow曾发表了一篇文章,介绍了其技术体系,原文链接http://highscalability.com/blog/2011/3/3/stack-overflow-architecture-update-now-at-95-million-...
分类:Web程序   时间:2014-09-09 12:01:48    阅读次数:221
Hadoop管理员的十个最佳实践
前言接触Hadoop有两年的时间了,期间遇到很多的问题,既有经典的NameNode和JobTracker内存溢出故障,也有HDFS存储小文件问题,既有任务调度问题,也有MapReduce性能问题.遇到的这些问题有些是Hadoop自身的缺陷(短板),有些则是使用的不当。在解决问题的过程中,有时需要翻源...
分类:其他好文   时间:2014-09-07 14:46:55    阅读次数:449
nutch 生产者队列的大小如何控制
如果topN 设置为1000万 ,不会这1000万都放到QueueFeeder(内存)中,而是从文件系统中(hdfs)中迭代不断填充QueueFeeder。队列中默认存放 threadcount * 50 。 这个类的作用是从文件系统读文件填充队列。/** * This class fee...
分类:其他好文   时间:2014-09-06 02:13:22    阅读次数:291
修改hadoop配饰文件文件后导致hive无法找到原有的dfs文件
修改了hadoop/etc/hadoop/core-site.xml文件中的 fs.defaultFS hdfs://master:9000 属性值后,会导致原有的hive数据找不到,需要到hive的metastore数据库中更改SDS表中的LOCATION属性,将对应的hdfs参数值改成新的值.....
分类:其他好文   时间:2014-09-05 23:39:42    阅读次数:228
Hadoop HDFS (1)
HDFS是Hadoop Distributed Filesystem,Hadoop分布式文件系统。 当数据大到一台机器无法存储时,就要把它分散到多台机器上去,通过网络管理多台计算机上的存储空间的文件系统,就称为分布式文件系统。网络程序的复杂性使得分布式文件系统比普通的磁盘文件系统复杂得多,例如其中最大的挑战之一就是要容错,要在其中一个或几个节点死掉后,仍能保证数据完整。 HDF...
分类:其他好文   时间:2014-09-05 18:13:41    阅读次数:219
reactor设计模式
reactor设计模式,是一种基于事件驱动的设计模式。《Pattern-Oriented Software Architecture, Volume 2》对这个模式做了具体的解说。这个模式的结构图例如以下:图中的handle相应的是操作系统提供的句柄,比如I/O句柄,Event_Handler类持有...
分类:其他好文   时间:2014-09-05 12:47:51    阅读次数:220
提高mapreduce性能的七点建议
Cloudera提供给客户的服务内容之一就是调整和优化MapReduce job执行性能。MapReduce和HDFS组成一个复杂的分布式系统,并且它们运行着各式各样用户的代码,这样导致没有一个快速有效的规则来实现优化 代码性能的目的。在我看来,调整cluster或job的运行更像一个医生对待病人....
分类:其他好文   时间:2014-09-05 12:42:31    阅读次数:307
目前配过的规模最大的HDFS
Configured Capacity: 249915348971520 (227.30 TB) Present Capacity: 153799153632972 (139.88 TB) DFS Remaining: 153799146688512 (139.88 TB) DFS Used: 6944460 (6.62 MB) DFS Used%: 0.00% Under replicated blocks: 0 Blocks with corrupt replicas: 0 Missing blocks...
分类:其他好文   时间:2014-09-05 10:03:11    阅读次数:257
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!